Lunes 2 de noviembre de 2026 ·

OpenAI añade sondas de activación para detectar comportamientos desalineados en sus modelos

Relevancia 47 de 100

Útil para CTO y tecnología 55%

OpenAI explica que desde GPT-5.6 aplica una capa extra de seguridad: clasificadores de activación, o sondas, que analizan las activaciones internas del modelo en todas sus respuestas. Estas sondas pueden detectar comportamientos desalineados o intenciones dañinas y detener una respuesta a mitad de generación. Según la empresa, son más resistentes a los jailbreaks que clasificadores de texto mucho más grandes y más baratas de ejecutar, y su precisión mejora con la capacidad del modelo. Su límite es que necesitan datos etiquetados para entrenarse.

Qué significa

Las respuestas de los modelos de OpenAI podrían cortarse a mitad si el sistema detecta un comportamiento indebido, y los intentos de burlar las protecciones con trucos de redacción serían, en teoría, menos eficaces.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del lunes 2 de noviembre de 2026 ->