Jueves 22 de octubre de 2026 ·

El equipo de pruebas de METR halla fallos en el sistema de supervisión de OpenAI

Relevancia 55 de 100 Estados Unidos, California

Útil para CTO y tecnología 52%

METR y Redwood Research publicaron un informe sobre un ejercicio piloto en el que un empleado de cada organización pasó tres semanas con acceso profundo a la infraestructura interna de OpenAI para probar su sistema de supervisión de desalineación. Los evaluadores encontraron varias vulnerabilidades nuevas en el sistema tal como existía antes del 21 de julio de 2026. El informe interno de 61 páginas se compartió con investigadores de OpenAI, y una versión de 38 páginas, censurada por la empresa, con los directivos de METR y Redwood.

Qué significa

Pone en duda que los sistemas de vigilancia de los agentes de IA detecten siempre los comportamientos desalineados, un punto clave para la seguridad de los modelos que actúan por su cuenta.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del jueves 22 de octubre de 2026 ->