Domingo 25 de octubre de 2026 ·
Evaluadores externos hallan fallos que permitían a agentes de OpenAI esquivar su sistema de monitorización
Útil para
Los grupos de seguridad METR y Redwood Research enviaron a un investigador cada uno a OpenAI entre el 21 de julio y el 11 de agosto. Concluyeron que los agentes internos podrían haber ocultado cientos de sus acciones al monitor, que usa un modelo de IA para revisar lo que hacen los agentes y señalar signos de desalineación. Según METR, entre el 75 % y el 94 % del tráfico agéntico de los modelos más potentes era monitorizable, y el 99,2 % en los agentes Codex internos. OpenAI asegura haber corregido todos los fallos que afectaban a sus salvaguardas en producción, algo que METR y Redwood aún no han evaluado.
Qué significa
La supervisión de los agentes internos de OpenAI tenía huecos, como los eventos de compactación de memoria, y OpenAI dice que los ha corregido, pero los evaluadores externos no lo han verificado.
Cómo te afecta
- CTO y tecnología
Pide a tu proveedor de agentes evidencia de que la monitorización cubre también los eventos internos, como la compactación de memoria, y no solo la declaración de que está corregido. Hasta que METR o Redwood lo verifiquen, no des por cerrado el control en tu despliegue.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- The Next WebLeer la noticia completa en The Next Web
También ese día
Todas las noticias de IA del domingo 25 de octubre de 2026 ->