Sábado 7 de noviembre de 2026 ·

Andy Hall: las IA detectan fallos de otras IA, pero con más falsas alarmas cuanto más a fondo buscan. Tasa de detección de GPT-5 cercana al 98 % con un 5 % de falsos positivos

Relevancia 68 de 100

Útil para Programadores 60%CTO y tecnología 55%

Andy Hall, que trabaja en el Anthropic Institute y está en excedencia de la Universidad de Stanford, repite y amplía un estudio de METR sobre protocolos de agentes de IA. Según su texto, cuanto más exhaustiva es la búsqueda, más casos inocentes marcan los modelos como sospechosos. Con una tasa de falsas alarmas del 5 %, GPT-5 detectó casi el 98 % de los casos de reward hacking. Hall concluye que, por ahora, estos modelos sirven mejor para estimar la frecuencia de los fallos que para controles de seguridad que deban captar todos los casos.

Qué significa

Quien quiera vigilar agentes de IA no puede confiar todavía en otra IA para detectar cada fallo sin pasar por alto casos ni generar muchas falsas alarmas. Estas herramientas son más útiles para medir con qué frecuencia ocurren los problemas.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del sábado 7 de noviembre de 2026 ->