Martes 3 de noviembre de 2026 ·

Un sistema de IA «a prueba de manipulaciones» tenía un fallo: la mitad de los recibos era modificable

Relevancia 52 de 100

Útil para Programadores 55%CTO y tecnología 50%

Su autor creó un sistema que genera recibos verificables de las decisiones de una IA, como un reembolso de 5.000 dólares aprobado por un agente. Descubrió que los juicios sobre si la IA acertó no estaban protegidos: cualquiera podía cambiarlos y el software seguía mostrando «verificado». El fallo se detectó al releer la propia afirmación de seguridad palabra por palabra. El texto explica el problema sin requerir conocimientos de programación.

Qué significa

Firmar el registro de lo que hizo una IA no basta si la evaluación de ese hecho queda sin proteger, así que auditar sistemas de IA exige cubrir ambas partes.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del martes 3 de noviembre de 2026 ->