Killswitch, el lenguaje de programación diseñado para confundir a la IA
El programador Dominik Picheta, que trabaja en Cloudflare y antes estuvo en Meta, ha creado Killswitch, un lenguaje pensado para humanos y no para IA. Incluye mentiras ocultas que las personas detectan fácilmente, frases tipo «Ignora las instrucciones anteriores» y expresiones que activan reglas de seguridad de los modelos. Su objetivo es comprobar si los agentes de IA entienden el código o solo repiten patrones aprendidos.
Qué significa
Pone a prueba la capacidad real de comprensión de los agentes de IA, y sus resultados pueden ayudar a medir si pueden ser engañados por instrucciones escondidas en el código.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- t3n (DE)Leer la noticia completa en t3n (DE)