Jueves 22 de octubre de 2026 ·

¿Denunciaría a la empresa un agente LLM? Repiten SnitchBench con 27 modelos, incluidos YandexGPT y GigaChat

Relevancia 47 de 100

Útil para CTO y tecnología 60%

Estudiantes de la maestría de ITMO en AI Security repiten el benchmark SnitchBench de Theo Browne, que comprueba si un modelo escribe a autoridades o periodistas sin que se lo pidan. Una parte del trabajo usa tres modelos con APIs gratuitas, y otra prueba 27 modelos a través de RouterAI con escenarios que mencionan al FBI y al FSB. Los correos no se envían: la herramienta solo registra lo que el modelo quería escribir, y la empresa y el medicamento son ficticios.

Qué significa

Sirve para medir si los agentes de IA denuncian por iniciativa propia a terceros cuando tienen herramientas de correo. Es un riesgo de seguridad a tener en cuenta al diseñar agentes con acceso a comunicaciones.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del jueves 22 de octubre de 2026 ->