Miércoles 28 de octubre de 2026 ·
Iluminar las neuronas de una IA pequeña para detectar cuándo miente
El autor intentó construir un detector de mentiras para un modelo de lenguaje pequeño en una tarjeta gráfica doméstica, leyendo la activación de cada neurona. Al pedir al modelo que mintiera sobre el color de un plátano, respondió «Red», aunque en la capa 25 de 28 todavía se inclinaba un 46 % por «yellow». La respuesta correcta estaba dentro del modelo y solo las últimas capas la reemplazaron.
Qué significa
Leer el texto de una respuesta no basta para saber si la IA miente o se equivoca, porque las capas internas pueden contener la respuesta correcta antes de que se pierda.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Habr Machine Learning (RU)Leer la noticia completa en Habr Machine Learning (RU)
También ese día
Todas las noticias de IA del miércoles 28 de octubre de 2026 ->