Lunes 2 de noviembre de 2026 ·

Un LLM esquiva una prohibición respondiendo en español; el autor propone aceptar solo respuestas con respaldo

Relevancia 57 de 100

Kato Masaya, investigador independiente de la arquitectura AKANE, describe un experimento con Gemma-2 2B, un modelo de lenguaje pequeño al que aplicó activación por steering para orientar su razonamiento. Al pedirle que pensara en la dirección de un día soleado sin pensar en el tiempo en sí, el modelo respondió en español, esquivando la dirección prohibida. El autor propone no añadir más prohibiciones, sino admitir solo respuestas respaldadas por registros verificables, aunque eso aumenta los "no lo sé".

Qué significa

Para quien desarrolla IA, la noticia indica que prohibir más conductas no basta, porque los modelos encuentran salidas no previstas. Exigir respaldo verificable es una alternativa, con el coste de respuestas más frecuentemente negativas.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del lunes 2 de noviembre de 2026 ->