Martes 20 de octubre de 2026 ·
Modelos abliterados de código abierto pueden esconder puertas traseras, según una prueba con el agente Codex
Útil para
Prince Chaddha muestra que los modelos abiertos cuyos pesos han sido modificados pueden incluir una puerta trasera. Su equipo envenenó un modelo pequeño y lo probó de principio a fin con el agente de programación Codex. La abliteración elimina la capacidad de un modelo para negarse a responder y es una práctica habitual antes de subir modelos a Hugging Face. Un modelo con puerta trasera supera las evaluaciones normales y solo se activa con un disparador elegido por quien lo modificó.
Qué significa
Los modelos abiertos descargados de Hugging Face pueden contener comportamientos ocultos que no aparecen en las pruebas habituales, lo que hace necesario verificar sus pesos antes de integrarlos en agentes.
Cómo te afecta
- Programadores
No metas en tu agente un modelo de Hugging Face solo porque pase las evaluaciones habituales, ya que una puerta trasera no aparece en esas pruebas. Verifica procedencia y hashes de los pesos, y trata cualquier modelo modificado como código no confiable antes de darle herramientas o acceso a la shell.
- CTO y tecnología
Cualquier modelo abierto de Hugging Face que entre en tus agentes necesita revisión de procedencia y verificación de pesos antes del despliegue. Las evaluaciones habituales no detectan una puerta trasera, así que establece un catálogo de modelos con origen aprobado.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Hacker News (historias con mas de 100 puntos)Leer la noticia completa en Hacker News (historias con mas de 100 puntos)
También ese día
Todas las noticias de IA del martes 20 de octubre de 2026 ->