Viernes 6 de noviembre de 2026 ·
Investigadores de UC Berkeley advierten de que el ajuste fino puede romper en silencio la privacidad de los modelos de IA
Útil para
Investigadores de UC Berkeley describen el «colapso de privacidad»: un modelo general que se reentrena con conjuntos de datos pequeños y aparentemente inofensivos, como transcripciones de atención al cliente, deja poco a poco de respetar las normas de privacidad contextual. En modelos como GPT-4o-mini, la precisión en pruebas de privacidad contextual cayó hasta un 98-99%, mientras seguían superando las evaluaciones de seguridad convencionales. Los revisores humanos tampoco suelen detectar el problema.
Qué significa
Una empresa que adapte un modelo general con sus datos de atención al cliente podría obtener un asistente que comparte información indebida sin que las pruebas de seguridad habituales lo detecten.
Cómo te afecta
- CTO y tecnología
Si vas a reentrenar un modelo con transcripciones de atención al cliente, añade pruebas de privacidad contextual antes de desplegarlo, porque las evaluaciones de seguridad habituales no detectan la caída. Trátalo como un riesgo de datos del proyecto, no solo de calidad del modelo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Crypto BriefingLeer la noticia completa en Crypto Briefing
También ese día
Todas las noticias de IA del viernes 6 de noviembre de 2026 ->