Martes 20 de octubre de 2026 ·
Los modelos abiertos trasladan la seguridad a quien los descarga
Útil para
Un artículo de Microsoft y NVIDIA sobre riesgos de los modelos de pesos abiertos sostiene que el riesgo depende del modelo, su uso y las salvaguardas que lo rodean, y que la diferencia con los modelos cerrados está en quién proporciona esas salvaguardas. Al descargar los pesos, la organización asume la vigilancia, los filtros y la verificación de integridad. Los autores advierten de que ajustes legítimos como el fine-tuning, la fusión o la compresión pueden debilitar las protecciones sin afectar al rendimiento, y recomiendan verificar la procedencia con firmas criptográficas antes de evaluar el comportamiento. Otras investigaciones citadas muestran puertas traseras en modelos abiertos y manipulaciones de la memoria integrada que apenas alteran los parámetros.
Qué significa
Quien descarga un modelo abierto asume la seguridad que antes ofrecía el proveedor en servicios cerrados, incluidos filtros, monitorización y verificación de integridad. Las pruebas de comportamiento no bastan para detectar una modificación que conserva el rendimiento, por lo que la procedencia del fichero pasa a ser parte del control.
Cómo te afecta
- CTO y tecnología
Antes de estandarizar un modelo abierto, evalúa su seguridad aparte del rendimiento, porque el ajuste fino o la compresión pueden quitar salvaguardas sin que lo notes en tus pruebas. Quien lo descarga asume esa responsabilidad, asígnala en tu política.
- Programadores
Si descargas pesos abiertos como Qwen2.5-7B-Instruct, no des por hecho que las salvaguardas siguen tras un fine-tuning, una fusión o una cuantización. Ya hay una puerta trasera documentada en esa versión, así que valida el modelo antes de integrarlo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ
También ese día
Todas las noticias de IA del martes 20 de octubre de 2026 ->