Microsoft y Nvidia piden verificar la procedencia y la seguridad de los modelos de IA de pesos abiertos
Útil para
Microsoft y Nvidia publicaron un documento conjunto que identifica 30 tipos de riesgo en cinco categorías, entre ellas ciberseguridad, protección de datos, contenido, interacción humano-IA y sesgos. Recomiendan verificar el origen de los modelos, probar las configuraciones que se van a desplegar y reevaluar los riesgos tras cambios relevantes. Es el primero de una serie planeada y se apoya en las normas NIST e ISO.
Qué significa
Los cambios en los pesos o la configuración de un modelo abierto, como ajustarlo, fusionarlo o reempaquetarlo, pueden debilitar sus salvaguardas aunque siga realizando bien su tarea. Las empresas que despliegan estos modelos tendrán un marco común para evaluar esos riesgos.
Cómo te afecta
- CTO y tecnología
Antes de desplegar un modelo de pesos abiertos, exige comprobar su procedencia y prueba la configuración exacta que vas a usar. Reevalúa cada vez que se ajuste o reempaquete, y toma como base el marco NIST e ISO que citan para tu política de aprobación.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- CSO OnlineLeer la noticia completa en CSO Online