ISO/IEC 27090 busca dar seguridad a los sistemas de IA frente a sus amenazas específicas
Útil para
ISO e IEC han publicado ISO/IEC 27090, una guía de 56 páginas que describe las amenazas de seguridad propias de los sistemas de IA, sus consecuencias y las medidas para detectarlas y defenderse. No es certificable, porque no tiene carácter de requisito. Trata ataques como el envenenamiento de datos, la manipulación de pesos del modelo, la extracción de modelos y la inyección de prompts. Complementa a ISO/IEC 27001 y 27002 y cubre el hueco que ISO/IEC 42001 deja, ya que exige medidas de seguridad pero no nombra ataques.
Qué significa
Las organizaciones que desarrollan o usan IA tendrán un marco común para evaluar riesgos como el envenenamiento de datos o la inyección de prompts, algo que las normas de gestión existentes no detallaban. Al ser una guía sin certificación, sirve de referencia técnica y no como obligación.
Cómo te afecta
- CTO y tecnología
Usa ISO/IEC 27090 como referencia para revisar cómo tus proveedores y agentes se protegen frente a envenenamiento de datos e inyección de prompts. Como complementa a la 27001 y a la 42001, puedes incorporarla a vuestro marco de riesgos sin exigir certificación.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- heise online (DE)Leer la noticia completa en heise online (DE)
- Golem (DE)Leer la noticia completa en Golem (DE)