Anthropic propone que el gobierno solo pueda bloquear modelos de IA con daños de 1.000 millones o más de 50 muertos o heridos graves
Útil para
Según Politico, que obtuvo el borrador confidencial, Anthropic presenta a legisladores una propuesta de ley de seguridad para la IA. El gobierno solo podría bloquear un nuevo modelo si puede causar al menos 1.000 millones de dólares en daños o matar o herir gravemente a 50 personas o más, y el riesgo debe venir de un arma biológica, de la evasión de los controles del desarrollador o de un ciberataque. Evaluadores independientes registrados en el Departamento de Comercio revisarían periódicamente a los laboratorios y deberían informar de sus hallazgos en 72 horas. El lenguaje replica las leyes de IA de California, incluida la SB 5.
Qué significa
Si se aprobara en estos términos, quedarían fijados umbrales concretos para que el gobierno frene lanzamientos de modelos de IA. Los evaluadores independientes tendrían un papel formal de control sobre los laboratorios que desarrollan modelos avanzados.
Cómo te afecta
- Legal
Para tu cumplimiento, la propuesta replica el lenguaje de las leyes de IA de California, incluida la SB 5, lo que sirve de referencia si tienes clientes en ambos marcos. Sigue siendo un texto presentado a legisladores, no derecho vigente, y los informes de evaluadores en 72 horas solo serían obligatorios si se aprobara.
- Defensa
Es un borrador de la propia Anthropic, no una norma ni una posición neutral. Si tu equipo de ciberseguridad usa modelos de frontera, los únicos disparadores para frenarlos serían armas biológicas, evasión de controles o ciberataques.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Artificial IntelligenceLeer la noticia completa en Artificial Intelligence