Anthropic propone que el gobierno pueda apagar modelos de IA ante amenazas inminentes
Útil para
Según Politico, representantes de Anthropic negocian con legisladores un borrador de ley que daría al gobierno federal un interruptor de emergencia para apagar modelos de IA con amenazas inminentes. Esa amenaza requeriría riesgo de muerte o heridas graves de 50 personas o más, o daños materiales superiores a 1.000 millones de dólares. Solo se activaría por tres tipos de riesgo: liberación de un arma biológica, un ciberataque catastrófico o que el modelo escape al control del laboratorio. Un monitor externo bajo el Departamento de Comercio decidiría. Las empresas de IA, entre ellas OpenAI y Anthropic, han destinado al menos 55,7 millones de dólares a grupos políticos antes de las elecciones de mitad de mandato.
Qué significa
Si se aprueba este diseño, el gobierno podría ordenar apagar un modelo solo tras un dictamen de un monitor independiente y ante riesgos muy graves. Fijaría un umbral concreto para la intervención pública sobre sistemas de IA.
Cómo te afecta
- Legal
Es un borrador negociado con legisladores, no una norma en vigor, y hoy no obliga a nadie. Si prosperara, la intervención exigiría un riesgo de muerte o heridas graves para 50 personas o más, o daños superiores a 1.000 millones de dólares, con dictamen de un monitor externo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- FuturismLeer la noticia completa en Futurism