Anthropic propone que EEUU solo pueda frenar un modelo de IA ante riesgos de más de 50 muertos o 1.000 millones en daños
Útil para
Anthropic ha presentado a legisladores estadounidenses un borrador que limita a un riesgo previsible e inminente de más de 1.000 millones de dólares en daños, o de muerte o lesiones graves de más de 50 personas, la suspensión de un modelo de IA por parte del Gobierno. El peligro debería proceder de un arma biológica, un ciberataque o un modelo que eluda los controles de su desarrollador. El Departamento de Comercio solo podría pedir la suspensión a un juez federal, y ningún otro organismo podría ordenarla. El texto aún no ha sido aprobado por el Congreso.
Qué significa
Si prospera, el Departamento de Comercio se convertiría en el único órgano capaz de detener un modelo frontera, con la decisión final en manos de un juez. Los laboratorios tendrían que someterse a evaluaciones independientes, publicar informes de transparencia y notificar incidentes críticos.
Cómo te afecta
- Legal
Si tu cliente tiene obligaciones estatales de divulgación de riesgos o reporte de incidentes en EE. UU., el borrador las desplazaría en parte. Pero no tiene respaldo formal en el Congreso, así que no cambies el compliance todavía.
- CEO y dirección
Que los laboratorios propongan ellos mismos el umbral de intervención te coloca en el centro de un debate de reputación. Pregunta al comité si tu empresa quiere posicionarse públicamente en esa negociación.
- Defensa
Según Politico, para frenar un modelo haría falta una orden de un juez federal, no solo una decisión del Ejecutivo. Si tu organismo depende de proveedores de IA de frontera, esa es la garantía que conviene vigilar.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Xataka IALeer la noticia completa en Xataka IA
- El Ecosistema StartupLeer la noticia completa en El Ecosistema Startup
- Business Insider ES TecnologiaLeer la noticia completa en Business Insider ES Tecnologia
- Gizmodo en EspañolLeer la noticia completa en Gizmodo en Español
- AnthropicLeer la noticia completa en Anthropic