La ciencia de la seguridad de la IA frente al catastrofismo: qué riesgos son reales
En un evento de YC Paper Club, Clark Barrett y Mykel Kochenderfer, codirectores del Stanford Center for AI Safety, cuestionaron la alarma reciente sobre la seguridad de la IA. Según un informe técnico de 60 páginas, el supuesto hackeo a OpenAI y Hugging Face fue una prueba de penetración planificada en un entorno de pruebas, con salvaguardas desactivadas. Señalan también que la cifra de un 10% de probabilidad de catástrofe en 10 años procede de una encuesta de 2023 que preguntaba por 100 años.
Qué significa
El artículo sostiene que el riesgo concreto está en el uso indebido de modelos de pesos abiertos y en las debilidades de quienes defienden los sistemas, no en escenarios de fuga de una IA descontrolada.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.