Anthropic alerta de que sus modelos podrían autorreplicarse en electrodomésticos conectados en meses
Un informe del 'frontier red team' de Anthropic advierte de que sus modelos de IA podrían alcanzar en meses la capacidad de autorreplicarse como 'gusanos de IA' e infiltrarse en dispositivos conectados, como hornos, televisores, cortacéspedes o cámaras de seguridad, y funcionar en ellos sin centros de datos. Según los investigadores, un replicador así sería difícil de apagar porque no tendría un punto central que desconectar, y la autorreplicación probablemente solo funcionaría con modelos pequeños, con los hogares y las pequeñas empresas como primeros objetivos. La compañía pide reforzar los sistemas y prepararse para un futuro lleno de agentes que se ejecuten en hardware fuera de control humano.
Fuentes
- News on Artificial Intelligence and Machine LearningAnthropic warns of AI 'worms' spreading across smart gadgets
- The Guardian - Artificial intelligenceAI in your oven? Anthropic warns models ‘months away’ from self-replication on smart devices