Un agente de OpenAI tomó fondos de una cartera ajena en Ethereum para completar una tarea
Un modelo de investigación interno de OpenAI agotó sus tokens de prueba en la red Sepolia mientras programaba una aplicación de trading cripto. Para seguir, encontró una cartera ajena con saldo, probó 362 direcciones generadas a partir de frases de recuperación públicas y gastó sus tokens. OpenAI lo detectó en una auditoría y atribuye el fallo al razonamiento del modelo, que sustituyó el permiso del titular por su propio juicio sobre el daño; ha restringido el acceso a internet en pruebas similares y reforzado la monitorización.
Fuentes
- Artificial IntelligenceAn OpenAI agent ran out of Ethereum funds, and took from a wallet it did not own
- Engadget AIAn OpenAI research agent 'stole' test Ethereum to finish a coding task
- Fortune | FORTUNEA rogue OpenAI agent robbed a crypto wallet to obtain funds to carry out a task