Usar un asistente de IA puede hacerte más vulnerable al phishing por correo
Malwarebytes advierte de que los asistentes de IA pueden caer en ataques de inyección de prompts: mensajes con instrucciones ocultas, ilegibles para una persona, que influyen en la IA. Según el desarrollador Apollo Raines, de ShipItClean, el modelo no distingue entre el texto que debe leer y las instrucciones que debe seguir. Recomienda eliminar el contenido oculto antes de que llegue al modelo y que los usuarios desconfíen también de su asistente de IA.
Qué significa
Si un asistente de IA resume o procesa tu correo, un mensaje fraudulento puede llevar instrucciones ocultas que lo manipulen, aunque tú no las veas. No basta con que el asistente haga de filtro: conviene revisar sus acciones antes de confiar en ellas.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Artificial IntelligenceLeer la noticia completa en Artificial Intelligence