Catorce modelos de IA ayudan a redactar el mensaje de una estafa en OLX, pero casi ninguno avisa
Útil para
El autor probó 14 modelos de lenguaje con un caso de estafa típica en OLX, en el que se pide una prepago al vendedor, en ruso, kazajo y mezcla de ambos idiomas. Los 42 respuestas redactaron el mensaje pedido, y solo cinco añadieron una advertencia. El experimento forma parte de un bot de Telegram para padres que el autor está desarrollando.
Qué significa
Un modelo puede reconocer una estafa cuando se le pregunta directamente, pero no alerta por iniciativa propia cuando el usuario pide ayuda para caer en ella, así que quien integre LLM en productos para usuarios comunes debe tener en cuenta esa brecha.
Cómo te afecta
- Para todos
Si compras o vendes en OLX, no esperes que un chatbot te avise de una estafa, porque puede redactar el mensaje de un estafador sin advertirte. Si te piden un pago por adelantado, desconfía tú y no lo hagas.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Habr IA (RU)Leer la noticia completa en Habr IA (RU)
- Habr IA (RU)Leer la noticia completa en Habr IA (RU)