Por qué una IA redactando cartas clínicas repite errores aunque se le prohíba
Un equipo que usa IA para redactar cartas de traspaso entre médicos y enfermería a domicilio comprobó que las cinco IA probadas escribían la fecha en los mismos 2 de 30 casos, aunque la instrucción lo prohibía. Al añadir a la instrucción que distinga lo programado de lo realizado y que no escriba lo que no consta, el número de IA con borradores que incumplían bajó de tres a una. Un ejemplo con una fecha concreta hizo que una IA la copiara en 3 de 30 casos; al cambiarla por un marcador, el error desapareció. Aun con temperatura 0, la frase sobre la próxima visita tomó tres formas distintas entre cuatro ejecuciones con la misma entrada.
Qué significa
Al escribir instrucciones para IA en documentos clínicos conviene separar lo programado de lo realizado y no usar fechas reales en los ejemplos; en esta prueba eso redujo más los errores que cambiar de modelo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ