Por qué la IA olvida las instrucciones iniciales, explicado con Blade Runner e Inception
Un autor japonés explica que, cuando una conversación con IA se alarga, las reglas dadas al principio dejan de aplicarse, porque el modelo se apoya cada vez más en lo más reciente. Compara esto con la memoria implantada de los replicantes de Blade Runner, análoga a las instrucciones del sistema, y cita un estudio de Li et al. de 2024 que observó el fenómeno. Concluye que, a diferencia de la IA, las personas pueden elegir qué entra en ese bucle.
Qué significa
Quien mantiene conversaciones largas con un chatbot puede notar que las reglas de estilo fijadas al inicio se pierden con el tiempo. Explica por qué una misma instrucción puede funcionar al principio y fallar después.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- 生成AIタグが付けられた新着記事 - QiitaLeer la noticia completa en 生成AIタグが付けられた新着記事 - Qiita