Martes 20 de octubre de 2026 ·
Cómo escribir un ensamblador de prompts seguro para LLM: guía-chuleta
Útil para
El artículo explica qué debe incluir el código que arma la petición final a un LLM: texto del usuario, instrucciones de rol, reglas de la empresa, historial, documentos y respuestas de herramientas. Recuerda que el modelo no distingue instrucciones de datos, así que una frase escondida en un documento puede actuar como orden. Plantea tres principios: el prompt de sistema no es una barrera de seguridad, las reglas críticas deben comprobarse con código fuera del modelo, y todo texto externo se considera no confiable, con fallo cerrado. El autor parte de una auditoría de un gateway corporativo de LLM, con unas 60 comprobaciones.
Qué significa
Quien desarrolla aplicaciones con LLM tiene en el ensamblador de prompts el punto donde se decide qué llega al modelo. Si ese código no trata los textos externos como no confiables, una instrucción oculta en un correo o un PDF puede alterar el comportamiento del sistema.
Cómo te afecta
- Programadores
Revisa el código que arma el prompt en tu aplicación: si un correo o un PDF entra al contexto sin tratarse como no confiable, una instrucción oculta puede actuar como orden. Comprueba las reglas críticas, como las herramientas que puede llamar el agente, en código fuera del modelo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Habr IA (RU)Leer la noticia completa en Habr IA (RU)
También ese día
Todas las noticias de IA del martes 20 de octubre de 2026 ->