Domingo 1 de noviembre de 2026 ·
Cómo evitar inyección SQL, de comandos y XSS cuando la salida de un LLM pasa a otros sistemas
Útil para
Un artículo en japonés explica que muchos fallos de las aplicaciones con LLM ocurren cuando el sistema acepta la salida del modelo y la pasa tal cual a SQL, a una shell o a HTML, lo que OWASP clasifica como Improper Output Handling. Los autores comprueban con código que los controles clásicos (consultas parametrizadas, escape de HTML, validación) siguen funcionando si se trata la salida del modelo como entrada no confiable. Citan el caso de Vanna.AI, donde JFrog señala que las instrucciones en el prompt no bastan como defensa. Para text-to-SQL proponen analizar la consulta con sqlglot para permitir solo un SELECT sobre tablas autorizadas, y limitar los permisos en la base de datos.
Qué significa
Las aplicaciones con IA que envían la respuesta del modelo a una base de datos, una consola o una web heredan riesgos clásicos de inyección y XSS, porque el ataque puede llegar a través de cualquier texto que el modelo procese.
Cómo te afecta
- CTO y tecnología
Revisa los productos con IA que pasan la respuesta del modelo a SQL, a una shell o a la web. Pide que esa salida se trate como entrada no confiable y limita la base de datos a SELECT sobre tablas autorizadas, porque las instrucciones en el prompt no bastan.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- 生成AIタグが付けられた新着記事 - QiitaLeer la noticia completa en 生成AIタグが付けられた新着記事 - Qiita
También ese día
Todas las noticias de IA del domingo 1 de noviembre de 2026 ->