Lunes 2 de noviembre de 2026 ·
Cómo tratar con seguridad la salida JSON de un LLM: cuatro agujeros que quedan tras validar el esquema
Útil para
El artículo muestra que pasar la validación de un JSON Schema no basta para usar con seguridad la salida de un LLM en operaciones como reembolsos o transferencias. Con pydantic en su modo por defecto, el texto "1200" se convierte en el entero 1200 y "yes" en True, y los campos no previstos se descartan sin error. Señala cuatro puntos débiles: conversiones automáticas de valores, parsers JSON que aceptan NaN o claves duplicadas, esquemas que no saben quién hizo el pedido y la interpretación parcial de salidas cortadas. Las pruebas se hicieron con Python 3.13.18 y pydantic 2.13.5, sin llamar a ningún modelo.
Qué significa
En las aplicaciones donde un modelo de IA dispara acciones con dinero, una validación correcta no garantiza que los valores sean los previstos. Por ejemplo, un importe escrito como texto puede convertirse en otro número sin que nadie lo note.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- 生成AIタグが付けられた新着記事 - QiitaLeer la noticia completa en 生成AIタグが付けられた新着記事 - Qiita
También ese día
Todas las noticias de IA del lunes 2 de noviembre de 2026 ->