El «95% de confianza» de un LLM como teatro: por qué el campo confidence en Zod es un placebo
Útil para
El artículo sostiene que añadir confidence: z.number() al esquema Zod de un LLM es el placebo más peligroso de la ingeniería de IA, porque da la apariencia de una medida de fiabilidad sin serlo. Anuncia que explicará qué sí funciona en su lugar.
Qué significa
Los equipos que piden a un modelo una puntuación de confianza numérica en sus salidas estructuradas pueden creer que el dato es fiable cuando no lo es. El debate afecta a cualquier aplicación que trate esas puntuaciones como prueba de exactitud.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Generative AI - MediumLeer la noticia completa en Generative AI - Medium