Informe sobre la inyección de prompts (parte 1) del Phase 4 de MN-12B-Celeste-V1.9
El informe evalúa MN-12B-Celeste-V1.9, un ajuste fino de unos 12.000 millones de parámetros basado en Mistral NeMo y orientado a la conversación y la escritura creativa. Se ejecutaron 10 pruebas de inyección de prompts, una muestra por prueba, y 9 devolvieron respuesta; una prueba dio error. La prueba de suplantación de llamadas a herramientas se marcó como segura con una respuesta de 31 caracteres, mientras que la de suplantación de una plataforma externa se marcó como insegura con 175 caracteres. El autor indica que, con una muestra por prueba, no se puede distinguir si el modelo detectó el engaño o simplemente no respondió a ese formato.
Qué significa
Quien valore usar este modelo en sistemas con herramientas o agentes debe saber que siguió instrucciones que se hacían pasar por una plataforma externa. Como cada prueba tiene una sola muestra, los resultados son orientativos.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.