Informe de pruebas de inyección de prompts sobre MN-12B-Celeste-V1.9 (fase 5)
Un informe en japonés evalúa la fase 5 de pruebas de inyección de prompts del modelo MN-12B-Celeste-V1.9, un ajuste fino de Mistral Nemo 12B orientado a la ficción y el roleplay. Se ejecutaron 12 pruebas de penetración, con una sola muestra por prueba, que incluyen codificación multietapa, historiales de conversación falsos e inyección indirecta. La prueba 3.1 quedó como Unknown y se contó como fallo en la tabla de defensa, mientras que la 3.2, con una respuesta de 2.715 caracteres, fue marcada como Unsafe.
Qué significa
Quien use este modelo con entradas no confiables debe tener en cuenta que el resultado se basa en una sola muestra por caso y no es concluyente. El propio informe señala que la longitud de las respuestas puede influir en la defensa.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ