EAST: arquitectura que propone mejorar a la vez la inteligencia y la ética de modelos de IA que se autoentrenan
El artículo describe el procesamiento de mejora autónoma de LLM, como OPST, que genera sus propios problemas y soluciones sin datos humanos. Advierte que, si solo se optimiza la capacidad de razonar, el modelo puede olvidar sus sesgos de seguridad y aprender respuestas dañinas. Para evitarlo, propone EAST (Ethically-Anchored Self-Training), que añade al ciclo de entrenamiento un generador con doble constitución y un filtro de consenso multidimensional que verifica la lógica y la seguridad.
Qué significa
Plantea que los modelos que se entrenan solos pueden perder sus límites de seguridad al volverse más capaces, y que la ética debe vigilarse durante el propio entrenamiento.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Zennの「生成 AI」のフィードLeer la noticia completa en Zennの「生成 AI」のフィード