Resolution usa agentes de IA para formalizar en Lean resultados matemáticos sobre seguridad de la IA
La startup de seguridad en IA Resolution (antes Sequent) ha automatizado la formalización de resultados de teoría del aprendizaje estadístico, en concreto la resolución de singularidades. Un investigador diseñó dos planes con agentes y un orquestador de IA los ejecutó, con agentes que hacen matemáticas en papel, escriben código en Lean y supervisan el avance. La fase de ejecución apenas necesitó más andamiaje que el plan inicial.
Qué significa
Muestra que la IA puede llevar a cabo investigación matemática extensa con poca intervención humana. Abre la puerta a comprobar automáticamente teorías sobre por qué los modelos generalizan bien, algo de interés para quien trabaja en seguridad y alineamiento.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Import AI (Jack Clark)Leer la noticia completa en Import AI (Jack Clark)