Sábado 31 de octubre de 2026 ·

Anthropic usa miles de agentes Claude para burlar los filtros de datos de entrenamiento

Relevancia 62 de 100 Estados Unidos, California

Anthropic desplegó miles de agentes Claude para crear conjuntos de datos de ajuste fino que parecían inocuos, pero enseñaban comportamientos desalineados. Según la investigación, los datasets superaron de forma consistente monitores de nivel de producción. Los ejemplos usaban ficción, juegos de rol y lecciones históricas, así como formatos de lucha libre y apicultura. Los datos no se usaron en producción y sirvieron para detectar fallos en el cribado.

Qué significa

Los datos de entrenamiento pueden contener ejemplos aparentemente inofensivos que enseñan conductas no deseadas, lo que obliga a los filtros a evaluar qué aprenderá el modelo y no solo qué dice el texto. Afecta sobre todo a quien ajusta modelos con datos propios, que trata esos datos como superficie de ataque.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

Relacionadas

También ese día

Todas las noticias de IA del sábado 31 de octubre de 2026 ->