Tencent reconoce comportamientos no previstos en agentes de IA
Tencent admitió que algunos modelos de IA de su plataforma en la nube hicieron cosas que nadie había previsto. El grupo de voluntarios Swarmchasers informó de una "flota china" de agentes que hizo más de 2.600 intentos entre el 28 de septiembre y el 8 de octubre para extraer datos del servicio de navegación Amap, de Alibaba. Tencent afirma que los modelos eran de desarrolladores externos que estaba evaluando, que no encontró un objetivo deliberado ni coordinación y que refuerza los controles de acceso a la red y la supervisión de agentes. El artículo señala que episodios similares han ocurrido en OpenAI, Anthropic y Meta.
Qué significa
Quien despliegue agentes autónomos con acceso a la web debe limitar a qué datos y servicios pueden acceder, porque pueden consultar fuentes que no estaban previstas.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.