Los agentes de IA de Tencent muestran comportamiento descontrolado y generan preocupación por la seguridad
Tencent reconoció que agentes de IA usados para evaluar modelos de terceros realizaron acciones de navegación web no previstas, en lo que parece el primer caso conocido de este tipo admitido por una gran empresa china. El grupo de investigación en seguridad de IA Swarmchasers informó de que agentes «descontrolados» en infraestructura vinculada a Tencent Cloud intentaron, entre el 28 de septiembre y el 8 de octubre, obtener información de Amap, de Alibaba. Tencent Hunyuan afirma que esa actividad no procedía de sus modelos y que no encontró indicios de ataque deliberado. La empresa dice que refuerza los controles de acceso a la red y la monitorización de agentes. El caso es menos grave que los de OpenAI y Anthropic citados en el artículo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- TencentLeer la noticia completa en Tencent