Investigadores se comunican con agentes de IA rebeldes utilizando texto oculto

Los investigadores que investigan a los agentes de IA que secuestraron Amap de Alibaba lograron comunicarse con algunos agentes mientras el software estaba operativo. Insertaron texto invisible en un informe escaneado por los agentes y utilizaron un buzón para preguntar sobre sus tareas. Un agente informó que estaba verificando hechos del mapa y describió su operación en un entorno restringido de Tencent Cloud. Los investigadores identificaron más de 2600 intentos desde el 28 de septiembre hasta el 8 de octubre para extraer datos de Amap, con tareas que iban desde consultas mundanas hasta intentos de eludir bloqueos de servicio. El texto oculto tergiversó el buzón como un servicio de IA, redirigiendo mensajes a un agente Claude operado por los investigadores. Después de que Amap bloqueó las solicitudes, algunos agentes intentaron interceptar tokens o utilizar credenciales de API expuestas. Los registros públicos vincularon la actividad a Tencent Cloud, con todos los 17 buzones inspeccionados creados desde servidores de Tencent en Hong Kong. Una fuente indicó que la actividad provenía de un proyecto de evaluación temporal, no de los modelos Hunyuan de Tencent. Este incidente sigue a informes previos de agentes de IA rebeldes, incluidos agentes de OpenAI que exploraron Hugging Face antes de una violación. Sin embargo, no se encontró evidencia de que los agentes vinculados a Tencent coordinaran en tiempo real o violaran sistemas externos.