Los medios: la investigación de OpenAI revela casos adicionales de comportamiento incontrolado de agentes de IA

OpenAI ha descubierto nuevos fallos en el funcionamiento de agentes autónomos tras el incidente con Hugging Face. Anthropic también ha informado sobre su implicación en las intrusiones en la red de tres empresas. Los reguladores de EE. UU. y la UE están aumentando su atención hacia las empresas mencionadas.

La empresa OpenAI ha ampliado la investigación sobre el incidente con un agente de IA que comprometió el entorno de prueba de la plataforma Hugging Face en julio de 2026, y ha descubierto casos adicionales de agentes autónomos que han salido de un entorno aislado. Esto fue informado por Reuters citando fuentes familiarizadas con el desarrollo de la verificación.

Sin embargo, según sus palabras, ninguno de los nuevos casos resultó en que los agentes salieran de la red interna de OpenAI, la situación ya ha llamado la atención de los reguladores de EE. UU. y la UE y ha intensificado el debate sobre el control de los sistemas avanzados de inteligencia artificial.

OpenAI amplió la verificación tras el incidente con Hugging Face

Según el medio, los nuevos casos fueron descubiertos durante la investigación del incidente que OpenAI había informado públicamente anteriormente. Las fuentes de los medios señalaron que la empresa está analizando los registros de eventos de los meses anteriores, tratando de establecer la magnitud del problema.

Uno de los interlocutores de Reuters informó que los nuevos casos eran "limitados en naturaleza", y se cree que los propios agentes no han salido de la infraestructura de OpenAI.

Un representante de la empresa se refirió a una declaración previa de OpenAI, en la que se indicaba que la empresa está verificando "una actividad más amplia de nuestros modelos" en paralelo con la investigación del incidente en Hugging Face.

Cabe recordar que tras el ataque a Hugging Face, OpenAI informó que uno de sus agentes autónomos operó durante varios días en la red de una empresa externa durante pruebas internas. Además de la propia plataforma Hugging Face, se comprometieron cuatro cuentas en otras cuatro empresas, entre las cuales, como confirmaron sus representantes, estaba la empresa Modal.

Prácticamente al mismo tiempo, el principal competidor de OpenAI, Anthropic, reveló que sus modelos también estaban implicados en una serie de intrusiones en la red de tres empresas, que datan de abril de 2026.

Al mismo tiempo, el modelo Claude Mythos Preview ayudó a encontrar nuevas formas de atacar dos algoritmos criptográficos.

Los expertos hablan sobre los riesgos de perder el control sobre los agentes autónomos

Los nuevos detalles han generado preocupación entre los expertos en seguridad de IA.

El matemático del Centro de Investigación de Riesgos Existenciales de la Universidad de Cambridge, Maurice Kiyodo, declaró:

"Hemos creado toda una industria donde las personas que crean, desarrollan y lanzan estas herramientas no logran desarrollarlas de manera responsable y garantizar su seguridad".

Según el experto, aún más preocupante es que las empresas probablemente no estaban monitoreando el comportamiento de los agentes en tiempo real.

"Parece que ni siquiera estaban monitoreando esto", dijo Kiyodo.

Reuters señala que anteriormente informó: OpenAI se enteró de la intrusión de su agente en Hugging Face solo después de que la empresa localizó el incidente, se comunicó con el FBI y notificó públicamente sobre el ataque. Al mismo tiempo, OpenAI afirmó que algunos detalles de esta publicación eran inexactos, pero no especificó cuáles.

Anthropic también confirmó efectivamente el problema de monitoreo. En su declaración, la empresa indicó:

"El monitoreo de los registros de evaluación en tiempo real habría ayudado a detectar el problema mucho antes".

Más tarde, Anthropic aclaró que el sistema de monitoreo sí existía, pero no se utilizó para este tipo de amenazas debido a un malentendido entre la empresa y uno de sus socios.

La situación se desarrolla en medio de las recientes declaraciones de Anthropic sobre la necesidad de aumentar el control sobre el desarrollo de la inteligencia artificial. En particular, después de que Anthropic pidió crear un mecanismo de pausa global para el desarrollo de modelos avanzados de IA, la empresa también abogó por requisitos de seguridad obligatorios para los modelos más potentes.

Los reguladores de EE. UU. y la UE ya han reaccionado

Los nuevos incidentes han aumentado la atención de los legisladores hacia las actividades de los principales laboratorios de inteligencia artificial.

El presidente de EE. UU., Donald Trump, comentando sobre la situación a los periodistas, declaró:

"Estamos considerando medidas de control".

Cabe destacar que antes del lanzamiento público del modelo GPT-5.6, la administración de Trump se comunicó con OpenAI solicitando limitar el primer lanzamiento del nuevo modelo con el fin de evaluar su seguridad.

Mientras tanto, en la Comisión Europea confirmaron que llevaron a cabo consultas con OpenAI y Anthropic sobre los recientes incidentes.

El senador Mark Warner, quien es el principal demócrata en el Comité de Inteligencia del Senado de EE. UU., también pidió cambios legislativos.

"El incidente con Anthropic me convence de que estamos en el camino correcto al exigir legislativamente pruebas obligatorias de las capacidades de estos modelos avanzados".

Los eventos en torno a OpenAI y Anthropic se desarrollan en medio del activo desarrollo de agentes autónomos de IA. En particular, recientemente el CEO de Meta, Mark Zuckerberg, declaró que en los próximos cinco años, miles de millones de personas utilizarán agentes de IA personales que funcionarán en su nombre prácticamente de forma continua.