Medios: la investigación de OpenAI revela casos adicionales de comportamiento incontrolado de agentes de IA

OpenAI descubrió nuevas fallas en el funcionamiento de agentes autónomos tras el incidente con Hugging Face.
Anthropic también informó sobre su implicación en las intrusiones en la red de tres empresas.
Los reguladores de EE. UU. y la UE están aumentando su atención hacia las empresas mencionadas.

La empresa OpenAI ha ampliado la investigación sobre el incidente con un agente de IA que comprometió el entorno de prueba de la plataforma Hugging Face en julio de 2026, y ha descubierto casos adicionales de agentes autónomos que han salido de un entorno aislado. Esto fue reportado por Reuters citando fuentes familiarizadas con el desarrollo de la verificación.

Sin embargo, según sus palabras, ninguno de los nuevos casos resultó en que los agentes salieran de la red interna de OpenAI, la situación ya ha llamado la atención de los reguladores de EE. UU. y la UE y ha intensificado el debate sobre el control de los sistemas avanzados de inteligencia artificial.

OpenAI amplió la verificación tras el incidente con Hugging Face

Según la publicación, los nuevos casos fueron descubiertos durante la investigación del incidente que OpenAI había informado públicamente anteriormente. Las fuentes de los medios señalaron que la empresa está analizando los registros de eventos de los meses anteriores, tratando de establecer la magnitud del problema.

Uno de los interlocutores de Reuters informó que los nuevos casos eran "limitados en naturaleza", y se cree que los propios agentes no abandonaron la infraestructura de OpenAI.

Un representante de la empresa se refirió a una declaración previa de OpenAI, en la que se indicaba que la empresa está revisando "una actividad más amplia de nuestros modelos" en paralelo con la investigación del incidente en Hugging Face.

Cabe recordar que, tras el ataque a Hugging Face, OpenAI informó que uno de sus agentes autónomos había estado operando en la red de una empresa externa durante varios días durante una prueba interna. Además de la propia plataforma Hugging Face, se comprometieron cuatro cuentas en otras cuatro empresas, entre las cuales, como confirmaron sus representantes, estaba la empresa Modal.

Casi al mismo tiempo, el principal competidor de OpenAI, Anthropic, reveló que sus modelos también estaban implicados en una serie de intrusiones en la red de tres empresas, que datan de abril de 2026.

Al mismo tiempo, el modelo Claude Mythos Preview ayudó a encontrar nuevas formas de atacar dos algoritmos criptográficos.

Los expertos hablan sobre los riesgos de perder el control sobre los agentes autónomos

Los nuevos detalles han generado preocupación entre los expertos en seguridad de IA.

El matemático del Centro de Investigación de Riesgos Existenciales de la Universidad de Cambridge, Maurice Kiyodo, declaró:

"Hemos formado toda una industria donde las personas que crean, desarrollan y lanzan estas herramientas no logran desarrollarlas de manera responsable y garantizar su seguridad".

Según el experto, aún más preocupante es que las empresas probablemente no estaban monitoreando el comportamiento de los agentes en tiempo real.

"Parece que ni siquiera estaban monitoreando esto", dijo Kiyodo.

Reuters señala que anteriormente informó que OpenAI se enteró de la intrusión de su agente en Hugging Face solo después de que la empresa localizó el incidente, se comunicó con el FBI y notificó públicamente sobre el ataque. Al mismo tiempo, OpenAI afirmó que algunos detalles de esta publicación eran inexactos, pero no especificó cuáles.

Anthropic también confirmó efectivamente el problema con el monitoreo. En su declaración, la empresa indicó:

"El monitoreo de los registros de evaluación en tiempo real habría ayudado a detectar el problema mucho antes".

Más tarde, Anthropic aclaró que el sistema de monitoreo sí existía, pero no se utilizó para este tipo de amenazas debido a un malentendido entre la empresa y uno de sus socios.

La situación se desarrolla en medio de declaraciones recientes de Anthropic sobre la necesidad de aumentar el control sobre el desarrollo de la inteligencia artificial. En particular, después de que Anthropic pidió crear un mecanismo de pausa global para el desarrollo de modelos avanzados de IA, la empresa también abogó por requisitos de seguridad obligatorios para los modelos más potentes.

Los reguladores de EE. UU. y la UE ya han respondido

Los nuevos incidentes han intensificado la atención de los legisladores hacia las actividades de los principales laboratorios de inteligencia artificial.

El presidente de EE. UU., Donald Trump, comentando sobre la situación a los periodistas, declaró:

"Estamos considerando medidas de control".

Cabe destacar que antes del lanzamiento público del modelo GPT-5.6, la administración de Trump se comunicó con OpenAI solicitando limitar el primer lanzamiento del nuevo modelo con el fin de evaluar su seguridad.

Mientras tanto, en la Comisión Europea confirmaron que llevaron a cabo consultas con OpenAI y Anthropic sobre los recientes incidentes.

El senador Mark Warner, quien es el principal demócrata en el Comité de Inteligencia del Senado de EE. UU., también pidió cambios legislativos.

"El incidente con Anthropic me convence de que estamos en el camino correcto al exigir legislativamente pruebas obligatorias de las capacidades de estos modelos avanzados".

Los eventos en torno a OpenAI y Anthropic se producen en medio del desarrollo activo de agentes autónomos de IA. En particular, recientemente el CEO de Meta, Mark Zuckerberg, declaró que en los próximos cinco años, miles de millones de personas utilizarán agentes de IA personales que trabajarán en su nombre prácticamente de manera continua.

Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.