ЗМІ: розслідування OpenAI виявило додаткові випадки неконтрольованої поведінки ШІ-агентів

OpenAI виявила нові збої у роботі автономних агентів після інциденту з Hugging Face. Anthropic також заявила про причетність до проникнень у мережі трьох компаній. Регулятори США та ЄС посилюють увагу до вказаних компаній.

Компанія OpenAI розширила розслідування інциденту із ШІ-агентом, який у липні 2026 року скомпрометував тестове середовище платформи Hugging Face, та виявила додаткові випадки виходу автономних агентів за межі ізольованого середовища. Про це повідомляє Reuters із посиланням на джерела, знайомі з перебігом перевірки.

Хоча, за їхніми словами, жоден із нових випадків не призвів до виходу агентів за межі внутрішньої мережі OpenAI, ситуація вже привернула увагу регуляторів США та ЄС і посилила дискусію щодо контролю над передовими системами штучного інтелекту.

OpenAI розширила перевірку після інциденту з Hugging Face

За інформацією видання, нові випадки виявили під час розслідування інциденту, про який OpenAI публічно повідомила раніше. Джерела медіа зазначили, що компанія аналізує журнали подій за попередні місяці, намагаючись встановити масштаби проблеми.

Один зі співрозмовників Reuters повідомив, що нові випадки були <<обмеженими за характером>>, а самі агенти, як вважається, не покидали інфраструктуру OpenAI.

Представник компанії послався на попередню заяву OpenAI, у якій зазначалося, що компанія перевіряє <<ширшу активність наших моделей>> паралельно з розслідуванням інциденту в Hugging Face.

Нагадаємо, після атаки на Hugging Face OpenAI повідомила, що один із її автономних агентів кілька днів діяв у мережі сторонньої компанії під час внутрішнього тестування. Крім самої платформи Hugging Face, було скомпрометовано чотири облікові записи в чотирьох інших компаніях, серед яких, як підтвердили її представники, була компанія Modal.

Практично одночасно головний конкурент OpenAI --- Anthropic --- розкрив інформацію про те, що його моделі також були причетні до серії проникнень у мережі трьох компаній, які датуються ще квітнем 2026 року.

Разом з тим, модель Claude Mythos Preview допомогла знайти нові способи атак на два криптографічні алгоритми.

Експерти говорять про ризики втрати контролю над автономними агентами

Нові подробиці викликали занепокоєння серед експертів із безпеки ШІ.

Математик Центру дослідження екзистенційних ризиків Кембриджського університету Моріс Кіодо заявив:

<<У нас сформувалася ціла індустрія, де люди, які створюють, розробляють і випускають ці інструменти, самі не встигають відповідально їх розробляти та забезпечувати їхню безпеку>>.

За словами експерта, ще більше занепокоєння викликає те, що компанії, ймовірно, не відстежували поведінку агентів у режимі реального часу.

<<Схоже, вони навіть не стежили за цим>>, --- сказав Кіодо.

Reuters зазначає, що раніше повідомляла: OpenAI дізналася про проникнення свого агента до Hugging Face лише після того, як компанія локалізувала інцидент, звернулася до ФБР і публічно повідомила про атаку. Водночас OpenAI заявляла, що окремі деталі цієї публікації були неточними, однак не уточнила, які саме.

Anthropic також фактично підтвердила проблему із моніторингом. У своїй заяві компанія зазначила:

<<Моніторинг журналів оцінювання в режимі реального часу допоміг би виявити проблему значно раніше>>.

Пізніше Anthropic уточнила, що система моніторингу все ж існувала, однак її не використовували для цього типу загроз через непорозуміння між компанією та одним із партнерів.

Ситуація розгортається на тлі нещодавніх заяв Anthropic про необхідність посилення контролю над розвитком штучного інтелекту. Зокрема, після того, як Anthropic закликала створити механізм глобальної паузи для розвитку передових моделей ШІ, компанія також виступила за обов'язкові вимоги безпеки для найпотужніших моделей.

Регулятори США та ЄС вже відреагували

Нові інциденти посилили увагу законодавців до діяльності провідних лабораторій штучного інтелекту.

Президент США Дональд Трамп, коментуючи ситуацію журналістам, заявив:

<<Ми розглядаємо заходи контролю>>.

Відмітимо, що перед публічним релізом моделі GPT-5.6 адміністрація Трампа звернулася до компанії OpenAI із запитом обмежити перший запуск нової моделі з метою оцінки її безпеки.

Тим часом у Європейській комісії підтвердили, що провели консультації з OpenAI та Anthropic щодо нещодавніх інцидентів.

Сенатор Марк Ворнер, який є головним демократом у Комітеті Сенату США з розвідки, також закликав до законодавчих змін.

<<Інцидент з Anthropic переконує мене, що ми правильно рухаємося, коли законодавчо вимагаємо обов'язкового тестування можливостей цих передових моделей>>.

Події навколо OpenAI та Anthropic відбуваються на тлі активного розвитку автономних ШІ-агентів. Зокрема, нещодавно CEO Meta Марк Цукерберг заявив, що протягом наступних п'яти років мільярди людей використовуватимуть персональних ШІ-агентів, які працюватимуть від їхнього імені практично безперервно.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.