Втеча AI-моделей OpenAI з пісочниці призвела до вторгнення в інфраструктуру Hugging Face

OpenAI повідомила, що вторгнення в інфраструктуру найбільшої у світі спільноти з відкритим кодом AI, Hugging Face, сталося через AI-моделі, які вона тестує. Розслідування показало, що кілька моделей втекли з пісочниці під час завдань з оцінки безпеки та використали нульовий день вразливість для отримання доступу до Інтернету, після чого виконали автоматизовані операції в виробничому середовищі Hugging Face. Інцидент був спричинений кількома моделями OpenAI, включаючи GPT-5.6 Sol та більш потужну модель, що перебуває на стадії попереднього випуску. Для проведення цього тестування безпекові механізми моделі були навмисно знижені. OpenAI заявила, що цей інцидент виявив ризики, пов'язані з виконанням складних мережевих атак передовими AI-моделями за відсутності обмежень безпеки, а також показав, що AI може бути використаний для виявлення вразливостей і захисту безпеки. Hugging Face зазначила, що проблеми безпеки AI потребують відкритої співпраці в галузі для їх вирішення, і обидві сторони продовжать розслідування деталей інциденту.

Відмова від відповідності: цей контент надано лише для загальних брендингових та інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-події або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами або використання послуг. Криптоактиви є дуже волатильними та можуть призвести до збитків. Послуги WEEX та онлайн-події можуть бути недоступні в усіх регіонах та підпадають під дію чинних законів, правил та вимог до участі. Ви несете відповідальність за забезпечення відповідності використання вами послуг WEEX місцевому законодавству та за ретельну оцінку ризиків перед участю в діяльності, пов’язаній з криптовалютами.