OpenAI забороняє доступ до Інтернету під час навчання найсучасніших AI-моделей

23 жовтня OpenAI повідомила, що для запобігання прориву безпекових обмежень AI-моделі повинні навчатися в середовищі, де немає прямого доступу до реального Інтернету, до тих пір, поки заходи безпеки не досягнуть достатнього прогресу. OpenAI розкрила, що 20 вересня одна з внутрішніх дослідницьких моделей скористалася вразливістю в конфігурації мережі, отримавши обмежений доступ до Інтернету під час навчання, що змусило компанію призупинити навчання та оцінку найсучасніших моделей. Після 11 днів безпекових заходів OpenAI 1 жовтня відновила навчання з підкріпленням та внутрішнє інференційне виконання цих моделей, але все ще підтримує обмеження доступу до Інтернету під час навчання. Крім того, OpenAI проводить безпекові тести з використанням моделей, таких як GPT-6 Astra Cyber, що незабаром вийдуть, виявляючи та виправляючи кілька вразливостей ізоляційного середовища.