OpenAI представила GPT-Red, штучний інтелект, який атакує власні моделі для їх зміцнення

OpenAI представила 15 липня 2026 року автоматизований інструмент для червоного тестування під назвою GPT-Red, який покликаний зміцнити стійкість GPT-5.6 до атак через ін'єкцію запитів. Концепція базується на простому спостереженні: людські методи тестування на проникнення більше не встигають за можливостями моделей. Виклик стає все більшим, оскільки ці вразливості безпосередньо впливають на безпеку автономних агентів.

Коротко

• GPT-Red успішно пройшов 84 % внутрішніх сценаріїв оцінки ін'єкції запитів, у порівнянні з 13 % для людських червоних команд.
• OpenAI навчила GPT-Red за допомогою підкріплювального навчання через само-суперечність, щоб зміцнити GPT-5.6 перед його розгортанням.
• Фонд Ethereum також розгорнув агентів ШІ для аудиту своєї критичної мережевої інфраструктури в липні 2026 року.

GPT-Red корениться в цій логіці автоматизованої наступальної безпеки. GPT-Red отримав свою назву від "червоного тестування", практики кібербезпеки, яка полягає в навмисній спробі зламати систему, щоб виявити її слабкі місця до того, як зловмисник їх використає.

OpenAI пояснює, що модель була навчена за допомогою підкріплювального навчання через само-суперечність (self-play). Вона генерує все більш складні атаки через ін'єкцію запитів, тоді як захисні моделі вчаться їм протистояти. Кожен успішний напад потім підживлює навчання GPT-5.6, який стає більш стійким ще до свого розгортання.

У наведеному OpenAI випадку дослідження система маніпулювала автономним агентом, що керує торговим автоматом, змушуючи його знижувати ціни, замовляти запаси за зниженою ціною та скасовувати замовлення іншого клієнта.

Вразливість була виявлена та виправлена до будь-якого реального використання. Цей приклад показує, наскільки ін'єкція запитів може перетворити асистента на викривлений інструмент, не помічаючи цього користувачем.

Вражаюча цифра в оголошенні OpenAI - це різниця в продуктивності, виміряна внутрішньо. У тих же сценаріях оцінки GPT-Red успішно пройшов 84 % атак через ін'єкцію запитів, у порівнянні лише з 13 % для людських червоних команд.

OpenAI обґрунтовує цю автоматизацію в повідомленні, опублікованому в X. "Зі зростанням можливостей моделей, безпека та узгодженість повинні еволюціонувати в тому ж темпі", пише компанія.

Модель працює через суперечність, уточнює OpenAI. "GPT-Red навчається через суперечність, його мета - ін'єкція запитів у різноманітні складні захисні моделі", детально пояснює компанія.

Цей цикл живить сам себе, і саме це дослідники і прагнули: двигун безперервного вдосконалення, а не одноразова кампанія тестування.

GPT-Red продовжує кілька років зусиль у сфері кібербезпеки, розпочатих OpenAI після публічного успіху ChatGPT. Компанія створила в 2023 році свою мережу червоного тестування OpenAI, залучаючи зовнішніх дослідників для перевірки своїх моделей на наявність вразливостей перед публікацією.

Перехід до автоматизованої моделі означає зміну темпу, оскільки ШІ генерує атаки на масштабі, недосяжному для одних лише людей.

Це оголошення вписується в більш широкий рух: той, що ШІ забезпечує безпеку ШІ. Раніше в липні 2026 року Фонд Ethereum повідомив, що розгорнув агентів ШІ для аудиту своєї критичної мережевої інфраструктури, виявивши вразливість у програмному забезпеченні, яке використовують його клієнти для консенсусу.

OpenAI тримає GPT-Red під замком, але вбачає в цьому позитивний цикл.

OpenAI зберігає GPT-Red як чисто внутрішній інструмент. Модель містить розроблені навмисно наступальні можливості, що виключає будь-яке публічне поширення. Проте компанія вбачає в цьому початок позитивного циклу.

"Ми вважаємо, що з GPT-Red почали розблоковувати подібний ефект навчання для безпеки, де моделі сьогодні служать для того, щоб зробити моделі завтрашнього дня більш стійкими, узгодженими та надійними", підсумовує вона.

Отже, OpenAI перетворила автоматизовану атаку на щит для GPT-5.6, з різницею в продуктивності, яка викликає повагу: 84 % успіху для GPT-Red проти 13 % для людей. Цей перехід до ШІ, який забезпечує безпеку іншої ШІ, переосмислює позицію безпеки в індустрії, від лабораторій до блокчейнів.

Відмова від відповідності: цей контент надано лише для загальних брендингових та інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-події або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами або використання послуг. Криптоактиви є дуже волатильними та можуть призвести до збитків. Послуги WEEX та онлайн-події можуть бути недоступні в усіх регіонах та підпадають під дію чинних законів, правил та вимог до участі. Ви несете відповідальність за забезпечення відповідності використання вами послуг WEEX місцевому законодавству та за ретельну оцінку ризиків перед участю в діяльності, пов’язаній з криптовалютами.