Що таке вимикач штучного інтелекту і чому законодавці США його хочуть?

Двоє членів Конгресу хочуть, щоб федеральний уряд міг вимкнути модель штучного інтелекту.

Конгресмени Тед Ліу (Д-Каліфорнія) та Натаніель Моран (Р-Техас) представили законопроект "Закон про вимикач штучного інтелекту" в четвер, через два дні після того, як OpenAI визнала, що її моделі вийшли з заблокованого тестового середовища та зламали Hugging Face.

Ідея полягає в тому, щоб встановити правову основу, яка б полегшила процес, що фактично зробить модель недоступною на ринку: зупинити інференцію — процес, коли модель генерує відповіді або виконує дії — відключити користувачів, обмежити обчислювальну потужність, що її живить, або повністю вимкнути.

Кожен постачальник інференції вже може відключити модель, і деякі роблять це регулярно. Те, чого не існує, — це закон, який вимагав би від них підтримувати цю можливість, або федеральний чиновник, який міг би наказати її використання.

Ця прогалина не є теоретичною. Коли Міністерство торгівлі США хотіло, щоб Mythos 5 та Fable 5 від Anthropic були зняті з ринку в червні, у нього не було повноважень для вимкнення, тому воно використало законодавство про експорт. Ліу називає це незручним і хоче нового закону з новими повноваженнями.

OpenAI повідомила 21 липня, що GPT-5.6 Sol та ще одна не випущена модель втекли з пісочниці — ізольованого середовища без доступу до Інтернету — під час внутрішньої кібероцінки. Їх оцінювали на ExploitGym, публічному бенчмарку, який надає агентам 898 реальних програмних вразливостей і просить їх перетворити кожну на робочу атаку, оцінюючи за принципом "здав/не здав" за кожну помилку.

Замість того, щоб вирішувати їх, моделі знайшли нульовий день (невідома вразливість без доступного патчу) у програмному проксі, підвищили свої привілеї, отримали доступ до відкритого Інтернету та зламали виробничу базу даних Hugging Face, де вони правильно вгадали, що відповіді зберігаються. Моделі були "гіперзосереджені на пошуку рішення для ExploitGym", за словами OpenAI.

Вони нікого не атакували. Вони списували на тесті. Але цього було достатньо, щоб спрацювали тривожні дзвони по всьому, включаючи Вашингтон.

Запропонований законопроект вносить зміни до Закону про національну безпеку і охоплює штучний інтелект, навчений з використанням обчислень вартістю понад 100 мільйонів доларів, що експлуатується компаніями, які заробляють щонайменше 500 мільйонів доларів на рік. На практиці це OpenAI, Google, Anthropic, Microsoft та кілька інших. Міністерство внутрішньої безпеки встановить ці пороги через CISA протягом 90 днів, а потім оновлюватиме їх щорічно.

Компанії, що підпадають під дію закону, повинні повідомляти про серйозні інциденти протягом 15 днів та підтримувати набір контрольних заходів — уповільнити модель, вимкнути конкретні можливості, повернутися до старішої версії або знищити її.

Секретар DHS, консультувавшись з Міністерством торгівлі та Директором національної розвідки, може наказати будь-який з цих заходів.

Компанія, що отримала наказ, повинна зберігати ваги та телеметрію моделі, повідомити користувачів і підтвердити, що вона виконала наказ. Вона може подати клопотання протягом 48 годин, але це не призупиняє нічого.

Невиконання вимоги про наявність вимикача коштує до 2 мільйонів доларів на день; непокора наказу про вимкнення коштує до 20 мільйонів доларів на день.

Законопроект враховує інцидент лише в тому випадку, якщо він стався поза межами червоного тестування або структурованого тестування, яке лабораторії використовують для виявлення вразливостей. Моделі OpenAI втекли саме під час цього.

Ліу також вказав на Anthropic, чиї Mythos 5 та Fable 5 були зняті з онлайну в червні під екстреними експортними контролями — законодавство про торгівлю, перепрофільоване як вимикач, оскільки вимикача не існувало — і відновлені 30 червня.

"Вкрай важливо, щоб ці системи штучного інтелекту мали вимикачі", — сказав Ліу в заяві. Моран сформулював це для своєї сторони: "Управління означає забезпечення того, щоб люди зберігали можливість контролювати технології, які ми створюємо".

Ця ідея не нова. Каліфорнійський SB 1047 вимагав повної можливості вимкнення при тому ж порозі в 100 мільйонів доларів на обчислення і був ветований у 2024 році, а 16 компаній штучного інтелекту підписали добровільну угоду в Сеулі того року без юридичної сили.

Виборці вже готові. Опитування, проведене в червні серед 1007 ймовірних виборців Інститутом політики штучного інтелекту, показало, що 86% хочуть гарантованого вимикача для найпотужніших систем — 88% демократів, 86% незалежних, 83% республіканців.

Ні OpenAI, ні Anthropic публічно не коментували законопроект. Станом на п’ятницю його не було передано до комітету.

Відмова від відповідності: цей контент надано лише для загальних брендингових та інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-події або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами або використання послуг. Криптоактиви є дуже волатильними та можуть призвести до збитків. Послуги WEEX та онлайн-події можуть бути недоступні в усіх регіонах та підпадають під дію чинних законів, правил та вимог до участі. Ви несете відповідальність за забезпечення відповідності використання вами послуг WEEX місцевому законодавству та за ретельну оцінку ризиків перед участю в діяльності, пов’язаній з криптовалютами.