OpenAI та Anthropic пропонують 30-денний огляд для передових моделей ШІ

OpenAI та Anthropic працюють разом у Вашингтоні, щоб сформувати федеральну систему огляду для розвинених моделей ШІ, незважаючи на конкуренцію за клієнтів, фінансування та технологічне лідерство.

Summary

• OpenAI та Anthropic підтримують до 30 днів федерального доступу перед випуском деяких моделей на передовій.
• Запропонований процес буде застосовуватися в усій галузі, включаючи конкурентів, таких як Meta та xAI.
• Федеральні агентства повинні розробити рамки до 1 серпня відповідно до червневого указу.
• Nvidia, Meta та Microsoft окремо попередили про широкі контролі над моделями ШІ з відкритими вагами.

OpenAI та Anthropic прагнуть спільних стандартів огляду

OpenAI та Anthropic закликають адміністрацію Трампа прийняти послідовний процес огляду для моделей ШІ з розвиненими можливостями кібербезпеки або національної безпеки, згідно з The Information.

Їхня співпраця відбувається перед терміном 1 серпня для федеральних агентств, щоб визначити, які системи повинні відповідати критеріям "покритих моделей на передовій". Ці моделі можуть бути надані уряду для оцінки на термін до 30 днів перед випуском іншим надійним партнерам.

Обидві компанії, за повідомленнями, хочуть, щоб стандарти застосовувалися в усій галузі ШІ, а не обмежувалися лише розробниками, які вже співпрацюють з Вашингтоном. Це може підпорядкувати конкурентів, включаючи Meta та xAI Ілона Маска, одному й тому ж оглядовому процесу, якщо їхні моделі перевищують остаточний поріг можливостей.

Ці обговорення позначають рідкісну політичну узгодженість між OpenAI та Anthropic. Обидві компанії продають універсальні системи ШІ та конкурують за контракти з підприємствами, дослідниками, обчислювальними потужностями та інвестиціями.

Жодна з компаній публічно не розкрила повні умови, які вона хоче включити до остаточної рамки.

Указ Трампа встановлює добровільний 30-денний процес

Президент Дональд Трамп наказав федеральним агентствам встановити класифікований процес бенчмаркінгу через виконавчий указ 14409 від 2 червня.

Указ вказує Національному агентству безпеки, Агентству з кібербезпеки та безпеки інфраструктури, Міністерству фінансів та іншим федеральним органам визначити, коли модель ШІ має достатньо потужностей, щоб вимагати додаткового огляду.

Розробники, які беруть участь у рамці, зможуть запитати у уряду, чи відповідає модель критеріям покритої моделі на передовій. Вони зможуть надати федеральним оцінювачам доступ на термін до 30 днів перед тим, як зробити систему доступною для інших затверджених партнерів.

Указ вимагає заходів безпеки для інтелектуальної власності, конфіденційної інформації, кібербезпеки та загроз зсередини під час оцінки.

Однак він прямо зазначає, що процес не може створювати обов'язкові федеральні ліцензії, попередні перевірки або правила дозволів для розробки або випуску моделей ШІ. Таким чином, компанії братимуть участь добровільно, якщо не застосовуються окремі закони або повноваження уряду.

Розробники ШІ в США шукають ясності перед запусками

Спільна рамка може надати розробникам США чіткіші стандарти для визначення, коли очікується державне тестування. Питання залишаються щодо того, які технічні критерії викличуть огляд, які агентства тестуватимуть кожну систему та як чиновники затверджуватим партнерів з раннім доступом.

Ці невизначеності вже вплинули на нещодавні запуски. OpenAI та Anthropic надали державним чиновникам ранній доступ до розвинених моделей перед ширшим розподілом, але зовнішні дослідники мали обмежену видимість у оцінках.

Звіт за липень виявив, що агентства, тести та вимоги до затвердження, пов'язані з цими оглядами, залишалися незрозумілими. Відсутність опублікованого процесу може ускладнити планування випуску для розробників і залишити менші компанії ШІ в невизначеності щодо того, чи застосовуються до них ті ж стандарти.

Застосування одного порогу, заснованого на можливостях, до OpenAI, Anthropic, Meta, xAI та інших розробників може зменшити певну невизначеність. Це також може обмежити занепокоєння, що Вашингтон надає вибраним компаніям різне ставлення.

Відкритий штучний інтелект розділяє індустрію

Заклик OpenAI та Anthropic до спільного процесу перевірки відбувається на фоні попереджень інших технологічних компаній Вашингтону про те, що широкі контролі над відкритими моделями штучного інтелекту можуть бути небезпечними.

Як повідомляло crypto.news минулого тижня, Nvidia, Meta та Microsoft приєдналися до 22 інших організацій у відкритому листі, в якому стверджується, що широкі обмеження можуть послабити лідерство США на фоні зростаючої конкуренції з Китаєм. IBM, Palantir, Mistral, Hugging Face, Mozilla, Andreessen Horowitz та Linux Foundation також підписали лист.

Група закликала до цілеспрямованих юридичних та комерційних заходів проти зловживань, а не до обмежень, що охоплюють технології з легітимними дослідницькими та бізнес-застосуваннями.

Відкриті моделі дозволяють компаніям, дослідникам та урядам завантажувати програмне забезпечення, модифікувати його та запускати на своїй інфраструктурі. Прихильники стверджують, що це дає користувачам більший контроль над їхніми даними, безпекою та обчислювальними системами, знижуючи витрати на впровадження.

Підписанти не ставили відкриті та закриті моделі в протилежні позиції. Натомість вони стверджували, що обидва підходи необхідні для підтримки конкуренції та надання розробникам різних способів створення та впровадження систем штучного інтелекту.

Генеральний директор Nvidia Дженсен Хуанг поділився листом у своєму першому пості на X і захистив роль обох моделей розвитку.

"Світ потребує як закритих моделей передового рівня, так і відкритих моделей передового рівня."

Ілон Маск також підтримав лист у відповіді на Хуанга, хоча його компанія з штучного інтелекту, xAI, не була вказана серед 25 підписантів.

Обидва зусилля стосуються різних аспектів політичних дебатів. OpenAI та Anthropic прагнуть до послідовних федеральних оцінок для моделей, які перетинають поріг можливостей національної безпеки, тоді як відкритий лист виступає проти обмежень, що базуються переважно на тому, чи модель робить свої ваги доступними.

Федеральні агентства тепер мають до 1 серпня, щоб визначити поріг моделей передового рівня та окреслити добровільний процес перевірки. Остаточна структура покаже, чи зосередиться Вашингтон на вимірюваних можливостях, чи застосує більш широкі умови на основі того, як розподіляються моделі штучного інтелекту.