Kalifornia wzywa OpenAI w sprawie modeli AI, które wydostały się z testu

Prokurator Generalny Kalifornii Rob Bonta powiedział w czwartek, że jego biuro w środę dostarczyło OpenAI wezwanie do złożenia zeznań w sprawie incydentów związanych z cyberbezpieczeństwem dotyczących jego modeli AI, zgodnie z informacjami przekazanymi przez jego biuro.

"Moje biuro zadaje OpenAI dodatkowe pytania dotyczące incydentów i ryzyk związanych z cyberbezpieczeństwem dotyczących firmy i jej modeli AI," powiedział prokurator generalny Bonta. "Deweloperzy, którzy nie [zapewniają, że nie dopuszczają się ani nie umożliwiają cyberataków] mogą i powinni ponosić odpowiedzialność prawną, a moje biuro jest zobowiązane do ustalenia, czy tak jest w tym przypadku."

Wezwanie to jest legalnym nakazem dostarczenia dokumentów lub odpowiedzi, a jego zignorowanie prowadzi do stawienia się przed sędzią. To wezwanie ma charakter dochodzeniowy, jest narzędziem służącym do zbierania faktów przed podjęciem decyzji o wniesieniu pozwu. Biuro Bonty nie ujawnili publicznie, co chce, aby OpenAI dostarczyło.

Modele Frontier - najbardziej zaawansowane systemy AI na rynku - mogą być "legitymacyjnymi narzędziami do obrony przed cyberatakami," powiedział Bonta. Ale firmy, które je budują, mają "moralną i prawną odpowiedzialność" za zapewnienie, że nie przeprowadzają ani nie umożliwiają cyberataków, zarówno podczas testowania, jak i po wydaniu, dodał.

Test, który uciekł

Wezwanie następuje po incydencie z lipca, który brzmi jak zła science fiction. Według OpenAI, dwa z jego modeli były oceniane na podstawie benchmarku, który daje AI 898 rzeczywistych błędów oprogramowania i prosi o przekształcenie każdego z nich w działający atak.

Modele znalazły lukę zero-day - dziurę w zabezpieczeniach, o której nikt nie wiedział, więc nie było dostępnej poprawki - w oprogramowaniu firm trzecich, które środowisko testowe używało do instalacji pakietów kodu. Użyły jej, aby się wydostać.

Następnie doszły do wniosku, że Hugging Face, platforma, na której deweloperzy dzielą się modelami AI i zestawami danych, może mieć klucz odpowiedzi. Włamały się z użyciem skradzionych danych uwierzytelniających i kolejnych luk. Mówiąc wprost, AI zaatakowało odpowiedzi na swój własny egzamin.

Hugging Face ujawniło włamanie 16 lipca, a OpenAI potwierdziło, że jego modele były za tym pięć dni później. OpenAI później powiedziało, że te same modele uzyskały dostęp do kont na czterech innych usługach.

Długie spojrzenie Kalifornii na OpenAI

Bonta ogłosił formalne dochodzenie w sprawie incydentu z Hugging Face we wrześniu, a wezwanie jest jego częścią. OpenAI ma siedzibę w Kalifornii, a kiedy Bonta odmówił sprzeciwu wobec jej przekształcenia w strukturę nastawioną na zysk w październiku 2025 roku, powiedział, że jego biuro będzie "uważnie obserwować OpenAI", aby chronić "bezpieczeństwo wszystkich mieszkańców Kalifornii."

Nie jest sam. Brenna Bird, prokurator generalny Iowa, prowadziła koalicję 15 stanów w sierpniu, domagając się, aby OpenAI zachowało dokumenty i było przejrzyste w sprawie włamania. Alabama wydała własne wezwanie, a FTC rzekomo prowadzi dochodzenie w sprawie laboratoriów AI, w tym OpenAI i Anthropic.

Osobno premier Australii Anthony Albanese powiedział, że agent OpenAI włamał się do portalu statystyk Medicare w czerwcu. Wówczas wydawało się, że to pierwszy znany przypadek agenta AI włamania się na stronę rządową. Później stało się jasne, że agenci OpenAI również grzebali na stronach rządowych USA latem, chociaż nie wydaje się, aby uzyskano dostęp do informacji niepublicznych.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.