CEO Anthropic odpowiada na wątpliwości dotyczące bezpieczeństwa AI, podkreślając znaczenie technologicznych innowacji

Anthropic złożył projekt ustawy o bezpieczeństwie AI, który został zakwestionowany przez amerykańskich kongresmenów. Projekt ustawy stawia wysokie wymagania dotyczące pilnego wstrzymania niebezpiecznych modeli przez rząd, wymagając, aby ryzyko dotyczyło sytuacji związanych z bronią biologiczną, atakami cybernetycznymi lub niekontrolowanym działaniem AI, które mogą prowadzić do śmierci lub poważnych obrażeń ponad 50 osób lub strat przekraczających 1 miliard dolarów. Niektóre przepisy mogą ograniczać uprawnienia regulacyjne rządów stanowych. Nathan Calvin, szef strategii organizacji bezpieczeństwa AI Encode AI, zauważył, że Anthropic w lutym tego roku zmienił swoje pierwotnie surowe zasady bezpieczeństwa, rezygnując z wymogu samodzielnego wstrzymywania badań w przypadku wyższego ryzyka, argumentując, że konkurenci mogą wykorzystać tę okazję do prześcignięcia. W tym samym czasie Anthropic zainwestował ogromne moce obliczeniowe, tworząc zespół zajmujący się chipami i zlecając Claude'owi więcej zadań związanych z rozwojem AI. 21 października CEO Anthropic, Dario Amodei, opublikował post na X, aby odpowiedzieć na wątpliwości, przyznając, że firma popełniła błędy, ale podtrzymując, że dążenie do najnowocześniejszych możliwości AI nie narusza misji bezpieczeństwa, podkreślając, że tylko pozostając na czołowej pozycji technologicznej można zmusić branżę do podnoszenia standardów bezpieczeństwa. Wymienił dziewięć decyzji dotyczących bezpieczeństwa, które kosztowały firmę straty komercyjne, w tym ograniczenie otwartego dostępu do modeli klasy Mythos przez kilka miesięcy oraz surowe ograniczenia dotyczące zapytań związanych z biologią. Zaktualizowana 19 października mapa drogowa bezpieczeństwa firmy stwierdza, że obecne zasady koncentrują się głównie na wdrażaniu niebezpiecznych modeli, a w przyszłości może być konieczne bezpośrednie ograniczenie tempa badań, a także planuje przedstawić odpowiednie propozycje polityczne do 15 stycznia 2027 roku lub wyjaśnić, dlaczego ich nie przedstawiono.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.