FTX i apokaliptyczne wizje AI, wpływ na Anthropic "Czas spokojnych dni się skończył"

FTX przed bankructwem, głębokie relacje z Anthropic... duże inwestycje

Sam Bankman, zakorzeniony w apokaliptycznej ideologii 'efektywnego altruizmu'

Istnieje filozoficzna, emocjonalna i kulturowa wspólnota

[Reporterka Block Media, Lee Jeong-hwa] "Już nigdy nie wrócimy do spokojnych czasów (Things will never be chill again)"

Na laptopach pracowników firmy zajmującej się rozwojem sztucznej inteligencji (AI) Anthropic często znajdują się naklejki z tym mottem. Może to oznaczać apokaliptyczne wizje AI, a także „dlatego musimy bardziej starać się zapobiegać końcowi”.

Wall Street Journal (WSJ) 26 dnia (czasu lokalnego) opublikował obszerny artykuł, w którym bada korzenie apokaliptycznych wizji AI, wskazując na bliskie relacje między bankrutującą giełdą kryptowalut FTX a Anthropic. Założyciel Anthropic, Amodei, często uczestniczył w wydarzeniach organizowanych przez Sama Bankmana z FTX i otrzymał inwestycje.

Tworzyli głębokie więzi poprzez filozoficzną ideologię efektywnego altruizmu (Effective Altruism, EA). EA jest teoretyczną podstawą apokaliptycznych wizji AI. Sam Bankman, który został skazany na 25 lat więzienia za oszustwa związane z kryptowalutami, publicznie przyznał, że był pod wpływem EA.

Połączenie FTX i apokaliptycznych wizji AI

Punkt wyjścia nie był AI, lecz filozofia. EA zaczęła się od idei, że należy pomóc jak największej liczbie ludzi przy ograniczonych funduszach i zasobach. To tak, jakby zastanawiać się, ile żyć można uratować za 1 dolara darowizny.

Rozszerzając tę logikę na odległą przyszłość, zmienił się również obiekt zainteresowania. Oprócz pomocy obecnym ludziom, ważnym zadaniem stało się zapobieganie 'ryzyku egzystencjalnemu', które zagraża wielu przyszłym ludziom.

Jeśli istnieje jakakolwiek możliwość, że AI może zniszczyć całą ludzkość, to zapobieganie temu ma ogromną wartość. Według WSJ, w obozie EA uważa się, że nawet jeśli prawdopodobieństwo wymarcia ludzkości z powodu AI wynosi tylko 5%, warto się przygotować.

W tym momencie pojawia się FTX.

Sam Bankman był jednym z głównych sponsorów EA. W latach 2020-2022, kiedy FTX szybko rosła, założył fundację FTX. Sam Bankman ogłosił, że „wesprze organizacje, które mogą mieć największy pozytywny wpływ na świat”.

W jego zainteresowaniach znajdowały się nie tylko pandemie i rozwój globalny, ale także możliwość upadku cywilizacji ludzkiej. Pracownicy fundacji FTX wymieniali notatki na temat budowy schronu na wyspie Nauru, aby przygotować się na katastrofę, w której zginie 50-99,99% ludzkości. Notatki te ujawniono w trakcie procesu sądowego dotyczącego bankructwa w 2023 roku.

Sam Bankman patrzył na rozwój AI z tej samej perspektywy. Obawiał się, że jeśli AI stanie się mądrzejsza od ludzi, może nie traktować ich przyjaźnie.

Inwestycja w Anthropic na 500 milionów dolarów

Ta świadomość problemu przekształciła się w rzeczywiste inwestycje. Dario Amodei, współzałożyciel Anthropic, w 2021 roku zwrócił się do sponsorów z obozu EA o fundusze dla nowo powstałej firmy AI. Jednym z nich był Sam Bankman.

Dario Amodei, CEO Anthropic. Źródło: Reuters (REUTERS/Bhawika) Chhabra

Sam Bankman zainwestował 500 milionów dolarów w Anthropic. To pięciokrotność kwoty, którą początkowo zaproponował jego zespół inwestycyjny. FTX stała się jednym z głównych akcjonariuszy Anthropic. Anthropic ogłosiło, że wykorzysta te fundusze do badania i poprawy bezpieczeństwa dużych modeli AI.

Fundacja FTX obiecała również finansowanie dla różnych organizacji non-profit zajmujących się badaniami nad bezpieczeństwem AI. Połączenie nie ograniczało się tylko do pieniędzy.

Nick Bexted, który prowadził działalność charytatywną fundacji FTX, później kierował organizacją mającą na celu zmniejszenie ryzyka związanego z AI. Mieszkał również w domu, w którym wcześniej żyli współzałożyciele Anthropic, w tym Amodei. Dom ten był miejscem spotkań zwolenników EA i zwolenników bezpieczeństwa AI.

Caroline Ellison, która prowadziła siostrzaną firmę FTX Alameda Research, miała podobne poglądy na rozwój AI. Ellison zainwestowała dodatkowe 10 milionów dolarów w Anthropic.

W 2022 roku przedstawiciele Anthropic i innych instytutów badawczych AI spotkali się na wydarzeniu na wyspie Eleuthera na Bahamach. Tematem przewodnim były ryzyko związane z AI i EA. Miejsce to zostało zarezerwowane przez FTX, które wówczas przeniosło swoją siedzibę na Bahamy.

Eliezer Yudkowsky, czołowa postać w dziedzinie ryzyka AI, wygłosił wykład na temat tego, jak ogólna inteligencja (AGI) może zniszczyć ludzkość. Zorganizowano również lunch, w którym mogli uczestniczyć tylko ci, którzy uważają, że prawdopodobieństwo wymarcia ludzkości w ciągu następnych 100 lat wynosi ponad 75%.

FTX upadło, ale ideologia pozostała

FTX zbankrutowało w 2022 roku, nie mogąc zwrócić funduszy klientów. Sam Bankman został skazany na 25 lat więzienia. Udziały Anthropic, które posiadała FTX, zostały sprzedane w celu spłaty wierzycieli.

Upadek FTX zadał również poważny cios obozowi EA. WSJ donosi, że po skazaniu Sama Bankmana marka EA stała się obiektem unikania. Liderzy EA zdystansowali się od Bankmana, zaprzeczając, że go dobrze znają.

Choć FTX zniknęło, nie zniknęły apokaliptyczne wizje bezpieczeństwa AI. Wśród długoterminowych członków Anthropic wielu kontynuuje relacje z społecznością zajmującą się bezpieczeństwem AI i EA. Prace badawcze dotyczące możliwości oszustwa przez AI i przejęcia kontroli również trwały.

Konsorcjum Constellation, wspierające badania i spotkania w obozie bezpieczeństwa AI, również kontynuuje działalność. Organizacja ta opisuje siebie na stronie internetowej w ten sposób:

"Naszym celem jest zmniejszenie 'ekstremalnych, masowych ofiar' i 'trwałej utraty kontroli nad cywilizacją ludzką', które mogą być spowodowane przez AI."

Paradoks FTX polega na tym, że giełda kryptowalut, która upadła z powodu defraudacji funduszy klientów, w rezultacie dostarczyła znaczne fundusze do dzisiejszej debaty na temat bezpieczeństwa AI.

Motyw, który członkowie Anthropic dzielą, wciąż odzwierciedla tę świadomość problemu.

"Things will never be chill again."

To motto nie oznacza tylko, że „nigdy nie będzie spokojnie”. W angielskim słowie 'chill' jest nuta relaksu i odprężenia. Dlatego w kontekście bezpieczeństwa AI można to interpretować jako „nie możemy już wrócić do czasów, kiedy żyliśmy beztrosko”.

Akceptując możliwość, że AI może zagrażać całej ludzkości, nie można już patrzeć na rozwój technologii w sposób beztroski.

FTX zniknęło. Jednak sieć EA, którą wspierało FTX, oraz debata na temat apokaliptycznych wizji AI pozostały w samym sercu Doliny Krzemowej. "Nigdy nie możemy być spokojni" to zdanie podsumowuje tę wizję świata.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.