FTX و نظریه پایان جهان، تأثیر بر آنتروپیک "عصرهای آرام به پایان رسیده است"

قبل از ورشکستگی FTX، ارتباط عمیقی با آنتروپیک... سرمایه‌گذاری کلان

سم بنکمن، ریشه‌های نظریه پایان جهان "ایثارگری مؤثر" را تحت تأثیر قرار داد

همدلی فلسفی، احساسی و فرهنگی وجود دارد

[خبرنگار ایلجنگوا از بلاک‌مدیا] "دیگر نمی‌توان به روزهای آرام بازگشت (Things will never be chill again)"

بر روی لپ‌تاپ‌های کارکنان شرکت توسعه هوش مصنوعی (AI) آنتروپیک، گاهی برچسب‌هایی با این شعار چسبانده می‌شود. این می‌تواند به معنای نظریه پایان جهان باشد و همچنین به این معناست که "بنابراین باید بیشتر تلاش کنیم تا از پایان جلوگیری کنیم."

وال استریت ژورنال (WSJ) در تاریخ 26 (به وقت محلی) در یک مقاله طولانی که ریشه‌های نظریه پایان جهان AI را بررسی می‌کند، گزارش داد که FTX، صرافی ورشکسته ارزهای دیجیتال، و آنتروپیک ارتباط نزدیکی دارند. بنیان‌گذار آنتروپیک، آموئده، به طور مکرر در رویدادهایی که سم بنکمن از FTX برگزار می‌کرد، شرکت کرده و سرمایه‌گذاری نیز دریافت کرده است.

آنها از طریق فلسفه‌ای به نام ایثارگری مؤثر (Effective Altruism·EA) پیوند عمیقی برقرار کرده‌اند. EA، پایه نظری نظریه پایان جهان AI است. سم بنکمن که به دلیل اتهامات کلاهبرداری ارزهای دیجیتال به 25 سال زندان محکوم شده است، به‌طور علنی اشاره کرده که تحت تأثیر EA قرار گرفته است.

پیوند FTX و نظریه پایان جهان AI

نقطه شروع، فلسفه بود نه AI. EA از فلسفه‌ای آغاز شد که هدف آن کمک به حداکثر تعداد افراد با پول و منابع محدود است. به این صورت که با یک دلار کمک مالی، چقدر می‌توان جان انسان‌ها را نجات داد.

این منطق به آینده‌ای دورتر گسترش یافته و موضوعات مورد توجه نیز تغییر کرده است. نه تنها کمک به انسان‌های کنونی، بلکه جلوگیری از "خطرات وجودی" که می‌تواند تهدیدی برای تعداد زیادی از انسان‌های آینده باشد، به عنوان یک چالش مهم مطرح شده است.

اگر AI حتی به اندازه‌ای احتمال داشته باشد که بتواند تمام بشریت را نابود کند، جلوگیری از آن کار با ارزشی است. به گفته WSJ، در میان طرفداران EA، حتی اگر احتمال انقراض بشریت به دلیل AI تنها 5 درصد باشد، ارزش آماده‌سازی برای آن را دارند.

در این نقطه، FTX وارد می‌شود.

سم بنکمن، حامی برجسته EA بود. در سال‌های 2020 تا 2022 که FTX به سرعت در حال رشد بود، او بنیاد FTX را تأسیس کرد. سم بنکمن اعلام کرد که "به سازمان‌هایی که می‌توانند بزرگ‌ترین تأثیر مثبت را بر جهان بگذارند، کمک مالی خواهد کرد."

علاقه او شامل بیماری‌های واگیردار و توسعه جهانی و همچنین احتمال فروپاشی تمدن بشری بود. یک مقام بنیاد FTX یادداشتی مبادله کرده بود که در آن پیشنهاد ساخت پناهگاهی برای آمادگی در برابر فاجعه‌ای که ممکن است 50 تا 99.99 درصد از بشریت را از بین ببرد، در جزیره نائورو واقع در اقیانوس آرام مطرح شده بود. این یادداشت در جریان روند شکایت مربوط به ورشکستگی در سال 2023 فاش شد.

سم بنکمن همچنین به پیشرفت AI از همین منظر نگاه می‌کرد. او نگران بود که اگر AI از انسان‌ها هوشمندتر شود، ممکن است با انسان‌ها به طور دوستانه رفتار نکند.

سرمایه‌گذاری 500 میلیون دلاری در آنتروپیک

این نگرانی‌ها به سرمایه‌گذاری واقعی منجر شد. داریو آموئده، یکی از بنیان‌گذاران آنتروپیک، در سال 2021 برای تأمین مالی شرکت‌های نوپای AI، دست یاری به سوی حامیان EA دراز کرد. یکی از آن‌ها سم بنکمن بود.

سم بنکمن 500 میلیون دلار در آنتروپیک سرمایه‌گذاری کرد. این مبلغ 5 برابر مبلغ اولیه‌ای بود که تیم سرمایه‌گذاری او پیشنهاد داده بود. FTX یکی از سهامداران اصلی آنتروپیک شد. آنتروپیک اعلام کرد که این سرمایه را برای تحقیق و بهبود ایمنی مدل‌های بزرگ AI استفاده خواهد کرد.

بنیاد FTX همچنین به چندین سازمان غیرانتفاعی تحقیقاتی ایمنی AI کمک مالی وعده داده است. پیوندها تنها به پول محدود نشد.

نیک باکستد که رهبری کارهای خیریه بنیاد FTX را بر عهده داشت، بعداً رهبری سازمانی را بر عهده گرفت که به کاهش خطرات AI می‌پرداخت. او همچنین در خانه‌ای که آموئده و دیگر بنیان‌گذاران آنتروپیک در آن زندگی می‌کردند، با هم زندگی کرده بود. این خانه محلی برای تبادل نظر میان طرفداران EA و ایمنی AI بود.

کارولین الیسون که رهبری شرکت خواهر FTX، آلامدا ریسرچ، را بر عهده داشت، نیز نگرش مشابهی نسبت به جهت‌گیری پیشرفت AI داشت. الیسون به‌طور جداگانه 10 میلیون دلار در آنتروپیک سرمایه‌گذاری کرد.

در سال 2022، نمایندگان آنتروپیک و دیگر مؤسسات تحقیقاتی AI در رویدادی که در جزیره الیوثرا باهاما برگزار شد، گرد هم آمدند. در این رویداد، خطرات AI و EA به عنوان موضوعات اصلی مورد بحث قرار گرفت. مکان این رویداد توسط FTX که در آن زمان به باهاما نقل مکان کرده بود، رزرو شده بود.

الیجر یودکوفسکی، یکی از شخصیت‌های برجسته نظریه خطرات AI، در این نشست دلایل اینکه چرا هوش مصنوعی عمومی (AGI) می‌تواند بشریت را نابود کند، را ارائه داد. همچنین ناهاری برگزار شد که فقط افرادی که احتمال می‌دهند بشریت در 100 سال آینده منقرض شود، می‌توانستند در آن شرکت کنند.

FTX سقوط کرد اما ایده‌ها باقی ماندند

FTX در سال 2022 به دلیل عدم توانایی در بازپرداخت وجوه مشتریان ورشکست شد. سم بنکمن به 25 سال زندان محکوم شد. سهام آنتروپیک که FTX در اختیار داشت نیز برای بازپرداخت طلبکاران به فروش رفت.

سقوط FTX ضربه بزرگی به جنبش EA وارد کرد. WSJ گزارش داد که پس از زندانی شدن سم بنکمن، برند EA خود به یک موضوع اجتناب‌ناپذیر تبدیل شد. رهبران EA از سم بنکمن فاصله گرفتند و ادعا کردند که او را به خوبی نمی‌شناسند.

اگرچه FTX ناپدید شد، اما نظریه ایمنی AI ناپدید نشد. بسیاری از اعضای قدیمی آنتروپیک ارتباط خود را با جامعه ایمنی AI و EA حفظ کردند. کارهای تحقیقاتی در مورد احتمال اینکه AI انسان‌ها را فریب دهد و کنترل را در دست بگیرد، ادامه یافت.

سازمان کنستلیشن (Constellation) که از تحقیقات و جلسات جامعه ایمنی AI حمایت می‌کند، به فعالیت‌های خود ادامه می‌دهد. این سازمان در وب‌سایت خود خود را این‌گونه توصیف می‌کند.

"هدف ما کاهش 'خسارات انسانی گسترده و شدید' و 'از دست دادن کنترل دائمی بر تمدن بشری' است که AI می‌تواند به وجود آورد."

پارادوکس FTX در اینجا نهفته است. صرافی دارایی‌های دیجیتال که به دلیل سوءاستفاده از وجوه مشتریان سقوط کرد، در نهایت به یکی از محورهای بحث‌های ایمنی AI در حال حاضر کمک مالی قابل توجهی ارائه داد.

شعار مشترک اعضای آنتروپیک همچنان این نگرانی را منعکس می‌کند.

"دیگر نمی‌توان به روزهای آرام بازگشت."

این شعار تنها به معنای "دیگر آرام نخواهیم بود" نیست. در زبان انگلیسی، "chill" به معنای آرامش و راحتی است. بنابراین در زمینه نظریه ایمنی AI، می‌توان آن را به این معنا تفسیر کرد که "دیگر نمی‌توان به روزهای آرام بازگشت."

با پذیرش این احتمال که AI می‌تواند تهدیدی برای بشریت باشد، دیگر نمی‌توان به راحتی به پیشرفت فناوری نگاه کرد.

FTX ناپدید شد. اما شبکه EA که FTX از آن حمایت می‌کرد و بحث‌های نظریه پایان جهان AI در قلب سیلیکون ولی باقی مانده است. جمله "دیگر نمی‌توان به راحتی زندگی کرد" این جهان‌بینی را فشرده می‌کند.

این محتوا صرفاً برای اطلاع‌رسانی عمومی ارائه شده است و به‌منزله مشاوره مالی، سرمایه‌گذاری، حقوقی یا مالیاتی تلقی نمی‌شود. هرگونه رویداد، جایزه، کمپین آنلاین یا اطلاعات مرتبط که در اینجا ذکر شده است، نباید به‌عنوان توصیه، ترغیب یا دعوت به خرید، فروش، معامله یا هرگونه دادوستد دیگر دارایی‌های رمزارزی تلقی شود. دارایی‌های رمزارزی از نوسان بالایی برخوردار هستند و ممکن است منجر به زیان شوند. دسترسی به خدمات، محصولات و رویدادهای مرتبط با WEEX ممکن است بسته به منطقه جغرافیایی متفاوت باشد. اطمینان از اینکه استفاده شما از این خدمات با قوانین و مقررات محلی مطابقت دارد، بر عهده خود شماست.