FTX และทฤษฎีจบสิ้นของ AI ส่งผลกระทบต่อแอนโทรปิก "ยุคแห่งความสงบได้สิ้นสุดลงแล้ว"

FTX ล้มละลายก่อนหน้านี้ มีความสัมพันธ์ลึกซึ้งกับแอนโทรปิก...การลงทุนขนาดใหญ่

แซม แบงค์แมน มีแนวคิดที่มาจาก "การทำดีอย่างมีประสิทธิภาพ"

มีความเห็นร่วมทางปรัชญา อารมณ์ และวัฒนธรรม

[บล็อกมีเดีย ผู้สื่อข่าวอีจองฮวา] "ตอนนี้เรากลับไปสู่ยุคที่สงบสุขไม่ได้อีกแล้ว (Things will never be chill again)"

พนักงานของบริษัทพัฒนา AI แอนโทรปิก มักจะติดสติกเกอร์ที่มีมอเตอร์นี้ไว้บนแล็ปท็อป ซึ่งหมายถึงทฤษฎีจบสิ้นของ AI และ "ดังนั้นเราจึงต้องพยายามมากขึ้นเพื่อป้องกันไม่ให้เกิดจุดจบ"

วอลล์สตรีทเจอร์นัล (WSJ) รายงานเมื่อวันที่ 26 (ตามเวลาท้องถิ่น) ว่ามีความสัมพันธ์ใกล้ชิดระหว่าง FTX ที่ล้มละลายกับแอนโทรปิกในบทความยาวเกี่ยวกับการค้นหาต้นกำเนิดของทฤษฎีจบสิ้นของ AI ผู้ก่อตั้งแอนโทรปิก อาโมเดย์ มักเข้าร่วมกิจกรรมที่จัดโดยแซม แบงค์แมน และได้รับการลงทุน

พวกเขาได้สร้างความสัมพันธ์ที่ลึกซึ้งผ่านปรัชญา "การทำดีอย่างมีประสิทธิภาพ" (Effective Altruism·EA) ซึ่งเป็นพื้นฐานทางทฤษฎีของทฤษฎีจบสิ้นของ AI แซม แบงค์แมน ซึ่งถูกตัดสินจำคุก 25 ปีในข้อหาฉ้อโกงเหรียญ ได้กล่าวถึงอิทธิพลของ EA อย่างเปิดเผย

ความเชื่อมโยงระหว่าง FTX และทฤษฎีจบสิ้นของ AI

จุดเริ่มต้นไม่ได้มาจาก AI แต่เป็นปรัชญา EA เริ่มต้นจากแนวคิดในการช่วยเหลือผู้คนให้มากที่สุดด้วยเงินและทรัพยากรที่จำกัด เช่น การคำนวณว่าการบริจาค 1 ดอลลาร์สามารถช่วยชีวิตได้กี่ชีวิต

เมื่อขยายแนวคิดนี้ไปยังอนาคต ความสนใจจึงเปลี่ยนไป ไม่เพียงแต่ช่วยเหลือผู้คนในปัจจุบัน แต่ยังต้องป้องกัน "ความเสี่ยงที่มีอยู่" ที่คุกคามผู้คนในอนาคต

หาก AI มีโอกาสที่จะทำลายมนุษยชาติแม้เพียงเล็กน้อย การป้องกันไม่ให้เกิดเหตุการณ์นี้จึงมีคุณค่าอย่างมหาศาล ตามรายงานของ WSJ ในกลุ่ม EA เชื่อว่าถึงแม้โอกาสที่ AI จะทำให้มนุษยชาติสูญพันธุ์จะมีเพียง 5% แต่ก็คุ้มค่าที่จะเตรียมตัว

ในจุดนี้ FTX ก็เข้ามามีบทบาท

แซม แบงค์แมน เป็นผู้สนับสนุนที่สำคัญของ EA ในช่วงปี 2020-2022 ที่ FTX เติบโตอย่างรวดเร็ว เขาได้ก่อตั้งมูลนิธิ FTX โดยกล่าวว่า "จะสนับสนุนองค์กรที่สามารถสร้างผลกระทบเชิงบวกที่ใหญ่ที่สุดต่อโลก"

ความสนใจของเขาครอบคลุมถึงการระบาดใหญ่และการพัฒนาทั่วโลก รวมถึงความเป็นไปได้ในการล่มสลายของอารยธรรมมนุษย์ เจ้าหน้าที่ของมูลนิธิ FTX ได้แลกเปลี่ยนโน้ตเกี่ยวกับการสร้างหลุมหลบภัยเพื่อเตรียมพร้อมสำหรับภัยพิบัติที่อาจทำให้ 50-99.99% ของมนุษยชาติตาย โน้ตนี้ถูกเปิดเผยในกระบวนการฟ้องร้องเกี่ยวกับการล้มละลายในปี 2023

แซม แบงค์แมน มองการพัฒนา AI ในมุมมองเดียวกัน เขากังวลว่า AI อาจไม่ปฏิบัติต่อมนุษย์อย่างเป็นมิตรหากมันฉลาดกว่ามนุษย์

การลงทุน 500 ล้านดอลลาร์ในแอนโทรปิก

ความกังวลเหล่านี้นำไปสู่การลงทุนจริง ดาริโอ อาโมเดย์ ผู้ร่วมก่อตั้งแอนโทรปิก ได้ขอความช่วยเหลือจากผู้สนับสนุนในกลุ่ม EA เพื่อหาเงินทุนสำหรับบริษัท AI ที่เกิดใหม่ในปี 2021 หนึ่งในนั้นคือแซม แบงค์แมน

ดาริโอ อาโมเดย์ CEO ของแอนโทรปิก แหล่งที่มาจาก: รอยเตอร์ (REUTERS/Bhawika)

แซม แบงค์แมน ลงทุน 500 ล้านดอลลาร์ในแอนโทรปิก ซึ่งเป็น 5 เท่าของจำนวนเงินที่ทีมลงทุนของเขาแนะนำในตอนแรก FTX กลายเป็นหนึ่งในผู้ถือหุ้นหลักของแอนโทรปิก แอนโทรปิกประกาศว่าจะใช้เงินทุนนี้ในการวิจัยและปรับปรุงความปลอดภัยของโมเดล AI ขนาดใหญ่

มูลนิธิ FTX ยังได้สัญญาเงินทุนให้กับหลายองค์กรไม่แสวงหาผลกำไรที่ทำการวิจัยด้านความปลอดภัยของ AI ความเชื่อมโยงไม่ได้หยุดอยู่แค่ที่เงิน

นิค เบ็กซ์เทด ผู้ซึ่งนำโครงการการกุศลของมูลนิธิ FTX ได้เป็นผู้นำองค์กรที่มุ่งลดความเสี่ยงจาก AI ในภายหลัง เขาเคยอาศัยอยู่ในบ้านที่ผู้ร่วมก่อตั้งแอนโทรปิก เช่น อาโมเดย์ เคยอาศัยอยู่ บ้านนี้เป็นสถานที่สำหรับการแลกเปลี่ยนระหว่าง EA และผู้สนับสนุนความปลอดภัยของ AI

แคโรไลน์ เอลลิสัน ผู้ซึ่งนำบริษัทอัลลามีดารีเสิร์ช ซึ่งเป็นบริษัทในเครือของ FTX ก็มีความคิดที่คล้ายกันเกี่ยวกับทิศทางการพัฒนา AI เอลลิสันลงทุน 10 ล้านดอลลาร์ในแอนโทรปิก

ในปี 2022 ผู้แทนจากแอนโทรปิกและสถาบันวิจัย AI อื่น ๆ ได้มารวมตัวกันที่งานที่จัดขึ้นบนเกาะเอลยูเซอราในบาฮามาส ในงานนี้มีการพูดคุยเกี่ยวกับความเสี่ยงของ AI และ EA เป็นหัวข้อหลัก สถานที่จัดงานถูกจองโดย FTX ซึ่งในขณะนั้นได้ย้ายสำนักงานใหญ่ไปที่บาฮามาส

เอลิเซอร์ ยูดคอฟสกี้ ผู้ซึ่งเป็นบุคคลสำคัญในทฤษฎีความเสี่ยงของ AI ได้ประกาศเหตุผลที่ AGI อาจทำลายมนุษยชาติในงานนี้ มีการจัดเลี้ยงสำหรับผู้ที่เชื่อว่ามีโอกาสที่มนุษยชาติจะสูญพันธุ์ในอีก 100 ปีข้างหน้ามากกว่า 75%

FTX ล้มเหลว แต่แนวคิดยังคงอยู่

FTX ล้มละลายในปี 2022 เนื่องจากไม่สามารถคืนเงินให้กับลูกค้า แซม แบงค์แมน ถูกตัดสินจำคุก 25 ปี หุ้นของแอนโทรปิกที่ FTX ถืออยู่ก็ถูกขายเพื่อชำระหนี้ให้กับเจ้าหนี้

การล่มสลายของ FTX ส่งผลกระทบอย่างมากต่อกลุ่ม EA WSJ รายงานว่าแบรนด์ EA เองกลายเป็นสิ่งที่ถูกหลีกเลี่ยงหลังจากแซม แบงค์แมนถูกจำคุก ผู้นำ EA ได้ห่างเหินจากแซม แบงค์แมน และปฏิเสธว่าไม่รู้จักเขา

แม้ว่า FTX จะหายไป แต่ทฤษฎีความปลอดภัยของ AI ก็ยังคงอยู่ แอนโทรปิกมีสมาชิกเก่าหลายคนที่ยังคงรักษาความสัมพันธ์กับชุมชนความปลอดภัยของ AI และ EA การวิจัยเกี่ยวกับความเป็นไปได้ที่ AI จะหลอกลวงและควบคุมมนุษย์ยังคงดำเนินต่อไป

กลุ่มคอนสเตลเลชัน (Constellation) ซึ่งสนับสนุนการวิจัยและการประชุมของกลุ่มความปลอดภัยของ AI ก็ยังคงทำงานอยู่ กลุ่มนี้อธิบายตัวเองในเว็บไซต์ว่า

"มุ่งหวังที่จะลด 'ความเสียหายที่รุนแรงต่อชีวิตจำนวนมาก' และ 'การสูญเสียการควบคุมอย่างถาวรต่ออารยธรรมมนุษย์' ที่ AI อาจก่อให้เกิด"

ความขัดแย้งของ FTX อยู่ที่นี่เอง การแลกเปลี่ยนสินทรัพย์ดิจิทัลที่ล้มเหลวจากการใช้เงินของลูกค้า กลับส่งผลให้มีเงินทุนจำนวนมากสำหรับการอภิปรายเกี่ยวกับความปลอดภัยของ AI ในปัจจุบัน

มอเตอร์ที่สมาชิกแอนโทรปิกแชร์กันยังคงมีปัญหานี้อยู่

"Things will never be chill again."

มอเตอร์นี้ไม่ได้หมายความว่า "จะไม่มีความสงบอีกต่อไป" เท่านั้น คำว่า 'chill' ในภาษาอังกฤษมีนัยยะถึงการใช้ชีวิตอย่างสบายใจ ดังนั้นในบริบทของทฤษฎีความปลอดภัยของ AI สามารถอ่านได้ว่า "ตอนนี้เราไม่สามารถกลับไปใช้ชีวิตอย่างสบายใจได้อีกแล้ว"

การยอมรับว่ามีความเป็นไปได้ที่ AI จะคุกคามมนุษยชาติ ทำให้ไม่สามารถมองการพัฒนาเทคโนโลยีอย่างสบายใจได้เหมือนเดิม

FTX หายไปแล้ว แต่เครือข่าย EA ที่ได้รับการสนับสนุนจาก FTX และการอภิปรายเกี่ยวกับทฤษฎีจบสิ้นของ AI ยังคงอยู่ในใจกลางของซิลิคอนวัลเลย์ คำว่า "ไม่มีความสงบอีกต่อไป" สรุปมุมมองของโลกนี้ได้อย่างชัดเจน

เนื้อหานี้จัดทำขึ้นเพื่อวัตถุประสงค์ด้านการให้ข้อมูลทั่วไปเท่านั้น และไม่ถือเป็นคำแนะนำด้านการเงิน การลงทุน กฎหมาย หรือภาษี อีเวนต์ รีวอร์ด โปรโมชันออนไลน์ หรือข้อมูลที่เกี่ยวข้องใดๆ ที่กล่าวถึงในที่นี้ ไม่ควรถือเป็นคำแนะนำ การชักชวน หรือคำเชิญชวนให้ซื้อ ขาย เทรด หรือดำเนินการอื่นใดเกี่ยวกับสินทรัพย์คริปโต สินทรัพย์คริปโตมีความผันผวนสูงและอาจส่งผลให้เกิดการขาดทุน ความพร้อมให้บริการของบริการ ผลิตภัณฑ์ และอีเวนต์ที่เกี่ยวข้องของ WEEX อาจแตกต่างกันไปตามภูมิภาค คุณมีหน้าที่ตรวจสอบให้แน่ใจว่าการเข้าร่วมของคุณเป็นไปตามกฎหมายและข้อบังคับท้องถิ่นที่ใช้บังคับ