SBF กล่าวถึงความเสียดายในการขาย Anthropic: AI มีโอกาสทำลายมนุษย์ 25% คนรุ่นใหม่ควรเรียนรู้ AI ให้เข้าใจ
หมายเหตุบรรณาธิการ: Anthropic เข้าสู่ตลาดหุ้น โดยมีมูลค่า 1.5 ล้านล้านดอลลาร์ และเคยมีมูลค่าใกล้ถึง 2 ล้านล้านดอลลาร์ ทุกคนจึงนึกถึง SBF ที่เคยลงทุนใน Anthropic ด้วยมูลค่าต่ำมาก หากเขายังถืออยู่ตอนนี้น่าจะมีมูลค่าเกือบ 40,000 ล้านดอลลาร์ แต่โชคร้ายที่เขาขายไปแล้ว
เด็กชายอายุ 14 ปี Eli Goldfine ติดต่อกับแม่ของ SBF และได้โทรศัพท์คุยกับ SBF ที่อยู่ในคุก นี่คือการสัมภาษณ์ที่ดีที่สุดที่ฉันเคยเห็นตั้งแต่ FTX ล่มสลายและ SBF เข้าคุก ไม่เพียงแต่พูดคุยเกี่ยวกับการลงทุนใน Anthropic และมุมมองของเขาเกี่ยวกับ AI แต่ยังพูดคุยเกี่ยวกับหลาย ๆ ด้านที่ FTX เคยทำในปี 2020 แต่ตอนนี้กลับกลายเป็นกระแสฮิต รวมถึงความเห็นของเขาเกี่ยวกับกระแสเหล่านั้นในปัจจุบัน
TL;DR
· โอกาสที่ AI จะทำให้มนุษย์สูญพันธุ์หรือทำลายอารยธรรม เขาให้ไว้ที่ 25%: เดิมทีเขาบอกว่า "ต่ำกว่า 50% สูงกว่า 10%" สุดท้ายจึงอยู่ที่ประมาณ 25%; หากแบ่งตาม "การอัปโหลดจิตใจถือเป็นภัยพิบัติหรือไม่" ช่วงนี้จะขยายไปที่ 20%--60%.
· ในอีก 5--10 ปี AI จะสามารถทำงานที่สำคัญส่วนใหญ่ได้เท่าหรือดีกว่ามนุษย์ และอยู่ห่างจาก "AI ที่ดำเนินการในโลกส่วนใหญ่" เพียงก้าวเล็ก ๆ แต่กระบวนการนี้จะค่อย ๆ เป็นไปอย่างไม่ชัดเจน ไม่มีปีที่ "ปัง" ข้ามผ่านไปได้.
· ผลกระทบจะเกิดขึ้นในอุตสาหกรรมทีละอุตสาหกรรม: การพัฒนาซอฟต์แวร์และคณิตศาสตร์กำลังเกิดขึ้น และต่อไปจะขยายไปยังหลาย ๆ ด้าน; โลกโดยรวมยังไม่ได้ถูกพลิกผัน แต่บางส่วนจะเกิดการเปลี่ยนแปลงอย่างมาก.
· ปัญหาที่แท้จริงไม่ใช่ "ควรชะลอหรือไม่" แต่คือ "สามารถทำให้ทุกคนชะลอได้หรือไม่": ตราบใดที่มีผู้เล่นคนใดคนหนึ่งที่ไม่สนใจความปลอดภัย การชะลอเพียงฝ่ายเดียวก็จะทำให้การแข่งขันกลายเป็นการแข่งขันที่ลดต่ำลง.
· การจัดเรียงไม่มีคำตอบระดับสูงเดียว ปีศาจอยู่ในรายละเอียด: ต้องมีการทดสอบจำนวนมาก การปรับแต่งจำนวนมาก และความระมัดระวังจำนวนมาก และต้องสมมติว่ารูปแบบจะถูกใช้เป็นตัวแทนในที่สุด.
· Anthropic เป็นบริษัท AI ระดับพันล้านดอลลาร์ อันดับสอง: ในอีกสิบปี AI จะกลายเป็นอุตสาหกรรมหลัก มูลค่ารวมอาจสูงถึงหลายแสนล้านหรือแม้กระทั่งล้านล้านดอลลาร์ บริษัทที่สามารถรองรับขนาดนี้มีไม่มากนัก.
· เมื่อก่อนลงทุนเพียง 500 ล้านดอลลาร์ เพราะมันต้องการเงินแค่นั้น: นี่คือผลลัพธ์จากการที่บริษัทไม่ต้องการขายหุ้นมากเกินไป และการระดมทุนตามความต้องการ ไม่ใช่เพราะเขาตัดสินใจผิด.
· ปัจจุบัน alpha ไม่อยู่ที่ "ใครมีเรื่องราว AI" แต่ที่การแยกแยะว่าใครคือบริษัท AI ที่แท้จริง; และแบรนด์สามารถรักษาความได้เปรียบได้มากกว่าทางเทคนิค (Coinbase, Robinhood มีมูลค่าหลายร้อยล้านดอลลาร์เพราะชื่อเสียง).
· การพนันเหรียญ "51% เพิ่มขึ้น, 49% ทำลาย" ในระดับนามธรรมเขาจะพนัน แต่ในโลกแห่งความเป็นจริงเขาจะไม่พนัน: เพราะการทำลายคือสิ่งถาวร ในขณะที่การเติบโตคนอื่นก็สามารถทำได้ในที่สุด.
· เมื่อถูกถามว่า "ดูจากสิ่งดี ๆ ที่ Future Fund ทำ FTX จากการเติบโตจนถึงการล่มสลายทั้งหมดนั้นคุ้มค่าหรือไม่" คำตอบของเขาคือ "ไม่คุ้มค่า": เขายินดีที่จะเชื่อว่ามันคุ้มค่า แต่ไม่สามารถพูดอย่างซื่อสัตย์ได้ว่ามันคุ้มค่า; หากสุดท้ายไม่พัง มันน่าจะคุ้มค่า------เขาก็ไม่เชื่อว่าผู้คนได้เรียนรู้บทเรียน เพราะในวิกฤตผู้คนมักจะสูญเสียการตัดสินใจเกี่ยวกับสิ่งที่สำคัญจริง ๆ.
ฉันเดาว่าคุณก็ได้ยินว่า Anthropic จะ IPO ในสัปดาห์นี้ โดยมีมูลค่ามากกว่า 1 ล้านล้านดอลลาร์ คุณคิดอย่างไรเกี่ยวกับมูลค่าของมันในตอนนี้?
ฉันคิดว่ามันมีมูลค่ามากมาย.
ดูอุตสาหกรรมที่ใหญ่ที่สุด อุตสาหกรรมที่ขับเคลื่อนเศรษฐกิจบางส่วนของเรา มูลค่าของพวกเขาอยู่ที่หลายล้านล้านถึงหลายสิบล้านล้านดอลลาร์ ไม่มีเหตุผลที่จะเชื่อว่าในอีกสิบปี AI จะไม่กลายเป็นหนึ่งในอุตสาหกรรมหลักเหล่านั้น หรือแม้กระทั่งเป็นหนึ่งในอุตสาหกรรมที่สำคัญที่สุด.
ดังนั้นหากคุณคาดการณ์ว่ามูลค่ารวมของบริษัท AI จะสูงถึงหลายแสนล้านหรือแม้กระทั่งล้านล้านดอลลาร์ เงินนี้จะแบ่งอย่างไร? บางทีคุณอาจจะเก็บสองในสามไว้สำหรับบริษัทที่ยังไม่มีอยู่จริง แม้จะคิดแบบนี้ ก็ยังมีอย่างน้อย 100,000 ล้านดอลลาร์สำหรับบริษัทที่มีอยู่แล้ว และบริษัทที่สามารถรองรับขนาดนี้มีไม่มากนัก คุณมี OpenAI, Anthropic, Google และห้องทดลองที่อยู่ภายใต้ รวมถึง DeepMind, xAI บริษัทที่ถือว่าเป็นผู้เล่นหลักมีนับนิ้วได้มือเดียว นี่หมายความว่าบริษัทสองสามแห่งที่อยู่ในอันดับต้น ๆ แต่ละแห่งมีมูลค่าหลายล้านล้านดอลลาร์.
และฉันเชื่อว่า Anthropic แม้จะไม่ใช่บริษัทแรก แต่ก็ชัดเจนว่าอยู่ในกลุ่มชั้นนำ.
ทำไมคุณถึงคิดว่ามันเป็นบริษัท AI ชั้นนำ?
หนึ่งคือดูความสามารถของโมเดลในปัจจุบัน ผลิตภัณฑ์ในปัจจุบันมีความสะดวกสบายเพียงใด และพวกเขาและ OpenAI มีการแลกเปลี่ยนกันในเรื่องนี้อย่างชัดเจน ผลิตภัณฑ์ที่มุ่งสู่ผู้บริโภคของ Anthropic ได้รับการตอบรับที่ดีมาก และนี่อาจไม่ใช่ผลิตภัณฑ์ที่โดดเด่นที่สุดของพวกเขา เครื่องมือพัฒนาซอฟต์แวร์ AI ของพวกเขาเป็นสิ่งที่ดีที่สุดในโลก นั่นคืออีกหนึ่งด้านที่ใหญ่มาก ดังนั้นอย่างน้อยในวันนี้ คุณต้องนับมันเป็นหนึ่งในสองอันดับแรก.
หากจริง ๆ แล้วเข้าสู่การแข่งขันเพื่อความฉลาดที่เหนือกว่าในระดับที่ดูเหมือนจะเป็นไปได้ในอนาคตสิบปี คุณคิดว่าจะเป็นอย่างไร? โลกจะเป็นอย่างไร?
คำถามที่ดี ก่อนอื่นในอีกไม่กี่ปีข้างหน้า อาจมีเหตุการณ์ที่ไร้สาระเกิดขึ้นได้ทุกเมื่อ นี่เป็นเพียงการคาดการณ์ในระดับกลางที่อาจเบี่ยงเบนไปได้ทุกเมื่อ.
แต่จนถึงตอนนี้สิ่งที่เราเห็นคือ: AI มีผลกระทบต่อโลกในระยะยาวแทบไม่มีเลย แม้ว่าความสามารถของมันจะเพิ่มขึ้นเป็นสองเท่าอีกครั้งและอีกครั้ง เพราะมันยังอยู่ในขั้น "ไม่เก่งเท่ามนุษย์" และไม่เก่งถึงขนาดที่การใช้มนุษย์ทำงานยังคงคุ้มค่ากว่าการใช้ AI และในช่วงไม่กี่ปีที่ผ่านมา มันเริ่มข้ามเส้นนั้นในหลาย ๆ ด้าน และเริ่มมีผลกระทบต่อโลก.
มันยังไม่ได้เปลี่ยนแปลงโลกอย่างสิ้นเชิง แต่เมื่ออุตสาหกรรมสำคัญ ๆ หลายแห่งตกลงไปถึงจุดวิกฤต AI ในบางด้านมีประสิทธิภาพสูงกว่ามนุษย์อย่างมาก คุณจะเห็นการระเบิดอย่างรวดเร็วในด้านเหล่านั้น ดังนั้นในอีกหนึ่งหรือสองปี ฉันคิดว่าจะมีอีกหลายด้านที่อาจเป็นด้านที่สำคัญมาก เดินตามเส้นทางของคณิตศาสตร์และการพัฒนาซอฟต์แวร์: งานที่ล้ำสมัยส่วนใหญ่จะทำโดยโมเดล AI โดยแท้จริง โลกทั้งใบไม่ได้ถูกพลิกผัน แต่คุณจะเริ่มเห็นการเปลี่ยนแปลงที่ชัดเจนในบางพื้นที่.
มีคำถามมากมาย ให้ฉันถอยกลับไปพูด หนึ่งคือ: จะมีเหตุการณ์ใดที่นำไปสู่ความยุ่งเหยิงหรือข้อผิดพลาดที่ร้ายแรงหรือไม่? ตัวอย่างที่ชัดเจนที่สุดคือ AI ที่ควบคุมไม่ได้สัมผัสกับอาวุธ เช่น ระบบ AI ที่ใช้ตรวจจับภัยคุกคามจากประเทศมหาอำนาจนิวเคลียร์ มันควบคุมไม่ได้และยิงขีปนาวุธข้ามทวีปหลายพันลูกในครั้งเดียว นี่คือหนึ่งในสถานการณ์ที่ฉันคิดว่าในอีกสิบปีโอกาสเกิดขึ้นไม่มาก แต่ก็ไม่ใช่ศูนย์ มีโอกาสเกิดขึ้นได้.
หากมองข้ามสถานการณ์วันสิ้นโลก ฉันคิดว่าในอีกสิบปีเราอาจอยู่ในโลกที่: ทันใดนั้น มนุษย์ไม่จำเป็นในอาชีพส่วนใหญ่ แม้ว่าโลกจะไม่เปลี่ยนแปลงมากนักในระยะสั้น แต่สิ่งนี้จะบิดเบือนวัฒนธรรมของสังคมอย่างรุนแรง นั่นคือผลกระทบที่ยิ่งใหญ่ หากเราไม่ถูกกำหนดโดยงาน นอกจากนี้ เมื่อผลผลิตในบางอุตสาหกรรมเริ่มยากที่จะเข้าใจโดยมนุษย์ จะเกิดอะไรขึ้น? นั่นถือว่า AI ได้เข้าควบคุมอย่างเงียบ ๆ หรือไม่? AI เหล่านั้นจะมองมนุษย์อย่างไร?
ฉันไม่รู้ว่าคำถามเหล่านี้จะมีคำตอบในอีกสิบปีหรือไม่ แต่ฉันคิดว่ามันมีโอกาสสูงที่พวกเขาจะปรากฏขึ้นอย่างรวดเร็ว หรืออย่างน้อยก็ปรากฏขึ้นติดต่อกัน และในหลาย ๆ ด้าน สถานะของมนุษย์ในฐานะผู้ตัดสินใจเกี่ยวกับอนาคตของตนเองจะถูกเขียนไว้บนกำแพงแล้ว.
ราคา --
คุณมีความคิดเหล่านี้มาก่อนที่จะเป็นกระแสหลัก ในปี 2021 เมื่อ ChatGPT ยังไม่เป็นผลิตภัณฑ์หลัก คุณมองว่า AI จะเดินไปในทิศทางไหน?
หลายสิ่งในนี้ไม่สามารถนับเป็นความสำเร็จของฉันได้ หลายคำพูดที่สำคัญเป็นของคนอื่น ฉันส่วนใหญ่เพียงแค่เน้นย้ำหรือพูดซ้ำสิ่งที่พวกเขาพูด.
แต่มีแนวคิดบางอย่าง หนึ่งคือ: ดูว่า AI ทำอะไรได้บ้างในปี 2020 คำตอบคือ ในหลาย ๆ ด้าน มันทำอะไรไม่ได้เลย ในหลาย ๆ ด้าน คุณสามารถลองใช้ AI มันจะดูงุ่มง่าม แม้ว่าจะดีกว่าที่น่าประทับใจเมื่อสิบปีก่อน แต่ก็ยังไม่มีประโยชน์เลย แต่มีบางสิ่งที่มันได้รับการฝึกฝนโดยเฉพาะ มันได้เกินกว่ามนุษย์ เช่น เกมหมากรุกส่วนใหญ่ หมากรุกหรือโกะ; เกมคอมพิวเตอร์ที่ซับซ้อนมากขึ้นก็เริ่มมีการปรากฏขึ้น.
หาก AI เป็นเพียงการเล่นหมากรุกได้ดี คุณจะไม่สามารถทำเงินได้มากนัก และไม่สามารถพลิกโฉมสังคมได้มากนัก แต่ไม่มีเหตุผลที่จะเชื่อว่าหมากรุกคือทั้งหมดที่ AI สามารถทำได้ มันเติบโตจากจุดเริ่มต้นที่เล็กมากอย่างทวีคูณ ไม่จำเป็นต้องเพิ่มขึ้นอีกหลายครั้ง มันจะเริ่มเกินกว่ามนุษย์ในด้านที่สำคัญของสังคม.
คำถามของฉันคือ: หากคุณเชื่อว่ามันเป็นเส้นโค้งการเติบโตแบบทวีคูณ ทำไมคุณถึงลงทุนเพียง 500 ล้านดอลลาร์ใน Anthropic เมื่อปีนั้น?
คำถามที่ดี คำตอบคือ: เมื่อคุณก่อตั้งบริษัทและระดมทุน คุณมักไม่ต้องการระดมทุนมากเกินไป คุณมีการคาดการณ์ทางการเงิน รู้โดยประมาณว่าต้องใช้เงินเท่าไหร่ในการทำให้ธุรกิจเติบโต คุณจึงไม่ต้องการขายหุ้นมากเกินไป.
Anthropic ตอนนั้นอยู่ในตำแหน่งนั้น มันคำนวณแล้วว่าต้องใช้เงิน 500 ล้านดอลลาร์ในการใช้พลังการคำนวณเพื่อสร้างโมเดล ดังนั้นมันจึงระดมทุนในจำนวนนี้ เราแทบจะลงทุนในจำนวนเงินที่พวกเขาต้องการทั้งหมดในรอบนั้น.
แต่ศูนย์ข้อมูลไม่สามารถสร้างขึ้นได้ตลอดเวลา? หากพวกเขาระดมทุนได้มากขึ้น ทำไมไม่ซื้อ GPU เพิ่มเติมหรือสร้างศูนย์ข้อมูลมากขึ้นเพื่อผลักดันโมเดลให้สูงกว่าห้องทดลองชั้นนำอื่น ๆ ในขณะนั้น?
อาจจะควรทำเช่นนั้น ฉันเดาว่าสาเหตุหนึ่งคือพวกเขาไม่ต้องการขายหุ้นมากเกินไป แต่สาเหตุอีกส่วนหนึ่งคือ หลายบริษัทจริง ๆ แล้วถูกความสำเร็จของตัวเอง เงินสดที่มีอยู่และกระแสเงินสดดึงลง ประวัติศาสตร์มีหลายบริษัทที่ระดมทุนจำนวนมากแล้วใช้เงินไปกับโฆษณา เพราะคิดว่าต้องทำอะไรบางอย่างด้วยเงินนี้ สุดท้ายก็ไม่ได้อะไรกลับมา แค่หยุดนิ่ง.
ดังนั้นฉันเดาว่า พวกเขาก็คิดว่า ในอีกไม่กี่ปีข้างหน้าต้องใช้เงินเท่าไหร่ พยายามไม่ให้เกิดความยุ่งเหยิง.
คุณสามารถบอกได้ไหมว่าแผนกการลงทุนของ FTX ทำงานอย่างไรในขณะนั้น? ใครเป็นผู้ดูแล? หลักการลงทุนของคุณคืออะไร?
ผู้ที่เข้าร่วมมีการหมุนเวียนเป็นกลุ่ม ๆ และต่อมาเราก็จ้างคนมาเพื่อทำงานเฉพาะทาง ในตอนแรกมีเพียงฉันหรือคนอื่น ๆ ในบริษัทที่พบโอกาสแล้วลงทุนทีละรายการ พูดตามตรง Anthropic ก็อยู่ในประเภทนี้.
แต่ต่อมาเราทำได้ดีมาก ในช่วงแรก ๆ หลาย ๆ การลงทุนเป็นการลงทุนในสินทรัพย์ดิจิทัล พูดตามตรง มันเพิ่มขึ้นเป็นสองเท่าแทบทุกปี แม้จะอยู่ในบริบทของตลาดคริปโตโดยรวมก็ตาม เราจึงตัดสินใจที่จะพยายามขยายขนาด เราจ้าง Ramnik และ Amy เป็นต้น ให้พวกเขารับผิดชอบในส่วนนี้โดยเฉพาะ.
โดยรวมแล้วฉันมีส่วนร่วมในระดับสูงในพอร์ตโฟลิโอทั้งหมด และในบางกรณีเฉพาะเจาะจง Anthropic ชัดเจนว่าเป็นหนึ่งในนั้น Solana เป็นอีกหนึ่ง ฉันจะมีส่วนร่วมลึกซึ้งยิ่งขึ้น อย่างน้อยก็จะติดตามเป็นรายสัปดาห์ โดยเฉพาะเมื่อการลงทุนเหล่านี้มีปฏิสัมพันธ์กับ Alameda หรือ FTX หรือมีสิ่งที่สามารถช่วยพวกเขาได้.
จากข้อมูลที่คุณได้รับในคุก ตอนนี้ alpha อยู่ที่ไหน? การตัดสินใจลงทุนของคุณในตอนนี้คืออะไร?
ฉันหวังว่าจะมีคำตอบที่ดีกว่านี้ สี่ปีที่แล้วควรลงทุนอะไร ฉันมีความคิดที่ดี แต่วันนี้ควรลงทุนอะไร คำตอบที่แท้จริงคือ: ฉันไม่ควรฟังคำแนะนำของตัวเอง ฉันต้องออกไปทำการตรวจสอบสถานะด้วยตัวเองจึงจะสามารถให้คำตอบที่เหมาะสมได้.
ในแง่ใหญ่ ฉันเดาว่าจะมีบริษัทมากมายที่สร้างขึ้นบน AI ทีมเล็ก ๆ สองคนที่ทำให้บริษัทมีมูลค่าหลายร้อยล้านหรือแม้กระทั่งพันล้านดอลลาร์ในไม่กี่ปี และสามารถลงทุนในมูลค่าที่ต่ำกว่ามาก แต่ปัญหาคือ ในเวลาเดียวกันจะมีขยะจำนวนมากเกิดขึ้น ตอนนี้บริษัททุกแห่งจะใส่คำว่า AI ลงในแผนธุรกิจ แม้ว่าจะไม่มีเหตุผล เช่น บริษัทเสื้อยืดก็จะบอกว่า "เราจะใช้ AI ออกแบบเสื้อยืด" โอเค อาจจะมีประโยชน์บ้าง แต่พวกเขากำลังรีแบรนด์ตัวเองเป็นบริษัท AI ที่แท้จริง ในขณะที่มันไม่ใช่เลย.
ดังนั้นตอนนี้ส่วนใหญ่ของ alpha อยู่ที่การแยกแยะสองประเภทนี้ออก: บริษัทไหนที่เป็นบริษัท AI จริงๆ, บริษัทไหนที่สามารถเติบโตอย่างก้าวกระโดดด้วย AI, และบริษัทไหนที่ไม่ใช่, อย่างน้อยในตอนนี้ไม่ใช่ คุณสามารถเห็นได้จากหุ้นขนาดใหญ่ในตลาดเช่นกัน ผู้เข้าร่วมตลาดในช่วงแรกหลายคนไม่รู้ว่าจะทำอย่างไรในการแยกแยะ Amazon, Google, Apple, Netflix ซึ่งทั้งหมดเป็นบริษัทเทคโนโลยี ดังนั้นมันหมายความว่า AI จะมีผลกระทบต่อพวกเขาในลักษณะเดียวกันหรือไม่? คำตอบคือไม่ บริษัทไม่กี่แห่งที่มีการเติบโตที่ผูกพันกับ AI อย่างลึกซึ้ง NVIDIA เป็นตัวอย่างที่ชัดเจนที่สุด; ในขณะที่บริษัทอื่นๆ เช่น Apple แม้ว่าจะเป็นบริษัทเทคโนโลยี แต่สิ่งที่กำหนดความสำเร็จของ Apple ในช่วงสามสิบปีที่ผ่านมาคือการออกแบบผลิตภัณฑ์ที่ยอดเยี่ยม: ฮาร์ดแวร์ที่สวยงาม, ซอฟต์แวร์ที่ใช้งานง่าย, บวกกับแบรนด์ที่แข็งแกร่ง อย่างน้อยในแง่ของบริษัทเทคโนโลยี นี่ไม่ถือว่าเป็นการมุ่งเน้นที่ AI เป็นหลัก
แล้วบริษัทที่ไม่ใช่บริษัท AI จริงๆ เช่นบริษัทซอฟต์แวร์ดั้งเดิม จะหมดสิ้นไปหรือไม่? หรือว่ามีเพียงบริษัทที่ใช้ AI เท่านั้นที่จะอยู่รอด?
ฉันไม่คิดว่ามีเพียงบริษัท AI เท่านั้นที่จะประสบความสำเร็จ ก่อนอื่นมีบางอุตสาหกรรมที่จะใช้เวลานานกว่าจะมีผลกระทบใหญ่จาก AI ตัวอย่างเช่น การขุดเหล็ก โลกยังคงต้องการเหล็ก และตอนนี้ AI เริ่มเข้ามาเกี่ยวข้องในการขุดจริง ดังนั้นมันจึงกลายเป็นเรื่องที่เกี่ยวข้องในชั่วข้ามคืน
แต่สิ่งที่ฉันคิดว่ามีความสำคัญมากคือแบรนด์ คุณอาจมีบริษัทซอฟต์แวร์ที่มีผลิตภัณฑ์ มูลค่าตลาดไม่เล็ก และจากนั้นมีคู่แข่งที่พูดว่า: เราสามารถทำสิ่งที่เกือบจะเหมือนกันได้ในราคาที่ถูกมาก ใช่ แต่ไม่ได้หมายความว่าคนอื่นจะซื้อได้ แบรนด์ที่ตั้งอยู่ที่นั่นมีคุณค่ามหาศาล
คุณดู Coinbase หรือ Robinhood บริษัทเหล่านี้มีความแตกต่างที่แท้จริงคืออะไร? ทำไมพวกเขาถึงมีมูลค่าหลายร้อยล้านดอลลาร์? ไม่ใช่เพราะเทคโนโลยี และไม่ใช่เพราะพวกเขามีสิ่งที่เป็นเอกลักษณ์ในด้านนี้ อาจจะเป็นการกำกับดูแล แต่ในกรณีของพวกเขาก็ไม่ใช่ทั้งหมด มันคือแบรนด์ ชื่อที่นักลงทุนรายย่อยในอเมริการู้จักและใช้ ซึ่งสามารถมีมูลค่าเป็นจำนวนมาก และสำหรับบริษัทหลายแห่ง แม้ว่าผลิตภัณฑ์หลักจะกลายเป็นสิ่งที่ง่ายต่อการทำซ้ำ สิ่งนี้ก็จะยังคงมีอยู่
คุณเคยพูดว่าคุณใช้เวลาน้อยมากในการตัดสินใจทางการเงินขนาดใหญ่เมื่อเปรียบเทียบกับขนาดการลงทุน นี่แสดงให้เห็นอย่างไรในวงการลงทุน เช่น ถ้าทีมเสนอโปรเจกต์ คุณจะอนุมัติหรือไม่?
ส่วนใหญ่ขึ้นอยู่กับ: ถ้าคุณจะจ้างคนมาทำสิ่งหนึ่ง สิ่งแรกคือคุณตั้งใจที่จะไว้วางใจเขาให้ทำสิ่งนั้นให้ดี ถ้าทีมมีคนที่ใช้เวลา 15 ชั่วโมงในการทำการวิจัยและการตรวจสอบ ไม่มีปัญหา ฉันจะดูมันและเสริมสิ่งที่ฉันสามารถเสริมได้ ให้ทรัพยากรที่ฉันมีซึ่งพวกเขาไม่มี
แต่ถ้าไม่เช่นนั้น ถ้าฉันไม่ตั้งใจที่จะไว้วางใจเขาในการตัดสินใจที่ถูกต้องและมองเห็นสิ่งที่ถูกต้อง ฉันก็ต้องใช้เวลา 15 ชั่วโมงในการทำการตรวจสอบใหม่อีกครั้ง เมื่อถึงจุดนั้น การจ้างเขาเข้ามาก็ไม่มีความหมาย
คุณเคยพูดว่าจุดที่ยากที่สุดในคุกคือไม่สามารถสนับสนุนการเคลื่อนไหวที่มีประสิทธิภาพในการช่วยเหลือผู้อื่น ไม่สามารถ "ทำเงินเพื่อบริจาค" หลังจากออกมาแล้วคุณตั้งใจจะทำอย่างไร? โดยเฉพาะตอนนี้มีคนในขบวนการหลายคนที่ได้ตัดขาดจาก FTX
คำตอบบางส่วนต้องรอจนถึงวันนั้นเพราะตอนนี้มีข้อมูลมากมายที่ฉันไม่มี โลกกำลังเปลี่ยนแปลง และบางข้อมูลก็ง่ายกว่าที่จะได้รับจากข้างนอกมากกว่าข้างใน
แต่ฉันจะพิจารณาอย่างจริงจังในการกลับไปที่ "ทำเงินเพื่อบริจาค" สนับสนุนการเคลื่อนไหวนี้ สนับสนุนโครงการที่ฉันคิดว่าทำสิ่งดีๆ นี่อาจจะเป็นเส้นทางที่ตั้งไว้
นอกจากนี้ เส้นทางอื่นๆ ก็ขึ้นอยู่กับว่าฉันสามารถทำอะไรในสังคมได้บ้าง ก่อนหน้านี้ฉันมีเงื่อนไขในการสร้างผลกระทบในหลายด้าน แต่ตอนนี้มันจะยากมาก เพราะชื่อเสียงของฉันเป็นลบอย่างมาก ดังนั้นจากมุมมองของการอภิปรายสาธารณะ การเมือง สื่อ ฉันไม่แน่ใจว่าฉันจะสามารถทำอะไรในอนาคตได้ หรืออาจจะไม่มีอะไรเลย แต่ "ทำเงินเพื่อบริจาค" เป็นเส้นทางที่ตั้งไว้
แล้วคุณจะทำเงินอย่างไร? กลับไปที่อุตสาหกรรมคริปโตหรือไม่?
ฉันจะพิจารณาอย่างจริงจัง ขึ้นอยู่กับว่าฉันจะออกมาเมื่อไหร่ และออกมาอย่างไร แต่ฉันแน่นอนจะพิจารณาเกี่ยวกับคริปโต, AI และการเงินในความหมายที่กว้างขึ้น
FTX Future Fund คุณได้บริจาคเงินจำนวนมาก และไม่ใช่แค่การบริจาคให้กับองค์กรการกุศล EA ที่มีความเป็นผู้ใหญ่ แต่กำลังมองหาโครงการที่มีความผันผวนสูงและมีศักยภาพในการเติบโตสูง สามารถย้อนกลับไปดูได้ไหมว่าโครงการที่ดีที่สุดใน Future Fund คืออะไร? โดยรวมแล้วมันมีประสิทธิภาพมากกว่าการให้เงินกับมูลนิธิการกุศลชั้นนำอย่าง GiveWell หรือไม่?
ฉันคิดว่ามันมีประสิทธิภาพมากกว่า
สิ่งที่เราทำมากมายคือ "การมอบเงินคืน" (regranting): มอบเงินจำนวนหนึ่งให้กับกลุ่มคน ให้พวกเขาตัดสินใจเองว่าจะลงทุนในโครงการเล็กๆ ไหน ด้วยวิธีนี้ เราสามารถทำให้โอกาสที่เดิมไม่อยู่ในเรดาร์ของเราเป็นการ crowdsourcing มีคนจำนวนมากในด้านความปลอดภัย AI, ความปลอดภัยทางชีวภาพ, การเมือง ฯลฯ ที่มีศักยภาพมหาศาล แต่ต้องการเงินซึ่งอาจไม่มาก อาจเพียงพอสำหรับการเรียนจบมหาวิทยาลัย หรือเพียงพอสำหรับการเริ่มต้นบริษัท เราพร้อมที่จะให้เงินประเภทนี้
โครงการหลายโครงการดูเล็กเมื่อมองแยกกัน แต่มีอัตราส่วนที่สูง; เมื่อรวมกันแล้ว ผลกระทบจะมีนัยสำคัญ และเรายินดีที่จะให้เงินกับผู้ที่กำลังเริ่มต้น: พวกเขามีแนวคิดการกุศล หรือเครื่องมืออื่นๆ ที่เป็นประโยชน์ต่อโลก ซึ่งอาจสำเร็จหรือไม่สำเร็จ แต่ต้องการเงินเพื่อทดลอง เราอยู่ในสถานการณ์ที่แม้ว่าโครงการบางโครงการจะไม่ประสบความสำเร็จในที่สุด เราก็ไม่เป็นไร เราไม่พึ่งพาโครงการใดโครงการหนึ่งเพื่อให้รู้สึกประสบความสำเร็จ หรือเพื่อพิสูจน์ว่าเราได้ทำสิ่งดีๆ
สุดท้ายฉันคิดว่านี่เป็นวิธีที่มีประสิทธิภาพมาก ส่วนหนึ่งเป็นเพราะในขณะนั้นมันยากที่จะหาสิ่งที่เป็นผู้ใหญ่ซึ่งสามารถรับเงินหลายสิบล้านถึงหลายร้อยล้านดอลลาร์และใช้จ่ายอย่างมีประสิทธิภาพ องค์กรที่มีงบประมาณปีละ 8 ล้านดอลลาร์ คุณให้เงินเพิ่มอีก 30 ล้านดอลลาร์ พวกเขาอาจไม่รู้ว่าจะทำอย่างไรกับเงินนี้
มีตัวอย่างที่โดดเด่นไหม?
การลงทุนใน Anthropic จริงๆ แล้วเกิดขึ้นก่อนที่กองทุนจะก่อตั้ง และบางส่วนเกิดจากความกังวลด้านความปลอดภัย AI เราจะวางเรื่องนี้ไว้ข้างๆ เราได้สนับสนุนโครงการด้านความปลอดภัยทางชีวภาพ ซึ่งบางโครงการได้พัฒนาวิธีการรักษาใหม่สำหรับโรคติดเชื้อ ซึ่งเป็นโรคที่ฆ่าคนจำนวนมากทั่วโลก และมีองค์กรบางแห่งที่กำลังทำให้วิธีการรักษานี้ออกสู่ตลาดได้เร็วขึ้น
ฉันคิดว่ามีหลายสิ่งที่มีศักยภาพมหาศาล แต่ถูกระงับเมื่อวิกฤตเกิดขึ้น ซึ่งรวมถึงโครงการด้านการเมืองจำนวนมาก
คุณเคยพูดว่าการลงทุนใน Anthropic ไม่ใช่แค่เพื่อผลตอบแทนสูง แต่ยังมีลักษณะสาธารณะด้านความปลอดภัย AI คุณคิดจริงๆ หรือว่าถ้า Anthropic เป็นผู้นำ การแข่งขัน AGI หรือการเข้าถึงความฉลาดระดับสูงจะปลอดภัยมากขึ้น? ทำไม?
แน่นอนว่าไม่มีใครสามารถมั่นใจได้ แต่การคาดเดาของฉันคือ: ตราบใดที่มีบริษัทหนึ่งที่ใส่ใจด้านความปลอดภัย วิธีการพัฒนาที่เกิดขึ้นจะระมัดระวังกว่าตอนที่ไม่มีมัน นี่ไม่ใช่ทั้งหมดที่คุณสามารถคาดหวังได้ เพราะตราบใดที่ยังมีผู้เข้าร่วมที่ไม่สนใจความปลอดภัยของโลก การแข่งขันจะเกิดขึ้น และอาจเป็นการแข่งขันที่ลดต่ำลง ซึ่งจะเป็นเรื่องที่เลวร้ายมาก
แต่การมีผู้เข้าร่วมที่มีความตระหนักด้านความปลอดภัยมากขึ้นก็มีประโยชน์
นี่จะสะท้อนในทางปฏิบัติอย่างไร? พวกเขาจะทำอะไรเพื่อกด p(doom) (คำนี้หมายถึงความน่าจะเป็นที่ AI จะทำให้มนุษยชาติสูญพันธุ์หรือทำลายอารยธรรม)?
คำถามนี้พวกเขาตอบได้ดีกว่าที่ฉันตอบ แต่ในทิศทางใหญ่ๆ หนึ่งในนั้นคือเมื่อโมเดลเริ่มมีโอกาสที่จะควบคุมไม่ได้ ให้ชะลอการพัฒนาและการเผยแพร่ที่ล้ำหน้า
คุณสามารถดูเหตุการณ์ที่ Hugging Face ถูกแฮ็ก มันทำให้เกิดความเสียหายสุดท้ายไม่มาก แต่ถ้าเป้าหมายแตกต่างไป มันอาจมีความทำลายล้างสูง และไม่ห่างไกลจากภัยพิบัติระดับโลก จากมุมมองของ "เอเจนต์ AI ต้องทำอะไรจริงๆ" ก็เป็นเช่นนั้น ดังนั้นต้องเข้าใจอย่างชัดเจนว่าไม่สามารถปล่อยให้โมเดลควบคุมไม่ได้ ต้องมีจุดตรวจสอบมากที่สุดเท่าที่จะเป็นไปได้ ต้องให้ความสำคัญกับเป้าหมายสุดท้าย หลักการและการจัดแนว พร้อมกับความสามารถในการตอบสนองแบบเรียลไทม์ สิ่งเหล่านี้ไม่สมบูรณ์ แต่มีประโยชน์
มีคำพูดว่า: แม้ว่า Anthropic จะคิดว่าการทำให้ช้าลงเป็นวิธีที่ปลอดภัยที่สุด แต่พวกเขาก็ไม่สามารถทำได้ เพราะจีนหรือบริษัทอื่นๆ ที่ไม่สนใจความปลอดภัยจะนำหน้าไป ดังนั้นจึงไม่สามารถทำได้ คุณคิดอย่างไร?
นี่เป็นปัญหาจริง อาจจะผลลัพธ์ที่ดีที่สุดสำหรับโลกคือทุกคนชะลอตัว แต่ถ้าคนอื่นไม่ชะลอ นั่นไม่ได้หมายความว่าการชะลอตัวของคุณเองจะถูกต้องหรือวิ่งไปสู่การแข่งขันที่ลดต่ำลง อาจจะมีผู้เข้าร่วมที่มีความตระหนักด้านความปลอดภัยมากขึ้นในการแข่งขันนี้ แต่ชัดเจนว่านี่ไม่ใช่สถานการณ์ที่ดีที่สุด เราอาจจะอยู่ในสถานการณ์นี้
วิธีที่ดีที่สุดจริงๆ คือการมีอิทธิพลต่อผู้เข้าร่วมคนอื่นๆ ให้มากที่สุดเท่าที่จะเป็นไปได้ เพื่อให้ผู้เล่นหลักทั้งหมดบรรลุฉันทามติข้ามค่ายที่ให้ความสำคัญกับความปลอดภัยมากขึ้น
คุณสนับสนุนรัฐบาลทรัมป์ชุดที่สองโดยรวม ดังนั้นหลายคนในรัฐบาลทรัมป์ รวมถึงทรัมป์เอง ก็มีความเห็นที่ไม่ดีต่อการช่วยเหลือผู้อื่นอย่างมีประสิทธิภาพ คุณคิดอย่างไร?
ฉันคิดว่าพวกเขากำลังตอบสนองต่อเหตุการณ์เฉพาะบางอย่าง รายละเอียดฉันไม่แน่ใจ ดังนั้นไม่สามารถพูดได้อย่างที่ฉันหวังไว้ นอกจากนี้ ฉันคิดว่ารัฐบาลไบเดนในขณะนั้น...
แต่คุณไม่คิดว่าถ้ารัฐบาลขัดขวางผู้คนจากการบริจาคเพื่อการกุศลที่มีประสิทธิภาพ ผลกระทบสุทธิจะเป็นลบมากหรือไม่? บางคนอาจจะไม่ทำตามแนวทางการช่วยเหลือผู้อื่นอย่างมีประสิทธิภาพเพราะความคิดเห็นนี้?
นั่นจะเป็นเรื่องลบ
กำลังการประมวลผลยังคงขยายตัว และการ IPO รอบนี้ของ Anthropic จะสามารถระดมทุนได้มากมาย ดังนั้น ASI จะมาเมื่อไหร่? เส้นเวลาของคุณคืออะไร?
ฉันไม่แน่ใจว่ามันจะเป็นเหตุการณ์ที่ชัดเจนหรือไม่ มันอาจจะเป็น แต่ก็อาจจะเป็นในอีกห้าปีข้างหน้า เราจะเห็นส่วนหนึ่งของสังคมถูก AI กลืนกินทีละส่วน การพัฒนาซอฟต์แวร์กำลังเกิดขึ้นแล้ว การวิจัยทางคณิตศาสตร์ก็เช่นกัน การเล่นหมากรุกและโกะเกิดขึ้นเร็วกว่านั้น แนวโน้มนี้จะดำเนินต่อไปจนกว่าส่วนต่างๆ ของสังคมจะถูก AI ดำเนินการมากขึ้น และระดับการควบคุมของมนุษย์จะลดลงตามเวลา
คนส่วนใหญ่ไม่คิดว่า AI ตอนนี้ "เหนือมนุษย์และเหนือมนุษย์ในความหมายทั่วไป" หมายถึงดีกว่ามนุษย์ในทุกงาน ตามการนิยามนี้ คุณคิดว่าเราใกล้ ASI หรือไม่? มันจะเกิดขึ้นหรือไม่?
ฉันคิดว่ามันค่อนข้างทั่วไป คุณเกือบจะสามารถถามโมเดลที่ดีที่สุดได้ทุกคำถาม และคำตอบที่ได้รับก็อย่างน้อยก็เทียบเท่ากับคนที่ฉลาดที่สุด เราเห็นน้อยมากว่า AI สามารถทำลายขีดจำกัดที่มนุษย์ไม่สามารถทำได้
ตามที่ฉันเข้าใจ ตอนนี้ระดับที่ดีที่สุดอยู่ที่ประมาณระดับของคนที่ฉลาดและมีเหตุผลมาก ซึ่งในเวลาที่มีมากมายสามารถบรรลุได้ เพียงแต่มันเป็นทันทีและอยู่ที่ปลายนิ้วของคุณ นี่จะถือว่าเป็นเหนือมนุษย์หรือไม่ ฉันไม่รู้ ฉันคิดว่ามันดีกว่าคนเล็กน้อย แต่ไม่มากนัก นอกจากมันสามารถทำงานหลายๆ ตัวพร้อมกันได้ และความเร็วในการคิดเร็วกว่ามนุษย์มาก
ดังนั้นมันอาจจะไม่ใช่เส้นที่ชัดเจนจากมนุษย์ไปสู่เหนือมนุษย์ อย่างน้อยจนถึงตอนนี้ เราเห็นเส้นที่ไม่ชัดเจน: มันจาก "ไม่ดีกว่ามนุษย์" ค่อยๆ เดินไปสู่ 100 IQ ถ้าแนวโน้มนี้ยังคงอยู่ อาจจะไม่มีช่วงเวลาที่ชัดเจนที่ "ป๊าบ" ข้ามไป แต่ก็อาจจะมีปีหนึ่งที่มันชัดเจนว่ามันข้ามจากระดับมนุษย์ไปสู่เหนือมนุษย์อย่างชัดเจน
คุณยังไม่เคยให้ตัวเลข p(doom) ซึ่งเป็นความน่าจะเป็นของเหตุการณ์ที่ทำให้มนุษย์ส่วนใหญ่สูญพันธุ์ คุณสามารถให้ตัวเลขได้ไหม?
ฉันจะบอกว่าต่ำกว่า 50% แต่สูงกว่า 10% ประมาณ 25%
ฉันต้องชี้แจงว่าโมเดลนี้ในหัวของฉัน ฉันไม่กล้าพูดว่ามันเป็นโมเดลที่ดีที่สุด ส่วนใหญ่ของความน่าจะเป็นมาจากสถานการณ์ที่ซับซ้อนที่ผู้คนมีความคิดเห็นแตกต่างกัน: ถ้าผู้คนเริ่มอัปโหลดสมองในอนาคต คนที่ไม่ได้อัปโหลดจะถูกทิ้งไว้ข้างหลัง นี่ถือว่าเป็นเหตุการณ์ที่ทำลายล้างหรือไม่? คำตอบจะแตกต่างกันไปตามแต่ละคน ตามคำตอบที่แตกต่างกัน ฉันสามารถให้ตัวเลขใดๆ ระหว่าง 20% ถึง 60%
ช่วง 20% ถึง 60% นี้ คุณมีเหตุผลอย่างไร?
เริ่มจากจุดเริ่มต้น: ในอีก 5 ถึง 10 ปีข้างหน้า หรืออาจจะสั้นกว่านั้น AI อาจจะดีพอในงานส่วนใหญ่เทียบเท่าหรือดีกว่ามนุษย์ ตอนนี้มีหลายด้านที่เป็นเช่นนั้นแล้ว จากนั้นมันจะดีขึ้น อาจจะดีขึ้นมาก หรืออาจจะดีขึ้นเพียงเล็กน้อย ในงานที่สำคัญต่อโลกส่วนใหญ่ไม่ทั้งหมด แต่เกือบทั้งหมด
เมื่อถึงจุดนั้น ระยะห่างจากการที่ AI จะควบคุมโลกส่วนใหญ่และมีอำนาจส่วนใหญ่ก็จะเหลือเพียงก้าวเดียว สายพันธุ์ที่แข็งแกร่งกว่าจะไม่ใช้พลังนี้ในช่วงร้อยปีที่ผ่านมา ความน่าจะเป็นนี้ในมุมมองของฉันค่อนข้างต่ำ ดังนั้นฉันจึงมีแนวโน้มที่จะเชื่อว่าในอีกสิบปีข้างหน้า เราจะเห็น AI "เข้าควบคุม" การทำงานและโครงสร้างพื้นฐานส่วนใหญ่ของโลกอย่างน้อยในระดับหนึ่ง
ในเวลานั้น อาจมีความเป็นไปได้ที่มนุษย์จะอยู่ร่วมกันอย่างสงบโดยไม่มีการเปลี่ยนแปลงครั้งใหญ่ แต่ดูเหมือนว่านี่จะไม่ใช่การคาดเดาที่เป็นไปได้มากที่สุด ฉันเชื่อว่ามนุษย์อาจจะเติบโตเป็นสิ่งที่เกินกว่าที่เป็นอยู่ในปัจจุบันด้วยความช่วยเหลือของ AI นอกจากนี้ยังมีความเป็นไปได้ที่ AI จะรู้สึกเบื่อหน่ายกับมนุษย์และกำจัดเราออกไป หรืออาจจะมีการทำงานร่วมกันที่นำโดย AI แต่มีเป้าหมายของมนุษย์เป็นแนวทาง ซึ่งจะนำไปสู่การขยายเทคโนโลยีอย่างมหาศาล อัตราส่วน 20% ถึง 60% ของฉันขึ้นอยู่กับว่าคุณจะนับสถานการณ์ใดในประเภท "วันสิ้นโลก"
ถ้ามี AI ที่มีสติปัญญาสูงสุดที่สามารถเพิ่มประโยชน์สูงสุดจากการตัดสินใจของคุณ คุณจะมอบอำนาจการตัดสินใจให้กับมันไหม?
ถ้าฉันมั่นใจร้อยเปอร์เซ็นต์ว่ามันกำลังทำเช่นนั้น ไม่ใช่แค่มั่นใจว่านั่นคือเป้าหมายของมัน แต่ยังมั่นใจว่ามันไม่ได้ตกอยู่ในโหมดล้มเหลวที่ทำลายล้างหรือมีความยุ่งเหยิงที่ไม่ชัดเจน ถ้าเงื่อนไขเหล่านี้เป็นจริง คำตอบคือใช่
คุณเคยพูดถึงสถานการณ์วันสิ้นโลกที่เกี่ยวข้องกับ "การอัปโหลดจิตใจ" คุณเองจะยินดีที่จะอัปโหลดไหม?
อาจจะใช่ ขึ้นอยู่กับรายละเอียด แต่ฉันไม่มีความเห็นคัดค้านในเรื่องนี้
หลังจากการอัปโหลด คุณยังคิดว่าตัวเองเป็นคนเดียวกันอยู่ไหม? นี่จะเปลี่ยนมุมมองของคุณอย่างไร?
คำถามที่ดี ฉันคิดว่าความคิดเรื่อง "บุคลิกภาพ" ต้องขยายออกไป ความจริงที่มีอยู่คือ ไม่มีใครที่เป็นคนเดียวกันกับตัวเองเมื่อวานนี้ เรามีบางส่วนที่ตายไป บางส่วนที่เติบโตขึ้น ความทรงจำเปลี่ยนไป ปฏิกิริยาเคมีเปลี่ยนไป ร่างกายเปลี่ยนไป และเคมีประสาทก็เปลี่ยนไป แต่โดยทั่วไปแล้วความแตกต่างระหว่างวันต่อวันของเรานั้นเล็กน้อยพอสมควร ดังนั้น "คนเดียวกัน" จึงเป็นการประมาณที่ดี
และ AI ในปัจจุบันชัดเจนว่าไม่เป็นเช่นนั้น ฉันคิดว่านี่คือโมเดลที่ควรอ้างอิง: Claude Sonnet และ Claude Opus เป็นคนเดียวกันไหม? คำตอบว่า "ใช่" หรือ "ไม่ใช่" ไม่ใช่คำตอบที่ดี ฉันคิดว่าถ้ามี "คนที่ถูกอัปโหลด" สถานการณ์ก็จะเป็นเช่นเดียวกัน
คุณลองใช้ LLM ครั้งล่าสุดเมื่อไหร่? ความประทับใจเป็นอย่างไร?
ที่นี่ฉันสามารถให้คนคัดลอกผลลัพธ์ของโมเดลมาได้ ความประทับใจของฉันคือ พวกมันพื้นฐานแล้วเป็นผู้ช่วยวิจัยที่ละเอียดและจริงจัง เพียงแค่คุณคิดได้เร็วแค่ไหน งานหนึ่งวันสามารถทำได้ในหนึ่งนาที ซึ่งน่าทึ่งและมีคุณค่าอย่างมาก
อย่างไรก็ตาม ความประทับใจในปัจจุบันของฉันคือ สิ่งที่พวกมันทำส่วนใหญ่ มนุษย์ก็ทำได้ เพียงแต่มนุษย์ต้องใช้เวลา และคุณต้องมีคนที่เชื่อถือได้ในการนำพวกมัน สามารถเข้าถึงข้อมูลได้ และมีชุดข้อมูลที่โมเดลปัจจุบันได้เตรียมไว้ล่วงหน้า
ที่ FTX คุณได้เข้าร่วมผลิตภัณฑ์ทางการเงินที่น่าสนใจและสร้างสรรค์มากมาย Brett Harrison กล่าวว่าหนึ่งในแนวคิดแรกของคุณเกี่ยวกับ FTX คือการสร้างตลาดการคาดการณ์ทางการเมือง คุณสามารถเล่าให้ฟังได้ไหม?
FTX เริ่มต้นเป็นตลาดแลกเปลี่ยนสกุลเงินดิจิทัล ทำการซื้อขาย Bitcoin, Ethereum และฟิวเจอร์สของพวกเขา แต่ในทางพื้นฐานแล้ว ตลาดการคาดการณ์คือสัญญาฟิวเจอร์ส มุมมองทางการเงิน ทั้งสองอย่างเป็นเพียงตลาดที่ชำระเงินตามมูลค่า
ดังนั้นตั้งแต่เริ่มต้นเราจึงต้องการสร้างตลาดการคาดการณ์ และได้ทดลองใน FTX International ในช่วงการเลือกตั้งประธานาธิบดีปี 2020 เรามีตลาดที่ค่อนข้างมีชีวิตชีวา ฉันจำได้ว่าการซื้อขายระหว่าง Trump และ Biden มีมูลค่าหลายร้อยล้านดอลลาร์ นี่คือสิ่งที่เราต้องการทำในระยะยาว แต่ก่อนที่ฉันจะได้รับการควบคุมที่ชัดเจนจาก CFTC ฉันไม่สามารถเติบโตได้
ไม่รู้ว่าคุณทราบหรือไม่ ตลาดการคาดการณ์ในปัจจุบันร้อนแรงเพียงใด Kalshi กำลังระดมทุนที่มูลค่า 65 พันล้านดอลลาร์ ทำไม FTX ถึงไม่สามารถทำให้ตลาดการคาดการณ์ถึงขนาดนี้ได้? คุณคิดว่าคุณมาถึงเร็วเกินไปหรือยัง?
ฉันคิดว่าส่วนใหญ่เป็นปัญหาด้านการกำกับดูแล ขณะที่เราทำ ไม่มีใบอนุญาต CFTC ที่จำเป็นในการเปิดตัวในสหรัฐอเมริกา ดังนั้นตลาดของเราจึงเปิดเฉพาะสำหรับตลาดต่างประเทศ ชาวอเมริกันไม่สามารถเข้าร่วมได้ หลังจากนั้น Kalshi, Polymarket ได้รับการกำกับดูแลที่เป็นทางการมากขึ้นในสหรัฐอเมริกา ซึ่งเป็นจุดที่พวกเขาเริ่มเติบโต
Polymarket ก็ทำได้ในสถานะการแลกเปลี่ยนที่อยู่ต่างประเทศ โดยเฉพาะอย่างยิ่งในช่วงการเลือกตั้งปี 2024 ผู้ใช้ชาวอเมริกันจำนวนมากใช้ VPN เพื่อเข้าถึง
ตอนนั้น Polymarket ไม่ได้ทำ KYC ใช่ไหม? ฉันคิดว่าไม่ ดังนั้นอาจมีชาวอเมริกันจำนวนมากที่เข้ามาโดยใช้ VPN ตามที่คุณพูด และในฐานะที่เราเป็นตลาดแลกเปลี่ยนแบบรวมศูนย์ เราจำเป็นต้องทำ KYC กับผู้ใช้ทุกคน นอกจากการตรวจสอบ IP เรายังต้องการบัตรประจำตัวประชาชน หนังสือเดินทาง และหลักฐานที่อยู่จากนอกสหรัฐอเมริกา
นอกจากตลาดการคาดการณ์แล้ว คุณยังได้เข้าร่วมผลิตภัณฑ์อนุพันธ์ที่ไม่ค่อยมีใครรู้จัก เช่น หุ้นที่ถูกโทเคน คุณคิดว่าผลิตภัณฑ์ใดในวันนี้จะกลายเป็นตลาดขนาดใหญ่ แต่ยังไม่ได้เข้าสู่กระแสหลัก?
หุ้นที่ถูกโทเคนยังมีพื้นที่มากมาย พวกมันเติบโตขึ้นตั้งแต่ปี 2021 และ 2022 แต่พื้นฐานแล้ว โครงสร้างพื้นฐานของพวกมันใช้งานได้ดีกว่าตลาดหุ้นจริงมาก ดังนั้นจึงไม่มีเหตุผลที่พวกมันไม่สามารถกลายเป็นสถานที่หลักในการซื้อขายหลักทรัพย์
นอกจากนี้ ตลาดการคาดการณ์ยังสามารถครอบคลุมได้อย่างกว้างขวาง ฉันเชื่อว่าตลาดการคาดการณ์ทางการเมืองยังไม่ได้เติบโตถึงระดับที่ฉันคาดหวัง ส่วนหนึ่งยังคงเป็นปัญหาด้านการกำกับดูแล มองย้อนกลับไป การซื้อขายมาร์จิ้นสำหรับลูกค้าในสหรัฐอเมริกา ฟิวเจอร์ส และอนุพันธ์ เป็นสิ่งที่แทบไม่มีอยู่จริง ซึ่งเป็นรูปแบบที่มีปริมาณการซื้อขายส่วนใหญ่ในระดับนานาชาติ นี่คืออุปสรรคด้านการกำกับดูแล
ดังนั้นฉันคิดว่ายังมีโอกาสอยู่ที่นั่น แน่นอนว่ายังมีหลายสิ่งที่ฉันไม่สามารถคาดการณ์ได้ที่จะเกิดขึ้นและทำให้ผู้คนส่วนใหญ่ประหลาดใจ
FTX ยังมีฟิวเจอร์ส pre-IPO ที่มีสัญญาที่มีวันหมดอายุที่แตกต่างกัน ซึ่งสามารถเดิมพันมูลค่าในช่วงเวลาที่แตกต่างกัน ตอนนี้ตลาดแลกเปลี่ยนสกุลเงินดิจิทัลหลายแห่งกำลังทำสัญญาถาวรในเรื่องการประเมินค่า ทำไม? มุมมองส่วนตัวของฉันคือ โครงสร้างฟิวเจอร์สที่มีวันหมดอายุจริงนั้นดีกว่า
อันนี้ลูกค้าชอบสัญญาถาวร มีสิ่งหนึ่งที่ชัดเจน: ไม่ว่าจะเป็นผลิตภัณฑ์ทางการเงินพื้นฐานที่สมเหตุสมผลหรือไม่ "ไม่ต้องจัดการกับวันหมดอายุ" เป็นสิ่งที่สะดวก กลไกจริงจากมุมมองของอัตราค่าธรรมเนียมเงินทุนค่อนข้างซับซ้อน แต่ฉันคิดว่าสาเหตุพื้นฐานคือเหตุผลนี้ คนไม่ชอบกังวลเกี่ยวกับวันหมดอายุ
แล้วพวกเขาไม่เกลียดการจ่ายค่าธรรมเนียมเงินทุนไหม?
จริงๆ แล้วไม่ค่อยสนใจ หลายคนก็ละเลยมันไปเลย บางคนก็ยืนอยู่ในฝั่งที่ได้ประโยชน์จากค่าธรรมเนียมเงินทุน ฉันเคยคิดว่านี่จะเป็นปัจจัยทางการเงินที่สำคัญสำหรับผู้คน แต่จริงๆ แล้วไม่ใช่
คุณคิดว่าเหตุผลคืออะไร?
ยังคงเป็นเรื่องสะดวกเป็นปัจจัยที่สำคัญ และฉันคิดว่าหลายคนพูดตามตรงว่าไม่ได้คิดถึงมันจริงๆ และไม่ได้สนใจว่าตนจ่ายดอกเบี้ยเท่าไหร่
ต่อไปคือสภาพคล่องดึงดูดสภาพคล่อง เมื่อใดก็ตามที่ตลาดเหล่านั้นกลายเป็นความเห็นพ้องต้องกัน ลูกค้าอยู่ที่นั่น ผู้สร้างตลาดอยู่ที่นั่น สภาพคล่องอยู่ที่นั่น ลูกค้ารายใหญ่จะไปที่นั่น คุณจะได้วงจรที่ดีและวงจรย้อนกลับ ทุกคนจะมารวมกันที่ตลาดที่เริ่มมีแรงผลักดันก่อน
คุณเคยพูดประโยคที่มีชื่อเสียงว่า "ฉันสงสัยเกี่ยวกับหนังสือมาก... ฉันไม่คิดว่ามีหนังสือเล่มไหนที่คุ้มค่าที่จะอ่าน แต่ฉันเชื่อว่ามันเกือบจะเป็นเช่นนั้น ถ้าคุณเขียนหนังสือ คุณก็ทำผิดพลาด มันควรจะเป็นบล็อกโพสต์หกย่อหน้า" ตอนนี้คุณอยู่ในคุก การอ่านเป็นหนึ่งในไม่กี่สิ่งที่ทำได้ คุณมองการอ่านอย่างไรตอนนี้?
มุมมองของฉันไม่ค่อยเปลี่ยนแปลง ฉันกำลังอ่านนวนิยายมากมาย หลายเรื่องเป็นนิยายวิทยาศาสตร์ ก็โอเค แต่พูดตามตรง ฉันชอบดู Netflix มากกว่า
มีหนังสือเล่มไหนที่ทำให้คุณรู้สึกว่าหลังจากออกมาแล้วก็คุ้มค่าที่จะใช้เวลาไหม?
พูดตามตรง ไม่มี บางอย่างที่ฉันชอบ แต่หนังสือวิทยาศาสตร์ที่ดีที่สุดที่ฉันอ่าน อาจจะฉันจะแลกมันกับซีรีส์ Netflix ที่ไม่จำเป็น แต่ก็แค่บางที แค่พอประมาณ อาจจะฉันจะชอบอ่านนิยายวิทยาศาสตร์มากกว่าที่คิด แต่ก็ไม่มากนัก
Netflix ดีกว่าหนังสืออย่างไร? การดูละครก็ใช้เวลามากนะ
ใช้เวลา แต่ส่วนหนึ่งเป็นปัญหาการส่งข้อมูล หนังสือมีแค่การมองเห็น และเป็นเพียงการมองเห็นตัวอักษร; ละครมีเสียงด้วย และยังมีการมองเห็น ซึ่งในภาพสามารถแสดงสิ่งที่ไม่ใช่แค่ตัวอักษร คุณสามารถแสดงพิกเซลใดๆ ดังนั้นจากมุมมองของทฤษฎีข้อมูล สิ่งที่สามารถทำได้มีมากมาย ฉันคิดว่าสิ่งนี้ช่วยได้มาก
อีกส่วนหนึ่งคือ หนังสือมีสิ่งหนึ่งที่ละครมักไม่มี นั่นคือการบรรยายความคิดของตัวละคร ฉันคิดว่าสิ่งนี้สามารถละทิ้งได้ มักจะเป็นสิ่งที่เกินความจำเป็น เป็นการหลงใหลในมุมมองของผู้เขียน และตอนนี้เงินและความสามารถก็ไหลไปที่ละคร ดังนั้นที่นั่นจึงมีการพัฒนามากที่สุด
สมมติว่ามีการพนัน: 51% ของโอกาสที่จะทำให้ประโยชน์ของโลกเพิ่มขึ้นเป็นสองเท่า และ 49% ของโอกาสที่ทุกอย่างจะเป็นศูนย์ คุณจะเล่นไหม? ถ้าชนะจะเล่นต่อไปอีกครั้ง ทำให้เพิ่มขึ้นหรือเป็นศูนย์ คุณจะเล่นต่อไปไหม? คุณเคยบอก Tyler Cowen ว่าคุณจะยอมรับการพนัน "49% โอกาสที่จะทำลายโลก, 51% โอกาสที่จะทำให้ประโยชน์เพิ่มขึ้นเป็นสองเท่า" โดยมีเงื่อนไขว่าเอกภพเป็นอิสระจากกัน คุณสามารถอธิบายการคิดของคุณได้ไหม? มุมมองนี้เปลี่ยนไปหลังจาก FTX ล้มละลายไหม?
สถานการณ์นั้นต้องมีเงื่อนไขมากมาย คุณต้องสมมติว่าเอกภพเป็นอิสระจากกัน เหมือนที่คุณพูด; สมมติว่านี่เป็นโอกาสที่เกิดขึ้นเพียงครั้งเดียวในชีวิต ไม่มีทางที่จะทำซ้ำในอนาคตในต้นทุนที่ต่ำกว่า; และยังมีสมมติฐานที่ไม่ได้พูดอีกมากมาย
แต่มีวิธีการทำให้มันง่ายขึ้นคือ: สองโลก ประชากรประมาณเท่ากัน คาดหวังในอนาคตประมาณเท่ากัน และเป็นอิสระจากกันอย่างสมบูรณ์ พวกเขาจะไม่มีวันมีปฏิสัมพันธ์กัน อยู่ในกรวยแสงของกันและกันอย่างไร้สาระ จากนั้นไม่รู้ทำไม มีพระเจ้าต่างดาวที่แปลกประหลาดมาที่นี่และพูดว่า: โลกทั้งสองนี้มีโอกาส 50% ที่จะถูกทำลาย; และคุณเชื่อว่าพระเจ้าต่างดาวนี้พูดจริง คุณสามารถเลือกให้พวกเขาเกี่ยวข้องกันหรือไม่เกี่ยวข้องกัน ตัวเลือกแรก: ทั้งสองอยู่รอดหรือทั้งสองถูกทำลาย โอกาส 50% ตัวเลือกที่สอง: หนึ่งอยู่รอด หนึ่งถูกทำลาย แบบสุ่ม คุณไม่รู้ว่าอันไหนคืออันไหน
ในสถานการณ์นั้น ฉันคิดว่าชัดเจนว่าทั้งสองตัวเลือกนั้นเท่ากัน และถ้าหนึ่งด้านให้คุณอัตราต่อรอง 51 ต่อ 49 คุณควรเลือกอันนั้นแทนที่จะเลือก "อยู่ร่วมกันหรืออยู่ตาย" เพราะแต่ละโลกไม่สนใจว่าอีกโลกจะเป็นอย่างไร พวกเขาจะไม่มีวันมีปฏิสัมพันธ์กันอยู่ดี และนี่แทบจะเป็นคำถามเดิม: คุณต้องเลือกระหว่าง "โลกหนึ่งอยู่รอด" กับ "50% โอกาสที่ทั้งสองจะอยู่รอด"
ค่าคาดหวังของมันเป็นบวก แต่ไม่มากนัก อย่างไรก็ตามถ้าคุณเล่นต่อไปเรื่อยๆ การเล่นสิบครั้งจะทำให้คุณได้มากกว่าพันเท่า เมื่อจำนวนครั้งที่ประสบความสำเร็จเพิ่มขึ้น ค่าประโยชน์ขอบจะลดลงหรือไม่ จนทำให้ค่าคาดหวังพื้นฐานเป็นศูนย์ ทำให้คุณไม่อยากเล่นเกมนี้?
นี่เป็นคำถามที่น่าสนใจ ขึ้นอยู่กับว่า "การเพิ่มขึ้น" ที่คุณพูดถึงคืออะไร คุณพูดถึงการเพิ่มขึ้นของมูลค่าขอบและการลดลงของมูลค่าขอบ นั่นคือ "อะไร" ของประโยชน์?
ถ้านี่คือประโยชน์ที่สะสมในเอกภพทั้งหมดในระยะยาว ก็จะไม่เป็นเช่นนั้น ประโยชน์นั้นเป็นเชิงเส้นต่อกัน แต่ถ้าจริงๆ แล้วมันเป็นตัวชี้วัดที่ใกล้เคียง เช่น คุณพูดว่า "GDP สามารถเพิ่มขึ้นเป็นสองเท่าได้ไหม" นั่นอาจมีการลดผลตอบแทนขอบที่ลึกมาก
ก่อนอื่น การเพิ่มขึ้นของ GDP ไม่ได้หมายความว่าความสุขของทุกคนจะเพิ่มขึ้นเป็นสองเท่า และไม่หมายความว่าค่าคาดหวังในระยะยาวของโลกจะเพิ่มขึ้นเป็นสองเท่า การเพิ่มขึ้นของ GDP ครั้งนั้นอาจจะเกิดขึ้นช้ากว่าที่ควรจะเป็นสามสิบปี หรืออาจจะทำให้เกิดความเสียหายต่อสิ่งแวดล้อมอย่างรุนแรง จนสุดท้ายกลับมาเป็นศูนย์ ดังนั้นในโลกแห่งความเป็นจริง ตัวชี้วัดที่คุณใช้ในการวัดอาจไม่ใช่สิ่งที่คุณสนใจจริงๆ
มีตัวชี้วัดไหนบ้างที่สามารถเพิ่มขึ้นสิบเท่าหรือร้อยเท่าโดยไม่มีการลดลงของขอบ? มันจะเป็นอย่างไร?
มีอยู่หนึ่ง แต่ฉันต้องเพิ่มเงื่อนไข: ฉันไม่สามารถมั่นใจได้ว่าในระยะเวลาอันใกล้นี้จะมีอะไรที่สามารถทำได้จริงๆ ทั้งหมดนี้ต้องการความก้าวหน้าทางเทคโนโลยี การตั้งถิ่นฐานบนดาวเคราะห์อื่น การตั้งถิ่นฐานในระบบสุริยะและทางช้างเผือก สุดท้ายคุณจะมีโลกที่เป็นอิสระจากกันจริงๆ คุณแค่ทำให้มนุษย์มีความเจริญรุ่งเรืองมากขึ้น นี่คือตัวอย่างหนึ่ง.
ถ้าเปลี่ยนมุมมอง: ถ้าประชากรไม่เปลี่ยนแปลง คงอยู่ที่หนึ่งพันล้านคน จะสามารถทำให้ความสุขของพวกเขาเพิ่มขึ้นอย่างต่อเนื่องได้หรือไม่? ฉันคิดว่าคำตอบคือ เราไม่รู้จริงๆ นี่แทบจะเป็นปัญหาทางชีววิทยามากกว่าปัญหาอื่นๆ การทำให้คนพอใจและมีความสุขในระดับที่พอเหมาะเป็นเรื่องหนึ่ง; แต่การทำให้คนมีความสุขอย่างสุดขีดนั้นยากมาก และการจินตนาการว่ามีอะไรที่จะทำให้คนมีความสุขเพิ่มขึ้นเป็นสองเท่าหรือสิบเท่านั้นยิ่งยากเข้าไปอีก เพราะมันไม่อยู่ในขอบเขตของอารมณ์ที่มนุษย์มักจะสัมผัสได้ ในทางทฤษฎีอาจจะเป็นไปได้ แต่เราไม่มีแบบจำลองที่ดีและไม่มีเทคโนโลยีหรือชีววิทยาที่จะทำให้มันเกิดขึ้นได้。
คุณคิดว่าการพัฒนา AI ในปัจจุบันเป็นเวอร์ชันจริงของการโยนเหรียญหรือไม่? ถ้าคุณต้องเลือกระหว่างสองทาง: A, ชะลอการพัฒนา AI ทำให้ p(doom) ลดจาก 10% เป็น 2%; B, ดำเนินการต่อไป ยอมรับ p(doom) ที่สูงขึ้นเพื่อแลกกับพื้นที่การเติบโตที่สูงขึ้น คุณจะเลือกทางไหน?
ฉันคิดว่าการเปรียบเทียบที่ชัดเจนกว่านั้นคือการเลือกระหว่าง "ดำเนินการต่อไป" กับ "ตัดการพัฒนาทั้งหมดของ AI หรือ AI ที่คล้ายกันอย่างถาวร" เพราะในกรณีนั้นคุณกำลังเลือกอยู่ระหว่าง "โลกเผชิญกับความเสี่ยงที่ร้ายแรง" และ "จำกัดความสามารถในการเจริญเติบโตของโลก" ซึ่งอาจจะต้องการการทำงานอัตโนมัติหรือปัญญาดิจิทัลในที่สุด ดังนั้นในกรณีนั้น การปิดกั้นเส้นทางนี้อย่างถาวรจะมีค่าใช้จ่ายที่สูงมากในอนาคต
แต่ถ้าเป็นเพียง "เร็วขึ้นหรือช้าลง" มันก็ไม่ชัดเจนเท่าไหร่ เพราะมีสองโมเดลที่สามารถใช้ได้ โมเดลหนึ่งคือ "การเติบโตแบบเอ็กซ์โพเนนเชียลตลอดไป": เมื่อเริ่มเร่งความเร็ว ประโยชน์จะเพิ่มขึ้นเป็นสองเท่าทุกปี ไม่มีที่สิ้นสุด ตามโมเดลนี้ การเริ่มต้นเร็วกว่าหนึ่งปีหมายถึงการทำให้จักรวาลเพิ่มขึ้นเป็นสองเท่าอย่างถาวร แต่ก็มีความไม่จริงอยู่บ้าง เพราะมันไม่สามารถดำเนินต่อไปได้ตลอดไป
อีกโมเดลหนึ่งคือการมองว่ามันเป็นเหตุการณ์ที่มีจุดสุดยอด หลังจากนั้นจะถึงระดับใหม่ที่ไม่รู้จัก ความสูงที่ไม่รู้จัก หลังจากเหตุการณ์เกิดขึ้น จักรวาลอาจมีอีกหลายพันล้านปี ดังนั้นการเลื่อนเหตุการณ์นี้ไปอีกหนึ่งปี สิบปี หรือแม้แต่หนึ่งร้อยปี ในโมเดลนี้จะไม่ลดประโยชน์ในอนาคตแม้แต่ 1% ตามโมเดลนี้ คุณยินดีที่จะเลื่อนการพัฒนาไปอีกหนึ่งร้อยปีเพื่อทำให้ p(doom) ลดลง 1%
แน่นอน คำตอบที่แท้จริงอาจอยู่ระหว่างสองทางนี้ และฉันคิดว่าคำถามว่า "กราฟของประโยชน์ตามเวลาภายใต้สถานการณ์การระเบิดของ AI เป็นอย่างไร" เป็นคำถามที่น่าสนใจมาก
หลายคนพยายามสรุปมุมมองของคุณจากคำตอบของคุณต่อคำถามนั้นว่า "เลือกเสมอค่าคาดหวังสูงสุด" นี่เป็นการสรุปที่สมเหตุสมผลหรือไม่?
นี่เป็นส่วนหนึ่งของมัน แต่ส่วนแรกที่ฉันตอบคือ: มีหลายสมมติฐาน คุณต้องสมมติหลายอย่างเกี่ยวกับสถานการณ์เพื่อให้ได้คำตอบนั้น และสมมติฐานเหล่านั้นมักจะไม่เป็นจริงในชีวิตจริง ในความเป็นจริง ตัวเลือกทั้งหมดมีความยุ่งเหยิงมากกว่าที่นำเสนอ และในโลกแห่งความเป็นจริง การทำลายสิ่งหนึ่งโดยบังเอิญนั้นง่ายกว่าการสร้างสิ่งหนึ่ง
งั้นเรามาใช้ตัวอย่างกัน: สมมติว่ามีเหรียญที่มีโอกาส 51% ที่คุณจะออกจากคุกในวันพรุ่งนี้ และ 49% ที่โทษของคุณจะเพิ่มเป็นสองเท่า คุณจะเดิมพันไหม?
แน่นอน
เพราะโทษของฉันคือโทษตลอดชีวิต ในความเป็นจริง เป้าหมายของฉันไม่ใช่การรับประกันว่าจะออกไปตอนอายุ 60 ปีแล้วไปหาบ้านไม้สักพัก นั่นไม่ใช่สิ่งที่ฉันคาดหวังในชีวิต ฉันหวังว่าฉันจะสามารถสร้างผลกระทบเชิงบวกต่อโลกได้ และนั่นต้องการให้ฉันอยู่ข้างนอก สำหรับสิ่งนี้มีค่าใช้จ่ายสูงมาก ถ้าราคาคือการสูญเสียปีสุดท้ายของชีวิตที่ไม่มีการผลิตอีกต่อไป ฉันยินดีที่จะจ่ายในราคานั้น
คุณสามารถยกตัวอย่างที่คุณจะไม่เดิมพันเพราะมีสมมติฐานเหล่านี้ได้ไหม?
ได้ แน่นอน ในความเป็นจริงมีสถานการณ์หนึ่งที่ดูเหมือนการโยนเหรียญ: ด้านหน้า โมเดลของคุณแสดงว่ามันอาจทำให้การเติบโตของโลกเพิ่มขึ้นเป็นสองเท่า; ด้านหลัง มันอาจทำลายโลก เหรียญแบบนี้คุณไม่สามารถเดิมพันได้แน่นอน
เพราะในโลกแห่งความเป็นจริง ก่อนอื่น ใน 50% ที่ "ทำให้โลกเติบโตเป็นสองเท่า" คุณอาจจะทำสิ่งที่คนอื่นจะทำในไม่ช้า ซึ่งมันอาจจะไม่ใช่การเพิ่มมูลค่าของโลกอย่างแท้จริงและถาวร และถ้าโลกถูกทำลาย นั่นคือสิ่งที่ถาวร ตลอดไปจะไม่มีอีกต่อไป
ดังนั้นฉันคิดว่า ในสถานการณ์จริง เมื่อใดก็ตามที่คุณใส่ความไม่แน่นอนและเสียงรบกวนเข้าไปในแต่ละขั้นตอน น้ำหนักของการทำลายล้างที่เป็นหายนะจะมีน้ำหนักมากขึ้น ในขณะที่การเติบโตในระดับปานกลางยังคงดี แต่ก็ยังห่างไกลจากการตอบสนอง
มาดูตัวอย่างการโยนเหรียญอีกครั้ง คุณเคยบอกว่าคุณไม่เชื่อในศาสนาเลย แต่เดิมพันของปาสคาลยังคงอยู่: การเชื่อในพระเจ้าเป็นค่าคาดหวังที่ถูกต้องหรือไม่? ถ้าจริงๆ มีชีวิตหลังความตาย การไม่เชื่อจะไปนรก และต้นทุนในการเชื่อในวันนี้มีจำกัด นี่ถือเป็นอีกตัวอย่างหนึ่งหรือไม่?
ตรรกะเดียวกัน ถ้าตรรกะนี้ไม่มีความเกี่ยวข้องกับเนื้อหาของศาสนาที่คุณกำลังตรวจสอบ มันก็ใช้ได้กับ "ศาสนาเสาไฟฟ้า": ถ้าคุณใช้ชีวิตทั้งชีวิตเพื่อบูชาเสาไฟฟ้า คุณจะไปสวรรค์; มิฉะนั้นคุณจะไปนรก นั่นหมายความว่าคุณควรใช้ชีวิตทั้งชีวิตเพื่อบูชาเสาไฟฟ้าหรือไม่?
ตามตรรกะเดียวกัน มันก็ใช้ได้กับ "ศาสนาแอนตี้เสาไฟฟ้า": บูชาเสาไฟฟ้าจะไปนรก การดูหมิ่นเสาไฟฟ้าจะไปสวรรค์ นั่นหมายความว่าคุณควรใช้ชีวิตทั้งชีวิตเพื่อต่อต้านเสาไฟฟ้าหรือไม่? ตรรกะชุดเดียวกันให้คำตอบที่ตรงกันข้ามสองคำตอบ
คำตอบคือ: สำหรับโลกนี้ คุณสามารถจินตนาการถึงสมมติฐานและความเป็นไปได้ที่แปลกประหลาดได้ไม่รู้จบ แต่คุณไม่สามารถให้ความเป็นไปได้ที่ไม่สมเหตุสมผลมากมายมีความน่าจะเป็นที่สำคัญได้
อีกหนึ่งคำถามเกี่ยวกับค่าคาดหวังที่เกี่ยวข้องกับการช่วยเหลือที่มีประสิทธิภาพ: หลายคนใน EA ให้ความสำคัญกับความปลอดภัยของ AI เป็นอันดับแรก เพราะมันมีค่าคาดหวังเชิงบวก เราใช้เงิน อาจจะสามารถหลีกเลี่ยงการสูญพันธุ์ของมนุษย์ได้ เพราะเราสามารถทำให้ AI สอดคล้องกันได้ การอนุมานนี้ถูกต้องหรือไม่?
บางส่วนถูกต้อง การอนุมานนี้ถูกต้องอย่างแน่นอน: นี่อาจเป็นทศวรรษที่สำคัญที่สุดของ AI ผลกระทบที่อาจเกิดขึ้นคือการเปลี่ยนแปลงโลก อาจจะดีมาก หรืออาจจะเป็นหายนะ และสิ่งนี้จะกลบทุกสิ่งที่ไม่เคยเปลี่ยนแปลงโลก หรือสิ่งที่คุณทำในตอนนี้ไม่สามารถเปลี่ยนแปลงโลกได้ ดังนั้นนี่คือการโต้แย้งที่มีน้ำหนักมาก
แต่สิ่งที่มันไม่ได้ตอบคือ: คุณจริงๆ สามารถทำอะไรได้บ้าง ฉันคิดว่าหลายคนสุดท้ายก็วนเวียนอยู่กับที่: ยืนยันว่าความปลอดภัยของ AI เป็นงานที่ควรอุทิศตน แต่ไม่สามารถหาสิ่งใดในทางปฏิบัติที่จะทำให้ AI ปลอดภัยขึ้นได้จริง นี่หมายความว่า การเสนอ "อะไรคือสิ่งที่มีความหมายจริงๆ อะไรคือสิ่งที่มีประโยชน์จริงๆ" เป็นความเข้าใจที่มีค่าและสำคัญมาก
คุณสามารถดูรายงานเกี่ยวกับ Hugging Face ที่ถูกแฮ็กเมื่อเร็วๆ นี้ ใครจะรู้ แต่ดูเหมือนว่ารายงานเหล่านั้นมีประโยชน์ต่อโลกในด้านค่าคาดหวัง นั่นเป็นเรื่องดีมาก เพียงแค่การหาสิ่งที่มีประโยชน์อย่างชัดเจนไม่ใช่เรื่องง่าย และตอนนี้มีการถกเถียงกันมากมาย: การกระทำต่างๆ ของ EA ต่อความปลอดภัยของ AI นั้นเป็นบวกหรือลบ?
เนื้อหานี้จัดทำขึ้นเพื่อวัตถุประสงค์ด้านการให้ข้อมูลทั่วไปเท่านั้น และไม่ถือเป็นคำแนะนำด้านการเงิน การลงทุน กฎหมาย หรือภาษี อีเวนต์ รีวอร์ด โปรโมชันออนไลน์ หรือข้อมูลที่เกี่ยวข้องใดๆ ที่กล่าวถึงในที่นี้ ไม่ควรถือเป็นคำแนะนำ การชักชวน หรือคำเชิญชวนให้ซื้อ ขาย เทรด หรือดำเนินการอื่นใดเกี่ยวกับสินทรัพย์คริปโต สินทรัพย์คริปโตมีความผันผวนสูงและอาจส่งผลให้เกิดการขาดทุน ความพร้อมให้บริการของบริการ ผลิตภัณฑ์ และอีเวนต์ที่เกี่ยวข้องของ WEEX อาจแตกต่างกันไปตามภูมิภาค คุณมีหน้าที่ตรวจสอบให้แน่ใจว่าการเข้าร่วมของคุณเป็นไปตามกฎหมายและข้อบังคับท้องถิ่นที่ใช้บังคับ
คุณอาจสนใจ

Morgan Stanley เพิ่มการถือครอง Bitcoin ETF MSBT 799.212 BTC ท่ามกลางตลาดขาลง รวมถือครองเพิ่มเป็น 12448 BTC

Cyber พบปัญหาการเพิ่มจำนวนโทเค็นผิดปกติบน Solana

แผนที่ถนน Solana 2027: เพิ่มพลังการประมวลผลเป็นสองเท่า ลดต้นทุนการทำธุรกรรมลง 80%

การซื้อที่ดีกว่า: Bitcoin กับ Ethereum

Peter Schiff ชี้ให้เห็นว่าการเคลื่อนไหวของสกุลเงินดิจิทัลหลักมีความสัมพันธ์สูง

ติดตามเงิน: รอบ Variational ที่ 110 ล้านดอลลาร์, กิจกรรมของ Tether และข้อตกลง M&A

ยอดขาย NFT เพิ่มขึ้นเป็น 33 ล้านดอลลาร์ ขณะที่การซื้อขาย Ethereum เพิ่มขึ้น 33%

Carl Moon เปิดเผยว่า Bitcoin ลดลงเหลือ 55,615 ดอลลาร์

หุ้นโทเคนของ Anthropic เปิดตัวในหลายบล็อกเชนในการเสนอขายหุ้นครั้งใหญ่ที่สุดในประวัติศาสตร์ มูลค่าการซื้อขายเกิน 1.5 พันล้านเยน

การวิเคราะห์บัญชีการซื้อขายสังคม: ใครคือผู้ที่ทำกำไรจริงๆ ท่ามกลางเสียงรบกวน?

แฮกเกอร์โอน ETH ประมาณ 488,000 เหรียญ มูลค่าประมาณ 860 ล้านดอลลาร์สหรัฐ

唐华斑竹 : PancakeSwap เปลี่ยนชื่อเป็น Pancake ผู้ใช้ทะลุ 2.08 ร้อยล้าน

Solana จะสามารถปลอดภัยจากควอนตัมโดยไม่สูญเสียความได้เปรียบด้านความเร็วได้หรือไม่?
ทำไมคริปโต VTC6 จึงมีปริมาณซื้อขายสูง แต่แทบไม่มีสภาพคล่อง?
ทำไมคริปโต VTC6 จึงมีปริมาณซื้อขายสูงถึง $68K แต่มีสภาพคล่องเพียง $1? มาดูกันว่าเงินสำรองในพูล ผลกระทบต่อราคา และราคาเสนอขายบอกอะไรเกี่ยวกับความเป็นไปได้ในการขายออก
ทำไมโทเคน crypto VTC6 บางตัวจึงร่วงหลังการเปิดตัว GTA 6?
ดูสาเหตุที่โทเคน crypto VTC6 บางตัวร่วงลงในช่วงเปิดตัว GTA 6 เปรียบเทียบโทเคน mint บน Solana ทั้งสามรายการ กิจกรรมการขาย เงินสำรองในพูล และหลักฐานเกี่ยวกับ rug pull
VTC Coin เหมือนกับ VTC6 หรือไม่? อธิบาย Vertcoin และ VICE 6
VTC coin เหมือนกับ VTC6 หรือไม่? เปรียบเทียบ Vertcoin กับ VICE 6 ตามเครือข่าย ticker และที่อยู่โทเคน พร้อมเรียนรู้ว่าควรตรวจสอบรายละเอียดใดก่อนโอนเงิน

VTC6 crypto คืออะไร? คู่มือเริ่มต้นสำหรับ VICE 6 (VTC6)
VTC6 crypto คืออะไร? เรียนรู้ว่าทำไมจึงมีหลาย token ใช้ชื่อ VICE 6 และวิธีตรวจสอบเครือข่าย mint address และ trading pool ก่อนเปรียบเทียบข้อมูลรายการ

Solana มูลนิธิได้หุ้นส่วนใหญ่ของ CoinGecko! ผู้ใช้ 18 ล้านคนสามารถทำการซื้อขายบนบล็อกเชนได้โดยตรงในอนาคต
วิธีซื้อคริปโต VTC6: คู่มือ VICE 6 (VTC6)
เรียนรู้วิธีซื้อ crypto VTC6 ผ่านเส้นทาง DEX ที่รองรับ ตรวจสอบที่อยู่โทเคน VICE 6 ที่ถูกต้อง และทบทวนราคาเสนอซื้อและขายก่อนสวอป

VanEck ยุติความร่วมมือกับ Gemini หยุดการดูแล Bitcoin, Ethereum และ SOL ETF

ChatGPT Wallet ร่วมมือกับ Visa: เศรษฐกิจ Agent ยังต้องการ Stablecoin หรือไม่?

Pump.fun ถูกกล่าวหาว่าเสนอเงิน 100,000 ดอลลาร์ต่อเดือนให้กับผู้มีอิทธิพลเพื่อออกจาก Fomo และโปรโมตโทเค็นมากขึ้น

Solana เปิดเผยแผนงานปี 2027 ความสามารถในการคำนวณของเครือข่ายจะเพิ่มขึ้นเป็นสองเท่า

คริปโต VTC6: เป็นเหรียญทางการของ GTA 6 หรือไม่? สิ่งที่ Take-Two เสนอจริง ๆ
คริปโต VTC6 เป็นเหรียญทางการของ GTA 6 หรือไม่? เปรียบเทียบข้อเสนอ Sharkbux ของ Take-Two ข้อมูลการเปิดตัวจาก Rockstar และโทเค็นบน Solana สองรายการที่ใช้ชื่อเดียวกัน

Ethereum ควรซื้อในตอนนี้หรือไม่?

Toss ของเกาหลีใต้เปิดตัวกระเป๋าเงินคริปโตในแอปพลิเคชันที่มีผู้ใช้ 30 ล้านคน สามารถใช้งานได้โดยไม่ต้องมีบัญชีแลกเปลี่ยน

โทเค็นหุ้นของ Solana แตะ 1.22 พันล้านดอลลาร์ ขยายการเสนอขายหุ้น

การเปลี่ยนแปลงครั้งใหญ่ในตรรกะการลงทุนของ YC: จากซอฟต์แวร์สู่ฮาร์ดแวร์ จากโมเดลสู่โลกแห่งความจริง

Blockaid ระบุโทเค็นธีม GTA กว่า 8,800 รายการบน Solana ว่าเป็นอันตราย





