46 نکته درباره آینده نزدیک: AI، ربات‌ها و تغییرات عظیم در تمدن

نویسنده: bayes

ترجمه: Felix، PANews

این مقاله به بررسی ۴۶ بینش کلیدی درباره آینده نزدیک می‌پردازد که حول جهش‌های نمایی الگوریتم‌های AI، تجاری‌سازی زنجیره تأمین هوشمند و انفجار ربات‌ها می‌چرخد.

هوش

1. مردم ممکن است از پیشرفت‌های الگوریتمی شگفت‌زده شوند. کل جهان، از جمله بازار، دولت، ارتش، شرکت‌ها و افراد، در تلاشند تا با استفاده از کارایی تولید و الگوهای گذشته، و همچنین روندهای توسعه، AI و تأثیرات آن را درک کنند. حتی چند آزمایشگاه نوآوری که خود را به عنوان معتقدان به "RSI (بهبود خودکار تکراری)" معرفی می‌کنند، به نظر می‌رسد که این را به عنوان یک مدل تجاری معمولی می‌دانند که فقط شامل عامل‌های هوشمند است. حدس شخصی من این است که در زمینه تولید هوشمند، الگوریتم‌ها هنوز چندین مرتبه (OOMs) پیشرفت دارند، شاید (فقط شاید) تا ۱۰ مرتبه، اما ۴ تا ۷ مرتبه به نظر می‌رسد که بیشتر با واقعیت سازگار باشد. از نظر نظری، بیش از ده مرتبه نیز ممکن است. اگر این درست باشد، آنگاه اوضاع در واقع به آن شکلی که به نظر می‌رسد پیش نمی‌رود و یک جهش بزرگ در راه است. هر چیزی که در این مسیر اتفاق بیفتد، اوضاع را بسیار عجیب‌تر از آنچه که تقریباً هر کسی پیش‌بینی کرده است، خواهد کرد.

2. ما در مراحل اولیه پرواز هستیم. بهبود AI ممکن است در نهایت یکی از تأثیرگذارترین نقاط عطف تاریخ باشد. این هنوز نامشخص است، زیرا نمی‌دانیم که چقدر به محدودیت‌های فیزیکی و محاسباتی هوش نزدیک هستیم.

3. امروزه، ما در مرحله پرواز هستیم و تحقیق در الگوریتم‌ها در حال تسریع است. منابع محاسباتی هنوز کمیاب هستند، اما هزینه فرصت زمان محققان پایین‌تر است، زیرا می‌توانید عامل‌ها را برای انجام هر وظیفه یا جستجوی ظاهراً بی‌فایده بفرستید. این ممکن است به نتیجه برسد. تمام ایده‌های جدید بار بدهی بهینه‌سازی دارند و اکنون می‌توان با مصرف توکن‌های بدون نظارت آن را پرداخت کرد. تعداد زیادی از قوانین گسترش تحقیقاتی در حال عبور از منحنی‌های قانون هستند.

4. مدل‌های AI، به ویژه مدل‌های پیشرفته، به طور مداوم بهبود خواهند یافت. تنها مانع واقعی فیزیک است. مدل‌ها به طور فزاینده‌ای خودمختار و هوشمندتر می‌شوند و دائماً در حال پیشرفت هستند. ریاضیات و کد در حال تسخیر "مقیاس + یادگیری تقویتی" هستند و بعد از آن سایر حوزه‌ها خواهند بود. تمایز "قابل تأیید" و "غیرقابل تأیید" به عنوان یک تمایز معنادار کمرنگ خواهد شد. با گذشت زمان، تحقیقات خودکار AI و یادگیری AI به طور فزاینده‌ای مرتبط به نظر می‌رسند. آموزش مدل‌ها به شدت به عملکرد کلی یادگیری مدل بستگی دارد. کارایی نمونه، خلاقیت و تمام محدودیت‌های دیگر حل خواهند شد و سپس شروع به نزدیک شدن به بهینه‌سازی الگوریتم در هر مقیاس خواهند کرد.

5. این دیدگاه که عامل‌های هوشمند بلندمدت همیشه به آموزش به همان اندازه طولانی نیاز دارند، نادرست است، زیرا تعمیم زمانی وجود دارد. وظایف طولانی تنها به طول زمان مربوط نمی‌شوند. این به اشتباه انباشت خطای (1-e)^n مربوط می‌شود. آنچه در واقع اتفاق می‌افتد، تصحیح خطا است. این در مقیاس‌های مختلف از سطح تولید یک توکن تا مراحل طولانی وظیفه اتفاق می‌افتد. بخشی از دلیل افزایش نمودار METR این است که عامل‌ها در حال رسیدن به سرعت فرار تصحیح خطا هستند.

6. علم مهندسی یادگیری عمیق به زودی به وجود خواهد آمد. این ما را به سرعتی فراتر از آنچه که انتظار می‌رفت، به بلوغ الگوریتم‌های AI خواهد رساند، هرچند همانطور که در بالا ذکر شد، هنوز مشخص نیست که این بلوغ تا چه حد می‌تواند پیش برود. به عنوان مثال، علم عدم وابستگی به مقیاس می‌تواند به طور قابل توجهی مقیاس و بازده آزمایش‌های مؤثر را افزایش دهد، زیرا آزمایش‌هایی که بر روی یک GPU انجام می‌شود می‌تواند به شما بگوید که چگونه از ۱۰۰۰۰۰ GPU استفاده کنید.

7. در هر حوزه فعالیت‌های تکنولوژیکی انسانی، لحظات شکوفایی مشابه "Move 37" به وجود خواهد آمد، اما به زودی این لحظات شکوفایی ناچیز به نظر خواهند رسید. این در تمام حوزه‌ها صدق می‌کند.

8. قدرت محاسباتی به رشد خود ادامه خواهد داد. امروزه بهترین ماشین‌های ضرب ماتریس هنوز به محدودیت‌های فیزیکی شتاب‌دهنده‌های AI نرسیده‌اند. سیلیکون دیجیتال هنوز فضای زیادی برای بهبود دارد. همچنین بسیاری از مواد جدید وجود دارند که بدهی الگوریتمی آن‌ها به طور خودکار به حداکثر خواهد رسید، اما هنوز مشخص نیست که کدام یک از نظر فضا / انرژی / زمان / قابلیت تولید / هزینه، راه‌حل بهینه AI است. فوتونیک و سیلیکون تصادفی هر دو گزینه‌های جالبی هستند، اما همچنین پیش‌بینی می‌شود که نقطه عطف به طرز غیرمنتظره‌ای خواهد بود.

9. پیشرفت آزمایشگاه‌ها تا حدی به منافع ناشی از خودکارسازی و مقیاس بستگی دارد، که شامل منافع ناشی از افزایش عمق الگوریتم نیز می‌شود. اگر عمل (و نظریه) یادگیری عمیق همیشه در سطوح سطحی باقی بماند، در درازمدت، خندق دفاعی عمدتاً دیگر الگوریتم نخواهد بود، زیرا هزینه کشف اسرار نسبتاً پایین است. در نهایت، تقطیر + داده + زمان می‌تواند به مقیاس قدرت محاسباتی برسد، اما این فرآیند ممکن است بسیار کند باشد. تا کنون، این به نظر می‌رسد که تا حدی با وضعیت کنونی ما مطابقت دارد، اما حتی در این صورت، تضمینی وجود ندارد که این روند ادامه یابد.

10. اگر با افزایش مقیاس، اوضاع کمتر سطحی شود، هر بار که خودکارسازی و مقیاس افزایش یابد، اسرار الگوریتمی را به شما خواهد داد که برای دیگران به طور فزاینده‌ای دشوارتر است. این به نظر می‌رسد که در حال حاضر نیز در برخی موارد وجود دارد. در هر صورت، در نهایت به مرحله‌ای خواهیم رسید که بازده حاشیه‌ای به مقیاس، و اشباع تحقیق برسد. نمی‌دانیم این مرحله چه زمانی خواهد آمد. ممکن است فقط ۲ مرتبه OOM با موقعیت امروز فاصله داشته باشد، یا ممکن است ۲۰ مرتبه OOM باشد. هیچ‌کس نمی‌داند.

زنجیره تأمین هوشمند

1. قدرت محاسباتی در حداقل چند سال آینده منبعی با رقابت شدید خواهد بود. اما در این مدت، شروع به تجاری‌سازی خواهد کرد. مقیاس به طور مداوم در حال گسترش و کارایی است و سرمایه نیز به دنبال آن می‌آید و به توسعه مستمر صنعت هوشمند کمک می‌کند. ماشین‌های بیشتری برای ضرب ماتریس، کارخانه‌های بیشتری و انرژی بیشتری در راه است. گلوگاه تولید هوشمند تنها موقتی است، حتی اگر موانع اقتصادی بالقوه وجود داشته باشد.

2. ماهیت زنجیره تأمین هوشمند در حال تغییر است. در حال حاضر، این زنجیره به شدت متمرکز بر آزمایشگاه‌ها است. اما آزمایشگاه‌ها در حال خودکارسازی مزیت‌های اصلی خود هستند: کشف مزیت‌های محققان و الگوریتم‌ها. به محض اینکه این وضعیت آغاز شود، فرض کنید که نرم‌افزارهای متن‌باز به دنبال آن بیایند، به ویژه در شرایطی که آزمایشگاه‌ها مدل‌های محققان AI را انحصاری نکنند، مزیت آزمایشگاه‌ها از منابع مالی آسان‌تر، منابع محاسباتی بیشتر، داده‌های خاص، روابط تجاری و محصولات با کیفیت بالا ناشی خواهد شد. البته، این همچنین به این بستگی دارد که چگونه در نهایت مسائل عمق الگوریتمی فوق حل شود و عوامل دیگر.

3. آموزش توزیع‌شده نیاز به ساخت یک مرکز داده واحد را کاهش خواهد داد و مراکز داده غیر فوق‌العاده مقیاس‌پذیر برخی مزایا را به دست خواهند آورد. با این حال، از نظر حداکثر مقیاس عملیاتی در یک بار، هنوز نمی‌تواند از مراکز داده فوق‌العاده مقیاس‌پذیر پیشی بگیرد.

4. آزمایش‌های خودکار AI قادر خواهند بود به طور گسترده‌ای اسرار الگوریتمی را کشف کنند، زیرا این اسرار به طور طبیعی آسان‌تر از اجرای آموزش‌های بزرگ مقیاس منتشر می‌شوند. هنوز مشخص نیست که این روند به چه حدی می‌تواند پیش برود، اما انتظار می‌رود که به خوبی پیش برود. همانطور که در بالا ذکر شد، عمق پایه‌ای یادگیری عمیق هنوز ناشناخته است و این حد بالایی به آن بستگی دارد.

5. با وجود اینکه این عوامل به نظر می‌رسد به نفع آن‌ها باشد، اما به دلیل هزینه‌های محاسباتی و هزینه‌های فرصت، ممکن است جامعه دانشگاهی و متن‌باز همچنان در حال توسعه متوقف شود. به عنوان مثال، آیا سرورهای محاسباتی GB300 برای GLM5.2 یا Fable ارزش بیشتری دارند؟ آیا انجام تحقیقات غیر پیشرفته در آزمایشگاه‌های دانشگاهی ارزش بیشتری دارد یا ساخت Mythos 2 در داخل Anthropic؟ بازار در نهایت به حوزه‌هایی که بیشترین تقاضا را دارند، خواهد رسید و در حال حاضر به نظر می‌رسد که تقاضا در آزمایشگاه‌ها بیشترین است. این بدان معناست که حتی اگر آزمایشگاه‌های متن‌باز دارای سرمایه باشند، اگر هنوز منابع محاسباتی را قفل نکرده باشند، ممکن است با کمبود منابع محاسباتی بیشتری مواجه شوند. با این حال، آن‌ها همچنین باید هزینه فرصت تحقیق را با هزینه اجاره منابع محاسباتی مقایسه کنند.

6. در محیطی که توانایی‌های AI به طور فزاینده‌ای قوی‌تر می‌شود (در ۰-۱۸ ماه آینده)، ممکن است متن‌باز در سطح اجتماعی با چالش‌هایی مواجه شود، به ویژه در شرایطی که پیشرفت در توسعه ایمن به آرامی پیش می‌رود (که در حال حاضر واقعاً به آرامی پیش می‌رود).

7. با ورود سرمایه به آزمایشگاه‌ها، ممکن است متن‌باز شروع به تحلیل برود. اینجا یک مشکل هماهنگی وجود دارد، زیرا هیچ‌کس به جز آزمایشگاه‌ها (شاید دولت‌ها) نمی‌خواهد انحصار ایجاد شود، اما اگر این مشکل حل شود و محیط نظارتی مساعد باشد، ممکن است اوضاع بهتر شود.

فناوری رباتیک

1. فناوری رباتیک به زودی شاهد پیشرفت‌های بزرگی مشابه ChatGPT و همچنین پیشرفت‌های بزرگی مشابه Opus 4.5 خواهد بود. اگرچه این دو پیشرفت هنوز اتفاق نیفتاده‌اند، اما در نهایت خواهند آمد و به دلیل پیشرفت سریع AI، از جمله مهندسی سیستم‌های فیزیکی شتاب‌دهنده AI، سرعت آن‌ها بسیار فراتر از انتظارات خواهد بود. فاصله زمانی بین این دو پیشرفت فناوری رباتیک احتمالاً بیش از سه سال نخواهد بود.

2. با این حال، برای واقعاً گسترش مقیاس جهانی ربات‌ها، ممکن است تا سال ۲۰۳۰ یا حتی دیرتر طول بکشد. با وجود اینکه ما هر سال حدود ۱۰۰ میلیون خودرو تولید می‌کنیم، ربات‌های انسان‌نما بسیار کوچکتر از خودروها هستند. با توجه به اینکه هر سال ۱ میلیارد گوشی هوشمند نیز تولید می‌شود، اگر سرمایه و الگوریتم‌ها بتوانند به سرعت پیشرفت کنند، به نظر می‌رسد که تولید حدود ۱۰۰ میلیون ربات در سال تا سال ۲۰۳۰ معقول باشد. تولید ۱۰ میلیون ربات در سال قطعاً ممکن است، زیرا این هدف در بازار پهپادها تحقق یافته است. نرم‌افزار عالی می‌تواند ارزش ربات‌های انسان‌نما در مقیاس کوچک را ثابت کند و به این ترتیب سرمایه نامحدودی را به ارمغان آورد که ارزش آن با کیفیت اثبات متناسب است.

3. محدودیت‌های سخت‌افزاری که به نظر می‌رسد بر توسعه ربات‌ها تأثیر می‌گذارد، از بین خواهد رفت، مانند کارایی پایین نمونه‌برداری، داده‌های نسبتاً کمیاب، طراحی سخت‌افزار مکانیکی و موتورها که گران یا پیچیده هستند، ویژگی‌های پیچیده فرکتالی دنیای فیزیکی و دانش غیررسمی در مورد چگونگی انجام کارها (مانند نصب لوله‌ها) در زندگی روزمره. مدل‌های جهانی به نظر مفید می‌رسند، اما اینکه دقیقاً چه هستند مهم نیست. قوانین مقیاس تحقیق به طور مداوم استنتاج خواهند شد تا زمانی که کارایی آن‌ها کاهش یابد.

4. تقاضای جهانی برای ربات‌ها به راحتی به صدها میلیارد دستگاه می‌رسد، به ویژه با در نظر گرفتن اندازه‌های مختلف. کارهای زیادی وجود دارد که ارزش خودکارسازی دارند. بازار تلاش خواهد کرد تا این مشکل را حل کند و مردم ممکن است مانع این روند نشوند.

پیشرفت

1. علم در حال خودکارسازی و مجازی‌سازی است. این به این معنی است که بیشتر پیشرفت‌های مورد نیاز در جهان از آزمایشگاه‌های خودکار و شبیه‌سازی ناشی خواهد شد. هنوز به طور کامل درک نمی‌شود که محدودیت‌های محاسباتی مجازی‌سازی چیست، اما آزمایشگاه‌هایی که توسط ربات‌ها در زمینه‌هایی مانند زیست‌شناسی و علم مواد هدایت می‌شوند، بسیاری از گلوگاه‌ها را از بین خواهند برد و در این فرآیند به طور مداوم مرزهای مجازی‌سازی تأیید شده را پشت سر خواهند گذاشت و به این ترتیب کارایی نمونه و سود خالص ناشی از واقعی‌سازی را افزایش خواهند داد. اساساً، در هر حوزه، مدل‌های شبکه‌های عصبی، شبیه‌سازی‌های صریح و آزمایش‌های دنیای واقعی به طور مشترک برای بهبود نسبت خروجی به ورودی در زیست‌شناسی، علم مواد و غیره ترکیب خواهند شد.

2. قوانین پیشرفت در همه جا وجود دارند. در یادگیری عمیق، آن‌ها به عنوان قوانین مقیاس شناخته می‌شوند. پیش‌بینی اینکه هر منحنی خاص چه زمانی به اشباع می‌رسد، دشوار است و همچنین پیش‌بینی اینکه چه زمانی منحنی S جدیدی ظاهر خواهد شد، دشوار است. آنچه باید درک شود این است که موتور پیشرفت خود تمدن نیز از یک قانون پیشرفت پیروی می‌کند. پیشرفت ما احتمالاً مانند اکثر فرآیندهای طبیعی که مشاهده می‌کنیم، در نهایت به حالت اشباع خواهد رسید، اما در واقع نمی‌دانیم این وضعیت چه زمانی اتفاق می‌افتد. دوره بلوغ فناوری و تمدن ممکن است نزدیک باشد یا ممکن است دور باشد. ما در چنین مرحله تاریخی هستیم: (الف) ما تقریباً هیچ منبعی برای پیشبرد پیشرفت سرمایه‌گذاری نکرده‌ایم، اما این وضعیت به سرعت در حال تغییر است؛ (ب) ما در حال خودکارسازی تولید مستقیم ماشین‌های بهبود بیشتری هستیم. ما در یک دوره جالب قرار داریم.

3. جهت‌گیری‌های آینده: گسترش به بالا یا گسترش به بیرون؟ از صفر به یک یا از یک به n؟ اینکه جهان به چه اندازه به انسان اجازه می‌دهد در عمق و وسعت پیشرفت کند، یک سؤال بی‌پاسخ است. وسعت آسان‌تر قابل تخمین است، زیرا شبیه به "از حالا به بعد، قوانین فیزیکی اجازه می‌دهند چند مرحله محاسباتی انجام شود؟" است. در حالی که "عمق" محاسبات (به معنای عام) ناشناخته است. در برخی نسخه‌های آینده، درخت فناوری به قدری عمیق است که جهان محاسباتی قابل دسترس به قدری غنی است که ما به طور مداوم اختراع، کشف و دوباره اختراع خواهیم کرد تا زمانی که قوانین فیزیکی مانع شوند (اگر واقعاً مانع شوند). در حالی که نسخه‌های دیگر ممکن است صاف‌تر باشند؛ ما به زودی به محدودیت‌های درخت فناوری سطحی‌تر خواهیم رسید و به نسبت آسانی به بلوغ فناوری خواهیم رسید و سپس به بیرون گسترش خواهیم یافت، تا زمانی که احساس رضایت کنیم یا قوانین فیزیکی مانع شوند.

4. سرمایه و هوش بیشتر به معنای سرمایه‌داری تهاجمی‌تر است، که به معنای رسیدن سریع‌تر به تعادل بازار است. با گذشت زمان، این به طور طبیعی منجر به کاهش قیمت‌ها خواهد شد و رقابت در مورد اکثر کالاهای مهم (از جمله هوش مصنوعی، غذا، مسکن، دارو، محصولات الکترونیکی، سرگرمی و گردشگری) به هزینه‌های حاشیه‌ای نزدیک خواهد شد. البته، به شرطی که این روند مختل نشود. اما در برخی موارد، احتمالاً این روند مختل خواهد شد.

5. صنعت معدن به خودکارسازی خواهد رسید. حمل و نقل زمینی، دریایی و هوایی به خودکارسازی خواهد رسید. کارخانه‌ها به خودکارسازی خواهند رسید. کارگران کارخانه به خودکارسازی خواهند رسید. مراکز توزیع به خودکارسازی خواهند رسید. نگهداری، بهبود و مقیاس‌گذاری کل زنجیره تأمین به خودکارسازی خواهد رسید.

6. انسان‌ها برای مدت طولانی شغل خواهند داشت. در مورد اینکه چه نسبتی از جمعیت انسانی در آن زمان وجود خواهد داشت، هنوز هیچ توافقی وجود ندارد. کسانی که ادعا می‌کنند این نسبت بالا خواهد بود، بیش از حد مطمئن هستند و کسانی که می‌گویند این نسبت صفر خواهد بود نیز به همین اندازه مطمئن هستند. تصور اینکه انسان‌ها در بخش دانش‌محور کارها چه سهمی خواهند داشت، دشوار است. اگر فقط با ۲۰ دلار در ماه بتوان یک پزشک فوق‌العاده هوش مصنوعی داشت، به همراه آزمایش‌های انتخابی بر اساس نیاز، و وضعیت سلامتی که به طور قابل توجهی با فناوری‌های پزشکی پیشرفته بهبود یابد، آنگاه تقاضا برای برخی چیزها، مانند پزشکان، ممکن است به شدت کاهش یابد. با این حال، به دلیل انحصار فعلی بر پزشکان، این انحصار ممکن است ادامه یابد و شغل پزشک همچنان شغلی خوب باقی بماند. تقاضا برای سرگرمی ممکن است افزایش یابد، اما هزینه‌های تولید کاهش خواهد یافت و نیاز صنعت سرگرمی به مهارت‌های انسانی به طور قابل توجهی کاهش یافته است. با این حال، ما به دیگران بسیار اهمیت می‌دهیم، بنابراین شاید همچنان به آنها اهمیت دهیم و شغل بازیگری نیز سودآورتر شود. یکی از راه‌های تفکر در مورد این روند این است که ببینیم از کارگران امروز تا مصرف‌کنندگان، چند مرحله واسطه در زنجیره تأمین وجود دارد. برای ستاره‌های TikTok، تعداد واسطه‌ها صفر است. برای پزشکان نیز تعداد واسطه‌ها صفر است. اما برای کارگران کارخانه، تعداد واسطه‌ها زیاد است. میزان اینکه یک شغل (الف) می‌تواند از میانجی‌گری حذف شود، یا (ب) می‌تواند توسط رقابت حذف شود، یا (ج) قابل جایگزینی است، احتمالاً به طور قابل توجهی نتیجه نهایی آن را تعیین خواهد کرد. این تحلیل بسیار ظریف است و این متن نمی‌تواند به طور کامل آن را توضیح دهد، اما نکته آخر این است که فرض کنیم ما با فروپاشی شدید سمت تقاضا مواجه نخواهیم شد. اگر تعداد زیادی بیکار شوند و بهره‌وری/کارایی دولت برای حمایت از درآمد پایه جهانی/بیمه مسکن جهانی کافی نباشد، آنگاه ممکن است فروپاشی سمت تقاضا رخ دهد.

7. مرتبط با دیدگاه‌های فوق، اما نه متضاد، "طبقه دائمی پایین" ممکن است واقعاً وجود داشته باشد. در یک دنیای بهتر، اگر چنین حالتی واقعاً وجود داشته باشد، ممکن است به صورت محدودیت‌های شدید خودمختاری و نه محدودیت‌های شدید درآمدی بروز کند. برای اکثر مردم، این در نهایت تأثیر زیادی نخواهد داشت، زیرا خودمختاری ما در جامعه مدرن به شدت محدود شده است، اما این نیاز به سازگاری روانی دارد و این سازگاری ممکن است زمان ببرد و ممکن است با درد همراه باشد.

فرهنگ و روانشناسی

1. روانشناسی انسان در حال حاضر به آرامی در حال توسعه و سازگاری است، اما این نهایتاً تغییر خواهد کرد. کلید تغییر به سمت مثبت است، که ممکن است برای برخی افراد آسان نباشد. به لطف هوش و فناوری‌های خودکار غنی، ما مکانیزم‌های روانی پایدارتری خواهیم ساخت که نسبت به مشکلات تکاملی محیطی که اکنون وجود دارد، مقاوم‌تر هستند. نوآوری‌ها در زمینه روانپزشکی و روانشناسی در عرض چند دهه به سطح توسعه‌ای هزار ساله خواهند رسید. وضعیت بنیادی انسان بهبود خواهد یافت. مداخلات روانی خام و رو به زوال به طور غیرمعمولی خطرات را بزرگ‌نمایی کرده‌اند، زیرا ما تکنیک‌های مهندسی روانی بسیار پیشرفته‌تر و متنوع‌تری خواهیم داشت.

2. در یک دنیای پر از عدم قطعیت، مردم بیشتر از هر زمان دیگری به شدت به دنبال قدرت، موقعیت و ثروت خواهند بود و در این فرآیند به راحتی به هم‌نوعان خود خیانت خواهند کرد. آنها انواع مختلفی از توجیهات را برای اثبات اینکه رفتارشان خوب و حتی بزرگ است، اختراع خواهند کرد. فقط به اطراف نگاه کنید.

3. در طول عمر شما، شاهد برخی از رفتارهای زشت و غیرقابل باور خواهید بود.

4. اکنون یک دوگانگی واضح وجود دارد: کسانی که به 0.01% ثروتمندترین افراد پیوسته‌اند یا به زودی خواهند پیوست، ادعا می‌کنند که هوش مصنوعی به نفع همه خواهد بود و نیازی به نگرانی در مورد اشتغال نیست، اما آنها می‌گویند که یک سال، پنج سال یا حتی بیست سال دیگر، آنها ثروت خود را رها نخواهند کرد. مردم این را می‌بینند و شروع به پاسخگویی کرده‌اند. باید روشن شود که من نیز ثروت خود را رها نخواهم کرد، اما من نیز فکر نمی‌کنم که همه چیز به طور کامل بی‌نقص خواهد بود (و من نیز جزو 0.01% ثروتمندترین افراد نیستم). بنابراین، ما با خطر ساختن یک دنیای ناعادلانه مواجه هستیم. برخی افراد به این موضوع اهمیت می‌دهند و من فکر می‌کنم باید بیشتر در مورد آن بحث شود. و باید به وضوح بیان شود که سیاستمداران آمریکایی در مواجهه با این نوع مسائل بسیار ضعیف عمل کرده‌اند.

5. به نظر می‌رسد ایلان ماسک احتمالاً اولین تریلیونر خواهد بود. به طور کلی، تصور اینکه در آینده تقاضا برای تراشه‌ها، ربات‌ها و فضاپیماها ۱۰۰۰ برابر افزایش یابد، دشوار نیست و او احتمالاً قادر خواهد بود بخش بزرگی از این بازار را به دست آورد.

هماهنگی

1. نیاز به هماهنگی بهتر در تمام سطوح جامعه واضح است. درک ما از هماهنگی بهتر در حال حاضر دارای برخی نقص‌ها و خطرات است، اما به نظر می‌رسد که ما فقط به سطح پتانسیل آن نزدیک شده‌ایم.

2. حداقل در مورد مسائل هوش مصنوعی، انجام نوعی هماهنگی بین‌المللی ممکن است ایده خوبی باشد. ممکن است به توافق‌نامه‌ها و شمارش GPU نیاز داشته باشیم. این می‌تواند به گونه‌ای طراحی شود که (الف) تجمع قدرت نظامی و دولتی متخاصم را کاهش دهد و (ب) تأثیر حداقلی بر علم و سایر حوزه‌های پیشرفت مهم داشته باشد. ممکن است نتوانیم به این هدف برسیم، زیرا قدرت GPU بسیار زیاد است. ما در مورد سلاح‌های هسته‌ای موفق شدیم، زیرا به جز دیوانه‌ها، هیچ‌کس واقعاً نمی‌خواهد از سلاح‌های هسته‌ای استفاده کند.

3. احتمال اینکه آزمایشگاه‌های هوش مصنوعی هماهنگی برای توقف یا کند کردن تولید هوش مصنوعی را انجام دهند، بیشتر از سال ۲۰۲۳ است. در اینجا بسیاری از ملاحظات وجود دارد، اما ارزش توقف امروز کمی بیشتر از سال ۲۰۲۳ است. وقتی ما تحقیق خودکار داریم (در حال حاضر فقط مهندسی خودکار وجود دارد)، این ادعا که توقف هدر خواهد رفت، سخت است که قابل قبول باشد.

قدرت، خشونت، امنیت، آزادی

1. جهان ما ممکن است بسیار شکننده باشد. ممکن است در جهان کنونی برخی آزادی‌ها وجود داشته باشد که ما نتوانیم به موقع کنترل کنیم و در عین حال نتوانیم حکمرانی و مقررات آزادی را که برای حفظ حقیقت جهان ما ضروری است، حفظ کنیم (مگر اینکه از نظارت زندان‌گونه استفاده کنیم). توجه داشته باشید که در چنین جهانی، تجمع قدرت یک اثر سرسره‌ای است. بسیاری از این نوع جهان‌ها ممکن است در نهایت اکثریت را به دردسر بیندازند. ای کاش این درست نبود، اما شاید درست باشد.

2. سرعت گسترش هوش مصنوعی بیشتر از صفر خواهد بود، چه محدودیت‌های بالقوه‌ای وجود داشته باشد یا نه. در جهان کامپیوترهای زیادی وجود دارد و نسبت عملیات شناور به هوش مصنوعی به پایین‌ترین سطح تاریخی خود رسیده است. انتظار نداشته باشید که همه چیز متوقف شود.

3. مفهوم طبقه دائمی پایین به معنای وجود طبقه دائمی بالا است. این پیش‌فرض را دارد که برخی افراد حقوق بیشتری دارند و این حقوق معمولاً فاقد توجیه قانونی هستند. دلیل اصلی همیشه نهفته یا تحقق‌یافته، حکمرانی مبتنی بر خشونت است. اما شاید در دنیایی که هوش مصنوعی پیشرفته‌ای دارد، انسان‌ها دیگر هیچ حق حکمرانی مشروعی نداشته باشند و هیچ دستاورد یا موقعیتی که بر دیگران برتری داشته باشد، نداشته باشند. این ممکن است هرگز به طور کامل محقق نشود، اما تفکر در مورد این موضوع ممکن است اهمیت بیشتری پیدا کند.

4. نهادها با فشارهای تحولی از جهات مختلف مواجه خواهند شد. راه‌های زیادی برای رسیدن به این نتیجه وجود دارد، برخی با بهانه امنیت و برخی دیگر با گسترش ملایم قدرت، که سقف آن زنجیره تأمین نظامی کاملاً خودکار + سلاح‌های کاملاً خودکار + هوش مصنوعی قوی است. ما به نهادهای بهتری نیاز داریم.

5. ممکن است در آینده "حفره‌های صفر روز" زیادی وجود داشته باشد. در زمینه‌های شبکه، زیست‌شناسی، زیرساخت، عصبی، میم‌ها، فیزیک و غیره. ما اساساً نمی‌دانیم که عمق و انسجام الگوریتم‌ها در این زمینه‌ها چه بازدهی به همراه دارد، چه در زمینه دفاع و استحکام و چه در زمینه تخریب. برای هوشمندترین انسان‌ها، عمق الگوریتم‌های سلاح‌های هسته‌ای به هیچ وجه غیرقابل دسترس نیست.

6. نکته مرتبط: ممکن است در درخت فناوری چیزهای بسیار بدی وجود داشته باشد. ما در این مورد هیچ اطلاعی نداریم.

7. خطرات ناشی از فناوری رباتیک در مقیاس بزرگ شامل نه تنها زمینه‌ها و روش‌های جدید حملات سایبری و غیره، بلکه خطرات واقعی تصرف و کودتا نیز می‌شود. ما باید این خطرات را جدی بگیریم و تلاش کنیم آنها را کاهش دهیم.

8. تضمین متقابل تخریب (MAD) بر اساس فناوری‌های قرن بیستم و اوایل قرن بیست و یکم است. ما در مدت زمان کوتاهی تغییرات سریع فناوری را تجربه خواهیم کرد که مقیاس آن ممکن است به اندازه توسعه‌ای باشد که در طول هزار سال رخ داده است. این بدان معناست که MAD الزامی نیست. این مسئله قابل حل است و به هیچ وجه مطلق یا کاملاً تخریبی نیست، زیرا نرخ خطای کسب برتری قاطع بسیار پایین است و حتی ممکن است به هیچ وجه قابل دستیابی نباشد. برخی از افراد در گذشته این موضوع را به شکلی غیر جدی مورد بحث قرار داده‌اند، که من فکر می‌کنم اشتباه و غیرمسئولانه است. این یکی از جدی‌ترین موضوعاتی است که می‌توانیم در مورد آن بحث کنیم. طبیعی است که مردم نگران این موضوع باشند، اما من فکر می‌کنم اکنون زمان آن است که به این موضوع بپردازیم.

9. ارتش، پلیس و مکانیسم‌های اجرای قانون دولتی به طور خودکار خواهند شد و از انسان‌ها هوشمندتر خواهند بود. در مورد اینکه این چه عواقبی خواهد داشت، قضاوت با شماست.

10. در نهایت: آزمایشگاه‌های هوش مصنوعی ممکن است در نهایت ملی شوند. به نظر می‌رسد سیستم آمریکا برای این کار مناسب نیست، اما در یک محیط سیاسی محافظه‌کار یا لیبرال، راه‌های زیادی برای ملی‌سازی وجود دارد و به نظر می‌رسد این راه‌ها غیرقابل انجام نیستند. به طور اصولی، این آزمایشگاه‌ها می‌توانند در پس‌زمینه با نظامی‌ها و سازمان‌های اطلاعاتی هماهنگ باشند. داشتن چنین قدرت یک‌جانبه‌ای توسط دولت فدرال نیز بسیار خطرناک است. داشتن این قدرت توسط شرکت‌های خصوصی متفاوت است، زیرا آنها معمولاً به طور مستقیم خشونت را اعمال نمی‌کنند و قانون نیز به آنها اجازه نمی‌دهد این کار را انجام دهند. من چندان موافق ملی‌سازی نیستم، اما این دنیا گیج‌کننده است و به وضوح در حال خطرناک‌تر شدن است.

سلب مسئولیت: این محتوا صرفاً برای اطلاع‌رسانی عمومی و برندینگ ارائه شده و به‌ منزله مشاوره مالی، سرمایه‌گذاری، حقوقی یا مالیاتی تلقی نمی‌گردد. هیچ‌یک از رویدادها، جوایز، رویدادهای آنلاین یا اطلاعات مرتبط ذکرشده در اینجا نباید به‌عنوان توصیه، درخواست یا دعوت برای خرید، فروش، معامله یا هرگونه اقدام دیگر در رابطه با دارایی‌های رمزارزی یا استفاده از خدمات تلقی شوند. دارایی‌های رمزارزی با نوسانات بالایی همراه بوده و ممکن است منجر به زیان شوند. خدمات WEEX و رویدادهای آنلاین ممکن است در تمام مناطق در دسترس نبوده و مشمول قوانین، مقررات و شرایط احراز صلاحیت مربوطه هستند. شما مسئول رعایت قوانین محلی در استفاده از خدمات WEEX هستید و باید پیش از انجام هرگونه فعالیت مرتبط با ارزهای دیجیتال، ریسک‌های آن را به‌دقت بررسی کنید.