هل نعلن الحرب على الذكاء الاصطناعي؟ سردية يوم القيامة وراء فيلم "مقر ألترامان المشتعل"

العنوان الأصلي: الاستنتاج "العقلاني"
المؤلف الأصلي: ألكسندر كامبل
ترجمة: بيغي، بلوك بيتس

ملاحظة المحرر: في الساعة 3:45 صباحًا من يوم 10 أبريل، ألقى شخص يبلغ من العمر 20 عامًا زجاجة مولوتوف على منزل سام ألتمان، ثم توجه سيرًا على الأقدام إلى مقر شركة OpenAI وهدد بإشعال حريق متعمد.

أحدث هذا الهجوم صدمة سريعة في أوساط مجتمع التكنولوجيا والاستثمار. لم يقتصر الأمر على سلامة الأفراد فحسب، بل دفع أيضاً سردية متطرفة ظلت لفترة طويلة في النصوص والمجتمعات الإلكترونية إلى الواقع.

انطلاقاً من التأكيد الحتمي للغاية على أن "الذكاء الاصطناعي سيؤدي إلى انقراض البشر" والتفكير من خلال "يجب علينا تقليل المخاطر بأي ثمن"، انزلق هذا المنطق تدريجياً نحو تبرير العمل في العالم الحقيقي. عندما تعزز رؤية العالم باستمرار روايتها عن "التهديد الوجودي" وتستخدمها لإعادة بناء الأولويات الأخلاقية، يتم إعادة تعريف حدود العمل - ويبدأ الخطاب الذي كان منخفض التكلفة في السابق في حمل إمكانية الإنفاذ.

تستعرض هذه المقالة المسار التطوري داخل مجتمع نهاية العالم للذكاء الاصطناعي: من "دوامة التطهير" التي تدفع إلى تصاعد تقييمات المخاطر إلى الحكم الأخلاقي لبناة التكنولوجيا، ثم إلى تبسيط الواقع المعقد في نموذج اتخاذ القرار "مشكلة العربة". تتقارب هذه الاستنتاجات التي تبدو منطقية في نهاية المطاف إلى عقلية متسقة ولكنها محفوفة بالمخاطر: طالما أن النتيجة تُعرَّف بأنها "إنقاذ البشرية"، فإن الوسائل يمكن أن تستمر في التوسع.

وبهذا المعنى، فإن هذا الحدث ليس معزولاً. الأمر أشبه باختبار إجهاد مبكر - لا يختبر التكنولوجيا نفسها، بل يختبر متى تبدأ الروايات والمعتقدات والأفعال المحيطة بالتكنولوجيا في فقدان السيطرة.

النص الأصلي هو كالتالي:

من هو مُفتعل الحرائق؟

في تمام الساعة 3:45 صباحاً من يوم الجمعة، ألقى رجل يبلغ من العمر 20 عاماً زجاجة مولوتوف على منزل سام ألتمان. ثم سار حوالي ثلاثة أميال إلى مقر شركة OpenAI وهدد بإحراقه. وقد ألقت الشرطة القبض عليه حالياً للاشتباه في محاولته القتل.

ذكر الملصق: تم إلقاء القبض على شخص يدعى دانيال مورينو-غاما (الاسم المستعار على الإنترنت dmgama / "الجهادي الباتليري") بتهمة "الشروع في القتل" وتم تسجيله لدى الشرطة. تجدر الإشارة إلى أنه عضو نشط في PauseAI. ويشير المنشور أيضاً إلى رأي عاجل عبّر عنه عدة مرات: "اقتربت الساعة من منتصف الليل، حان وقت العمل الجاد."

إنه ليس "ذئباً منفرداً". وهو عضو نشط في PauseAI، ويشغل ستة مناصب في المجتمع. اسم المستخدم الخاص به على ديسكورد هو "Butlerian Jihadist".

حسابه على إنستغرام مليء بالكامل تقريباً بمحتوى يوم القيامة: منحنى قانون القوة مع تعليق "إذا لم نتحرك قريباً، فسنموت جميعاً"، بالإضافة إلى رسم بياني فين يضع الواقع عند تقاطع فيلمي The Matrix و Terminator و Idiocracy.

قبل أربعة أشهر من الهجوم، أوصى أيضاً أتباعه بمقال "التفرد التكنولوجي القادم" ليودكوفسكي وسواريس.

معهد الجهاديين الباتلريين

"التحول التكنولوجي القادم" هو عمل أساسي في معسكر مخاطر الذكاء الاصطناعي / سلامة الذكاء الاصطناعي، ويقدم وجهة نظر متشائمة قوية. يمكن تلخيص حجتها الأساسية على النحو التالي: بمجرد أن يخلق البشر "ذكاءً خارقًا" (ذكاء اصطناعي يتجاوز بكثير الذكاء البشري) غير متوافق تمامًا، فمن المرجح جدًا أن يخرج عن السيطرة ويشكل تهديدًا وجوديًا للبشرية. موقف المؤلف متطرف للغاية، ويقترب من النوع "الأكثر تشاؤماً"، إذ يعتقد أن الذكاء الاصطناعي ليس "محفوفاً بالمخاطر" فحسب، بل كارثي بشكل شبه حتمي. يدعو المؤلف إلى توخي الحذر الشديد أو حتى التوقف عن التطوير إلى حين معالجة مشكلة المحاذاة.

اسمه دانيال مورينو غاما.

لديه أيضاً حسابه الخاص على منصة Substack. في وقت مبكر من شهر يناير من هذا العام، نشر مقالاً بعنوان "الخطر الوجودي للذكاء الاصطناعي"، مقدراً احتمالية "انقراض البشر بسبب الذكاء الاصطناعي" بأنها "شبه مؤكدة". ويشير إلى هذه التقنية على أنها "تهديد فعلي لأي شخص يستخدمها، وخاصة لأولئك الذين يقومون ببنائها". وخلاصته هي: "يجب علينا معالجة هذا التهديد أولاً قبل طرح أسئلة أخرى."

كما كتب قصيدة يتخيل فيها موت أبناء مطوري الذكاء الاصطناعي وتساؤلهم عن تقاعس آبائهم. بل إنه يصف مبتكري هذه التقنيات على النحو التالي: "ليرحم الجحيم هذه المخلوقات الحقيرة."

قامت شركة PauseAI بالفعل بإزالة الرسائل المتعلقة به من منصة Discord الخاصة بها.

أعلم أن هذا ليس ما يتوقعه معظم القراء في نشرة استثمارية. أكتب هذا لأشرح من أين تأتي نظرتي للعالم، مما يسهل فهم الأحكام طويلة المدى التي ستلي ذلك. أما بالنسبة لاقتراح "الصفقة الجديدة الجديدة" الذي طرحته، فهو رد مباشر على هذا التطور.

ما did-133">فعلته هو ببساطة استقراء نموذجهم خطوة أخرى وربط النقاط.

سردية يوم القيامة لمتشائمي الذكاء الاصطناعي

لنبدأ بـ "الحتمية". موقف يودكوفسكي (الكتاب المذكور سابقًا) هو: بمجرد أن يقوم شخص ما بإنشاء ذكاء اصطناعي قوي بما فيه الكفاية، سيموت كل شخص على وجه الأرض. ليس "ربما"، ولا "من المحتمل"، بل الجميع - بما في ذلك طفلك وابنته نينا التي ذكرها مراراً وتكراراً.

وقد عبّر عن هذا الرأي في مجلة تايم، كما كتب عنه في كتاب بعنوان "إذا نجح أحدهم، فسنموت جميعاً". بل إنه دافع عن قصف مراكز البيانات، وكان يعتقد أن خطر الصراع النووي أكثر قبولاً من إجراء تدريب كامل.

"دوامة التطهير"، وهي سلوك جذري متصاعد باستمرار. داخل هذا المجتمع، يثبت الأعضاء "عزيمتهم" من خلال رفع حدة موقفهم باستمرار: فقد ارتفعت تقديرات "احتمالية انقراض البشر (P(doom))" من 50% إلى 90% ووصلت إلى 99.99999%.

قال متحدث وطني باسم مركز سلامة الذكاء الاصطناعي ذات مرة أمام الكاميرا إن الرد الصحيح سيكون "الدخول إلى المختبرات في جميع أنحاء البلاد وحرقها". بل إن شركة PauseAI أطلقت ما يسمى " بروتوكول الطلقة التحذيرية"، والذي يصنف نموذجًا معينًا للذكاء الاصطناعي على أنه "سلاح على مستوى الانقراض". بل إن أحد القادة في PauseAI قال إن الباحثة الأنثروبية "تستحق كل ما سيحدث لها".

عندما شكك أحدهم في مثل هذه التصريحات في خادم ديسكورد الخاص بـ PauseAI، قام المسؤول بحذف تلك الرسالة مباشرة.

في اليوم السابق للهجوم، غرد نيث سواريس، وهو مؤلف مشارك لكتاب يودكوفسكي، قائلاً إن ألتمان كان "يفعل بعض الأشياء السيئة حقًا".

بعد ذلك، بدأت أغنية "Cheap Talk" تواجه اختبارًا للواقع.

في نظرية الألعاب، هناك مصطلح يسمى "الكلام الرخيص": يشير إلى التصريحات التي لا تكلف شيئًا تقريبًا، ولكنها في النهاية مقيدة بالواقع. في البداية، كان الجميع يدلون بتصريحات متطرفة منخفضة التكلفة، ولكن بمجرد أن تم تأطير القضية على أنها "أزمة بقاء بشري"، أصبح من الممكن أخذ هذه الآراء على محمل الجد، مما أدى إلى إضفاء الشرعية على السلوك المتطرف.

هذه ليست حوادث معزولة، بل سلسلة من الادعاءات المتصاعدة والمتضافرة حول أيديولوجية كارثية إلى حد ما. وإذا ما أخذنا هذا المنطق إلى أقصى حدوده، فقد يصل الأمر إلى حد "التضحية بـ 99% من السكان لإنقاذ الـ 1% المتبقية".

ومع تطور الأمور، أخذ أحدهم هذه الأفكار حرفياً وتصرف بناءً عليها - لقد كانت مسألة وقت فقط. قرأ ذلك الشاب ذلك الكتاب، وانضم إلى تلك الجماعة، وكتب بيانه. في مقال تأملي كتبه لفصل اللغة الإنجليزية في كلية مجتمعية، وصف نفسه بأنه من أنصار المذهب النفعي: "إذا لم تتطابق النتيجة مع ما سبق، فلن أصدق الدافع على الإطلاق." وقد أطلق على نفسه لقب "الجهادي الباتلري". في الثالث من ديسمبر، كتب على منصة ديسكورد الخاصة بـ PauseAI: "نحن نقترب من منتصف الليل، لقد حان وقت العمل الحقيقي."

ثم قام بالتحرك.

لقد طرحوا عليه "معضلة العربة": حياة واحدة في مواجهة البشرية جمعاء. قام بسحب الرافعة.

جاء في التغريدة أعلاه (Air Katakana): زرع يودكوفسكي (يود) "مشكلة العربة" في ذهن ذلك الشخص: على أحد المسارين يوجد سام ألتمان، وعلى المسار الآخر يوجد الجنس البشري بأكمله، بما في ذلك سام ألتمان. ربما كان ذلك الرجل يعتقد أنه سيفوز بجائزة نوبل للسلام.

جاء في التغريدة المقتبسة التالية (راندولف كارتر): قام شخص بإلقاء قنبلة حارقة على منزل الرئيس التنفيذي لشركة ذكاء اصطناعي، ثم توجه على الفور إلى شركة OpenAI لتهديد الأشخاص الموجودين هناك، وقال هؤلاء "المتشائمون": "قد يكون أي شخص، لا يمكننا التأكد..."

هناك ملاحظة أخيرة ساخرة تستحق الذكر. إذا كان هؤلاء "المتشائمون" يؤمنون حقاً بأحكامهم بالدرجة التي يدّعونها، فعليهم أن يكونوا أكثر صراحة بشأن الآثار المترتبة على تلك المعتقدات.

قبل أسابيع قليلة من الهجوم، سأل صحفي يودكوفسكي: بما أن الذكاء الاصطناعي خطير للغاية، فلماذا لا تهاجمون مراكز البيانات؟ وكانت الإجابة، التي نقلها سواريز، كالتالي: "إذا رأيت تقريراً إخبارياً يفيد بأنني فعلت ذلك، فهل ستفكر، 'يا للعجب، لقد تم إيقاف الذكاء الاصطناعي، نحن بأمان'؟" وإلا، فأنت تعلم مسبقاً أنه لن ينجح.

لاحظ أن هذا الرد لم يتضمن أي شيء. لم يكن السبب "لأن العنف خطأ"، بل "لأنه لا يجدي نفعاً في الوقت الحالي". يستند هذا التقييد إلى اعتبارات استراتيجية، وليس إلى قيود أخلاقية. وهذا المجتمع يعلم ذلك. يكمن تحت السطح إجماع غير معلن: أن أكبر "خطأ" ارتكبه ذلك الشاب كان ببساطة سوء التوقيت.

هذا بالضبط ما أقصده: الذكاء لا يعني القوة. وهذا أيضاً هو العيب الأعمق في النظرة العالمية "التشاؤمية" بأكملها.

يقوم إطار عمل يودكوفسكي على مفارقة: طالما أن الذكاء الاصطناعي ذكي بما فيه الكفاية، فإنه سيكتسب حتما القدرة على تدمير البشرية لأن "الذكاء يتحول تلقائياً إلى قدرة". لكن العديد من أتباعه يفتقرون إلى الخلفية التقنية. إنهم لا يبنون أنظمة الذكاء الاصطناعي ولا يشاركون في هندسة التوافق. ما يمتلكونه هو نوع خاص من "الذكاء اللغوي" الذي يمكنه بناء حجج مخاطر مفصلة وبالتالي إقناع أنفسهم بامتلاك نوع من "السلطة الكهنوتية" على التكنولوجيا. بإمكانهم بناء الحجج لكنهم لا يستطيعون بناء الأنظمة.

هذا ليس من قبيل الصدفة، بل هو إطار مكتوب في نصها التأسيسي. يصور كتاب يودكوفسكي "هاري بوتر وأساليب العقلانية" بشكل أساسي عالماً يجب أن يسود فيه أفضل عقلاني فوق جميع الأنظمة. ثم تقدم "التسلسلات" مجموعة كاملة من "المذاهب": مجموعة صغيرة من "المفكرين الصحيحين" المتفوقين في كل من الإدراك والأخلاق؛ عقلانيتهم ​​تخولهم تحديد ما يمكن للآخرين بناؤه. بدلاً من أن تكون حركة سلامة، فهي أشبه بـ "نظام ديني" مع أسطورة الخلق.

قد ينأى يودكوفسكي بنفسه عن ذلك الشاب الذي ألقى زجاجة مولوتوف، لكنه لا يستطيع أن ينأى بنفسه عن ذلك القياس المنطقي. إذا كان البنّاء سيقتل الجميع، فإن إيقاف البنّاء هو دفاع عن النفس. هذا هو اقتراحه الأساسي، وهو واضح ومباشر. السؤال الوحيد الذي كان دائماً: متى سيأخذ أحدهم الأمر على محمل الجد؟

لذلك عندما يظهر منطقهم الخاص في الساعة 3:45 صباحًا ومعه زجاجة بنزين، فلا ينبغي لهم أن يتصرفوا بهذه الدهشة بعد الآن.

[ رابط المقال الأصلي ]