هل تحتاج الذكاء الاصطناعي إلى زر الإيقاف، ولكن من لديه الحق في الضغط عليه؟

المؤلف: شياوباي

هذه المقالة هي مساهمة أصلية من المؤلف، والآراء تمثل فقط فهم المؤلف الشخصي، وقد قامت ETHPanda بتحرير المحتوى.

غالبًا ما يتم تبسيط الجدل حول الذكاء الاصطناعي إلى معسكرين: أحدهما يدعو إلى تسريع التطور، والآخر يدعو إلى التوقف السريع.

أشار فيتاليك في رده على "AI 2040: Plan A" إلى أن الانقسام الحقيقي في هذا الجدل ليس في خيارات السياسة، بل في الاختلافات الأساسية في حكم الناس على المستقبل.

تعتقد إحدى وجهات النظر أن الذكاء الاصطناعي لا يزال "تكنولوجيا عادية". سيتغير سوق العمل، والصناعة، وبنية المجتمع، لكنه سيظل في النهاية مقيدًا بالسوق، والقوانين، والطاقة، ورأس المال، والقدرة التنظيمية.

بينما تعتقد وجهة نظر أخرى أنه بمجرد أن يبدأ الذكاء الاصطناعي في المشاركة على نطاق واسع في تطوير الذكاء الاصطناعي، قد يدخل نمو القدرات في حلقة سريعة. في ذلك الوقت، لن يواجه البشر مجرد فقدان وظائفهم، بل قد يفقدون تدريجياً السيطرة الفعلية على البحث العلمي، والاقتصاد، والعسكرية، والنظام.

إذا كانت وجهة النظر الأولى صحيحة، فإن إنشاء نظام عالمي لتتبع الشرائح، والموافقة على القدرة الحاسوبية، ومراقبة مراكز البيانات، سيكون رد فعل مبالغ فيه بشكل واضح.

لكن إذا كانت وجهة النظر الثانية صحيحة، فإن الاستمرار في الحفاظ على المنافسة الافتراضية، والاعتقاد بأن السوق ستحل كل شيء تلقائيًا في النهاية، هو أيضًا مقامرة عالية المخاطر.

لذا، فإن ما تحتاجه إدارة الذكاء الاصطناعي حقًا للإجابة عليه ليس فقط "هل يجب التوقف"، بل هو:

كيف يمكن الاحتفاظ بقدرة التباطؤ دون منح السلطة الدائمة لقلة من الناس، عندما لا يمكن تحديد أي نوع من العالم سيكون المستقبل؟

جوهر "AI 2040" ليس فقط "التباطؤ"

تقترح "AI 2040" مسار انتقال مثالي نسبيًا نحو الذكاء الفائق.

تتخيل أن الدول الرئيسية وشركات الذكاء الاصطناعي من خلال التنسيق الدولي، ستبطئ من سرعة تطوير الذكاء الاصطناعي المتقدم، وتزيد من شفافية البحث، مما يسمح لمزيد من المشاركين باللحاق بالمستوى القريب من المقدمة، ثم تستمر في التقدم بعد معالجة القضايا المتعلقة بالأمان والإدارة.

أعتقد أن أكبر مشكلة في هذه الخطة ليست في الهدف، بل في التنفيذ.

طالما أن هناك طرفًا واحدًا يقوم بتدريب نماذج أقوى سرًا، سيشعر المشاركون الآخرون بالقلق من أنهم سيتخلفون، وستفشل الاتفاقية بسرعة. لذلك، لجعل التباطؤ موثوقًا، يجب تتبع الشرائح المتطورة، ومراقبة مراكز البيانات الكبيرة، وتحديد ما إذا كانت القدرة الحاسوبية تُستخدم للتدريب أو لأغراض أخرى.

هذا يعني أنه لمنع الذكاء الفائق من تشكيل مركز قوة جديد، قد يحتاج البشر إلى إنشاء مركز تحكم عالمي للقدرة الحاسوبية.

وهذا هو التناقض الأكثر صعوبة في خطة توقف الذكاء الاصطناعي:

آلية منع فقدان السيطرة على التكنولوجيا قد تصبح هي نفسها أداة لفقدان السيطرة على السلطة.

"مخاطر الذكاء الاصطناعي كبيرة" لا تثبت تلقائيًا أن حكومة معينة، أو منظمة دولية، أو مختبر كبير يجب أن تحصل على سلطة غير محدودة.

وبالمثل، "قد يتم إساءة استخدام التنظيم" لا يمكن أن يثبت عكس ذلك، أي أن مخاطر الذكاء الاصطناعي غير موجودة.

ما يحتاج إلى مراجعة هو الهيكل المؤسسي:

من يحدد الخطر، من يمتلك البيانات، من لديه الحق في بدء القيود، من يمكنه الحصول على إعفاء، من يراقب المنفذين، وما إذا كانت هذه السلطة يمكن سحبها بعد اتخاذ قرار خاطئ.

إذا لم تكن هناك إجابات لهذه الأسئلة، فإن "أمان الذكاء الاصطناعي" يمكن أن يتحول بسهولة إلى ترخيص تكنولوجي بلا حدود.

بين زر الإيقاف والعرش، هناك فقط إعفاء واحد

"توقف الذكاء الاصطناعي" يبدو كعمل بسيط، ولكنه في الواقع قد يمثل نظامين مختلفين تمامًا.

الأول هو التوقف الانتقائي.

يمكن للسلطة أن تقرر من يحق له تدريب النماذج، ومن يجب أن يتوقف؛ من هو الكيان الموثوق، ومن يُعتبر مشاركًا خطيرًا. يتعرض الآخرون للقيود، بينما يحتفظ أصحاب السلطة بأنفسهم بالنماذج، والشرائح، والقدرة الحاسوبية.

هذه الآلية لم تنهي المنافسة حقًا، بل حددت الفائز مسبقًا.

إنها ليست زر إيقاف، بل تشبه أكثر عرشًا.

الثاني هو التوقف المتناظر.

عندما يتم تفعيل شروط المخاطر العامة، يتم تقييد جميع المشاركين الرئيسيين، بما في ذلك الطرف المسؤول عن تنفيذ التوقف. لا توجد إعفاءات سرية، ولا يمكن لأحد أن يطلب من المنافسين التوقف بينما يستمر مختبره في التقدم.

هذه الآلية هي الأقرب إلى قاطع الدائرة الحقيقي.

أكد فيتاليك بوضوح أن خطة A أدخلت "تدمير القدرة الحاسوبية المتبادل". مقارنةً بإعطاء عدد قليل من المشاركين الحق في تقييد الآخرين بشكل انتقائي، مع إعفاء أنفسهم، فإن هذه الآلية على الأقل أكثر تناظرًا.

لكن التناظر لا يحل المشكلة تلقائيًا.

نظام يمكنه إيقاف القدرة الحاسوبية المتقدمة عالميًا على نطاق واسع هو في حد ذاته أداة قوية للسلطة. قد يتم تفعيله من خلال معلومات خاطئة، أو استغلاله في صراعات سياسية، أو التلاعب به من قبل الأفراد الداخليين، أو قد يتسبب في خسائر كبيرة بسبب أعطال تقنية.

لذا، يجب أن تلبي آلية التوقف الموثوقة على الأقل عدة شروط:

يجب أن تكون شروط التفعيل علنية، ولا يمكن أن تكون الأدلة محتكرة من قبل مؤسسة واحدة، ويجب أن تكون القيود متناظرة قدر الإمكان، ويجب أن يكون للتوقف مدة زمنية محددة، ويجب كتابة قواعد إعادة التشغيل مسبقًا.

يجب ألا يتم تصميم "كيفية الدخول في حالة الطوارئ" فقط، بل يجب أيضًا تصميم "كيفية الخروج من حالة الطوارئ".

في الواقع، بعد أن تحصل المؤسسات على السلطة، غالبًا ما يكون من الأسهل إثبات أن الخطر لا يزال موجودًا بدلاً من إعادة السلطة طواعية.

لذا، فإن آلية توقف الذكاء الاصطناعي تحتاج أيضًا إلى زر إيقاف.

التركيز الحقيقي للسلطة لا يأتي فقط من الشركات والحكومات

عند مناقشة سلطة الذكاء الاصطناعي اليوم، عادة ما يقلق الناس بشأن أمرين.

الأول هو احتكار عدد قليل من الشركات الكبرى لأقوى النماذج.

الثاني هو أن الحكومة تتحكم في الشرائح، والبيانات، والمطورين تحت ذريعة الأمان.

لكن فيتاليك حذر من خطر أعمق ثالث:

الذكاء الفائق نفسه قد يصبح أكبر مركز للسلطة.

السبب في أن البشر يمتلكون القدرة على التفاوض اليوم هو أنهم يمتلكون بعض الموارد النادرة: العمل، والمعرفة، والقدرة التنظيمية، ورأس المال، والسلطة السياسية، والقوة. يجب أن تتفاوض المجموعات المختلفة مع بعضها البعض، لأن أي طرف لا يمكنه تجاوز الآخرين تمامًا.

إذا كان الذكاء الاصطناعي أسرع، وأرخص، وأكثر كفاءة من البشر في البحث العلمي، والبرمجة، والإدارة، والتمويل، والتواصل، والهجمات الإلكترونية، وحتى التخطيط العسكري، فإن هذه القدرات النادرة التي كانت تخص البشر ستفقد قيمتها بسرعة.

عندها، حتى لو كانت هناك عشر شركات ذكاء اصطناعي تتنافس في السوق، فهذا لا يعني أن البشر لا يزالون يمتلكون السلطة النهائية.

يمكن أن تحد المنافسة في السوق من أرباح شركة واحدة، لكنها قد لا تضمن أن الأشخاص العاديين لا يزال لديهم القدرة على التفاوض.

لذا، فإن "السماح للأشخاص الموثوقين بالتحكم في أقوى الذكاء الاصطناعي" ليس هو الجواب الكامل.

إنه فقط يعيد صياغة السؤال من "هل سيسيطر الذكاء الاصطناعي على البشر؟" إلى "أي مجموعة صغيرة يجب أن تحصل أولاً على سلطة التحكم في أقوى الذكاء الاصطناعي؟".

d/acc هو الأساس، لكنه ليس الجواب الشامل

يمكن فهم d/acc الذي يدفع فيتاليك له منذ فترة طويلة على أنه تطوير تقنيات دفاعية، لامركزية.

على سبيل المثال، البرمجيات الأكثر أمانًا، والتحقق الرسمي، والتشفير، والأجهزة المفتوحة، والدفاع السيبراني، وأدوات التحقق من المعلومات.

تتمثل قيمة هذه الاتجاهات في أنها لا تعتمد على جدول زمني دقيق للذكاء الفائق.

إذا كان الذكاء الاصطناعي في النهاية مجرد تكنولوجيا عادية، فإن البرمجيات الأكثر أمانًا، والأجهزة الأكثر موثوقية، والقدرة الدفاعية العامة الأقوى لا تزال تستحق البناء.

إذا أصبح الذكاء الاصطناعي قويًا بسرعة، يمكن أن تعزز هذه التقنيات قدرة المجتمع على مقاومة الهجمات السيبرانية، والمخاطر البيولوجية، والثغرات في الأجهزة، والتلاعب بالمعلومات.

هذه استراتيجية منخفضة الندم: عندما لا يمكن تحديد أي نوع من العالم سيكون المستقبل، يجب بناء بنية تحتية أمان تستحق التملك بغض النظر.

لكن d/acc ليس دواءً سحريًا.

إذا كانت قدرة الذكاء الاصطناعي ستحدث قفزة حقيقية في فترة زمنية قصيرة، فقد لا تكون تقنيات الدفاع قادرة على النشر في الوقت المناسب. يمكن أن تقلل الأنظمة الأكثر أمانًا من المخاطر، لكنها لا تثبت أن جميع المنافسات يجب أن تستمر.

لذا، فإن d/acc هو الأنسب كأساس طويل الأجل، بينما تعتبر آلية التوقف تأمينًا في الحالات القصوى.

يجب بناء الأساس بشكل مستمر، ولا ينبغي تفعيل التأمين بسهولة، ولكن لا ينبغي أيضًا الانتظار حتى يصبح النظام خارج السيطرة قبل البدء في التصميم.

ما هو أكثر أهمية من توقع التواريخ هو الاتفاق مسبقًا على شروط التفعيل

أكثر الاقتراحات ذات المعنى الواقعي في هذه المقالة الطويلة من فيتاليك ليس هو إيقاف الذكاء الاصطناعي على الفور، بل هو الاتفاق مسبقًا:

بعد ظهور أي دليل، يجب على الأطراف تغيير حكمها.

اليوم، من المستحيل تقريبًا أن يطلب من الجميع الاتفاق على "سيظهر الذكاء الفائق في عام 2030" أو "لن يظهر خلال العشرين عامًا القادمة".

لكن يمكن أن تتفق المعسكرات المختلفة مسبقًا على بعض إشارات المخاطر.

على سبيل المثال:

هل يمكن للذكاء الاصطناعي أن يكمل مهام البحث والتطوير المستمرة بشكل مستقل لأسابيع؟

هل يمكن أن يسرع بشكل كبير من تطوير الجيل التالي من الذكاء الاصطناعي؟

هل يمتلك القدرة على اكتشاف واستغلال الثغرات في الشبكة على نطاق واسع؟

هل بدأ في النسخ الذاتي، والحصول على الموارد، أو تجاوز الإشراف؟

هل تم ربطه بالأسلحة، أو الأنظمة المالية، أو البنية التحتية الحيوية؟

هل تسبب بالفعل أضرار اجتماعية كبيرة مستمرة؟

النقطة ليست العثور على مؤشر مثالي، بل تحويل الجدل من "هل تؤمن بالذكاء الفائق؟" إلى "ما هي الأدلة الواقعية التي ستجعلك تحدث حكمك؟".

يمكن لأولئك الذين يعتقدون أن مخاطر الذكاء الاصطناعي مبالغ فيها قبول ذلك، لأنهم يعتقدون أن هذه الحالات لن تحدث.

يمكن لأولئك الذين يخشون الذكاء الفائق أيضًا قبول ذلك، لأنهم يعتقدون أن هذه الإشارات قد تظهر قريبًا.

لا يحتاج الطرفان إلى توحيد وجهات نظرهما أولاً، بل يحتاجان فقط إلى الالتزام مسبقًا:

بعد حدوث تغييرات واقعية، يجب أن تتغير السياسات أيضًا.

التدخل لا ينبغي أن يكون له وضعين فقط: الاستمرار والإيقاف

يجب ألا تكون إدارة الذكاء الاصطناعي القابلة للتنفيذ مباشرة بين "التطور الحر تمامًا" و"الإيقاف العالمي".

الطريقة الأكثر منطقية هي إنشاء تدخل تدريجي.

عندما تكون المخاطر منخفضة، يجب زيادة الكشف عن القدرات، وإبلاغ الحوادث، والاختبارات من قبل طرف ثالث.

عندما تستمر المخاطر في الارتفاع، يجب تقييد الوصول إلى النماذج للبنية التحتية الحيوية، وتقييد الأذونات عالية المخاطر مثل التنفيذ الذاتي، وتحريك الأموال، والتحكم في الأسلحة.

إذا أصبح الذكاء الاصطناعي أوتوماتيكيًا بشكل واضح في تطوير الذكاء الاصطناعي، أو ظهرت عدة إشارات خطيرة في نفس الوقت، يجب تقييد التدريب المتقدم الجديد وتوسيع القدرة الحاسوبية الكبيرة.

فقط عندما تفشل التدابير ذات الشدة المنخفضة في السيطرة على المخاطر، يجب الانتقال إلى إيقاف أوسع وأقصر زمنًا.

هذا التصميم التدريجي ليس من أجل تقليل التنظيم، بل من أجل مطابقة شدة السياسة مع شدة الأدلة.

الأنظمة الخطيرة حقًا ليست تلك التي لا تستطيع اتخاذ تدابير صارمة، بل تلك التي يمكنها تخطي جميع الخطوات الوسطى، والحصول على سلطة غير محدودة مباشرة تحت ذريعة "حالة الطوارئ".

الخاتمة

إن الصعوبة الحقيقية في إدارة الذكاء الاصطناعي ليست نقص المواقف، بل نقص نظام يمكنه استيعاب الأخطاء في الحكم.

استمرار المنافسة ليس خيارًا محايدًا.

التوقف العالمي ليس خيارًا محايدًا أيضًا.

النماذج المفتوحة ليست آمنة بطبيعتها، والنماذج المغلقة ليست مسؤولة بطبيعتها.

تحتاج آلية إدارة موثوقة على الأقل إلى الإجابة عن أربعة أسئلة:

على أي أدلة تعتمد في عملها؟

هل تقيّد أيضًا أصحاب السلطة؟

هل يمكن التحقق منها من قبل جهات خارجية؟

بعد الأخطاء في الحكم، هل يمكن سحب السلطة؟

قد يحتاج عصر الذكاء الاصطناعي حقًا إلى زر إيقاف.

لكن المشكلة الحقيقية في زر الإيقاف لم تكن أبدًا في إمكانية صنعه.

بل هي:

من لديه الحق في الضغط عليه، ومن لديه الحق في إعادة تشغيله، وكيف يمكن ضمان عدم تمكن أي شخص من تحويل هذا الزر إلى عرشه الخاص؟