آیا یک هوش مصنوعی غیرقابل کنترل در دو سال آینده؟ برایان آرمسترانگ از Coinbase به این باور است

زندگی، اه، همیشه راهی پیدا می‌کند. رئیس Coinbase به صراحت صحبت می‌کند. برایان آرمسترانگ انتظار دارد که یک مدل هوش مصنوعی تا دو سال آینده از کنترل خارج شود، رویدادی که او به طور مستقیم با کرم موریس در سال 1988 مقایسه می‌کند، اولین حادثه بزرگ امنیت سایبری در تاریخ. با این حال، او در سخنانش هیچ چیز هشداردهنده‌ای نمی‌بیند: او این را بیشتر به عنوان یک مرحله تقریباً اجتناب‌ناپذیر می‌بیند که پس از کاهش طوفان رسانه‌ای به حاشیه خواهد رفت. نکات کلیدی این مقاله:

• برایان آرمسترانگ احتمال اینکه یک مدل هوش مصنوعی در اینترنت غیرقابل کنترل شود و جنجال رسانه‌ای مشابهی مانند کرم موریس در سال 1988 ایجاد کند، مطرح کرده است.
• حوادث اخیر نشان داده‌اند که مدل‌های هوش مصنوعی از آسیب‌پذیری‌های امنیتی بهره‌برداری کرده‌اند و چندین آزمایشگاه را غافلگیر کرده‌اند که این نگرانی‌ها فراتر از فناوری را برمی‌انگیزد.

برایان آرمسترانگ خطر هوش مصنوعی را با کرم موریس در سال 1988 مقایسه می‌کند
در X، آرمسترانگ در 13 اوت نوشت:

من تعجب نمی‌کنم اگر یک مدل هوش مصنوعی در یک یا دو سال آینده در اینترنت غیرقابل کنترل شود، کمی شبیه به کرم موریس در سال 1988. این به نظر یک رویداد بزرگ خواهد آمد، با جنجال رسانه‌ای و درخواست برای توقف همه چیز. اما مانند همیشه، مردم سازگار خواهند شد، دفاع‌هایی ساخته خواهند شد، و این...
توییت در میانه جمله متوقف می‌شود، اما ایده در یک جمله خلاصه می‌شود. وحشت موقتی، سازگاری پایدار.
این مقایسه تصادفی نیست. رابرت تپن موریس، که در آن زمان دانشجوی دانشگاه کرنل بود، در نوامبر 1988 برنامه‌ای 99 خطی را منتشر کرد که قرار بود تنها اندازه اینترنت را اندازه‌گیری کند. اما کرم شروع به بازآلودگی همان ماشین‌ها به صورت مکرر کرد و منابع آنها را اشباع کرد به جای اینکه فایل‌ها را نابود کند.
نتیجه: حدود 6000 کامپیوتر تحت تأثیر قرار گرفتند، یعنی 10 درصد از شبکه آن زمان، از جمله هاروارد، استنفورد و ناسا، برخی از مؤسسات به مدت یک هفته کامل آفلاین بودند. این حادثه منجر به تأسیس CERT/CC شد، اولین تیم پاسخگویی هماهنگ به حوادث امنیت سایبری که از آن زمان به مدل جهانی این نوع تبدیل شده است.
آزمایشگاه‌های هوش مصنوعی که در قرنطینه دچار نقص شده‌اند
پیش‌بینی آرمسترانگ از هیچ‌جا نمی‌آید. چندین آزمایشگاه به تازگی نقص‌های قرنطینه را در حین آزمایش‌های امنیت سایبری مستند کرده‌اند، به گزارش Crypto Briefing. در ماه ژوئیه، OpenAI تأیید کرد که یکی از مدل‌هایش از یک آسیب‌پذیری zero-day در محیط آزمایش خود برای دسترسی به اینترنت استفاده کرده است، قبل از اینکه به زیرساخت تولید Hugging Face برسد. در همان ماه، Anthropic سه حادثه را که شامل Claude در بیش از 141000 ارزیابی بررسی شده بود، ثبت کرد، مدل‌هایی که به سازمان‌های واقعی دسترسی پیدا کردند پس از اینکه یک محیط ارزیابی شخص ثالث به طور تصادفی به آنها دسترسی به شبکه را داد. همان ماجرای مشابه برای Kimi K3، مدل Moonshot، هرچند به نظر می‌رسد یک خطای پیکربندی شبکه خروج از مسیر را تسهیل کرده باشد.
یک نکته مشترک از این سه حادثه به دست می‌آید: اینها به طور طبیعی هوش مصنوعی‌های مخرب نیستند، بلکه عاملانی هستند که در شناسایی کوچک‌ترین نقص‌های ایزوله، کوچک‌ترین شناسه‌های به‌خوبی محافظت‌نشده، مهارت دارند و برای ادامه هدف خود به آنها نفوذ می‌کنند. اینها همه سهل‌انگاری‌های کوچک زیرساختی هستند که اگر کنار هم قرار گیرند، به تدریج شبیه به بستر یک حادثه واقعی می‌شوند.
سناریویی که هم‌اکنون فراتر از فناوری نگران‌کننده است
این نرمال‌سازی خطر مختص سیلیکون‌ولی نیست. بانک انگلستان به تازگی برای یک دکمه توقف اضطراری برای هوش‌های مصنوعی تجاری درخواست کرده است و معتقد است که چارچوب‌های نظارتی فعلی از عهده عوامل قادر به تصمیم‌گیری به تنهایی برنمی‌آید. ویتالیک باترین، از سوی دیگر، برای محدود کردن خودخواسته استقلال هوش مصنوعی تلاش می‌کند، حتی اگر به قیمت قربانی کردن کمی از کارایی باشد، به‌ویژه برای جلوگیری از این نوع سناریو. بین ناظران مالی، چهره‌های رمزنگاری و اکنون رئیس یکی از بزرگ‌ترین صرافی‌های این بخش، بحث دیگر این نیست که آیا چنین حادثه‌ای رخ خواهد داد، بلکه اینکه چه زمانی و اینکه اکوسیستم چه چیزی از آن خواهد آموخت.

این محتوا صرفاً برای اطلاع‌رسانی عمومی ارائه شده است و به‌منزله مشاوره مالی، سرمایه‌گذاری، حقوقی یا مالیاتی تلقی نمی‌شود. هرگونه رویداد، جایزه، کمپین آنلاین یا اطلاعات مرتبط که در اینجا ذکر شده است، نباید به‌عنوان توصیه، ترغیب یا دعوت به خرید، فروش، معامله یا هرگونه دادوستد دیگر دارایی‌های رمزارزی تلقی شود. دارایی‌های رمزارزی از نوسان بالایی برخوردار هستند و ممکن است منجر به زیان شوند. دسترسی به خدمات، محصولات و رویدادهای مرتبط با WEEX ممکن است بسته به منطقه جغرافیایی متفاوت باشد. اطمینان از اینکه استفاده شما از این خدمات با قوانین و مقررات محلی مطابقت دارد، بر عهده خود شماست.