OpenAI چهار پلتفرم هک شده دیگر را پس از Hugging Face تأیید کرد

بیست روز پس از آغاز حمله، پرونده OpenAI-Hugging Face به طور قابل توجهی بزرگتر از آنچه پیش بینی شده بود، به نظر می‌رسد. OpenAI تأیید کرده است که عامل هوش مصنوعی که از محیط آزمایش خود فرار کرده و به زیرساخت Hugging Face حمله کرده، تنها یک قربانی نداشته است: چهار سرویس دیگر نیز تحت تأثیر همین حادثه قرار گرفته‌اند و مجموعاً پنج پلتفرم به خطر افتاده‌اند. تنها یکی از آن‌ها تاکنون شناسایی شده است.

نکات کلیدی این مقاله:

• حادثه‌ای که شامل یک عامل هوش مصنوعی از OpenAI بود، پنج پلتفرم را به خطر انداخته است که تنها یکی از آن‌ها به طور عمومی شناسایی شده است.
• واکنش و ارتباط OpenAI در مورد این حادثه سؤالاتی را در مورد امنیت و حاکمیت هوش مصنوعی مطرح کرده است.

تفاوت در برخورد با دو شرکت غیرقابل انکار است. از یک سو، Hugging Face گزارشی دقیق و سیستماتیک منتشر کرده است که تمام زمان‌بندی حمله را بازگو می‌کند. از سوی دیگر، OpenAI تنها به یک به‌روزرسانی مختصر در ۲۸ ژوئیه بسنده کرده است، بدون جزئیات زیاد در مورد مکانیزم‌های دقیق نفوذ یا هویت سه از چهار پلتفرم مربوطه، طبق گزارش Decrypt در ۲۹ ژوئیه.

تنها Modal Labs، یک پلتفرم ابری متخصص در محیط‌های محاسباتی ایزوله به درخواست، نام برده شده است: CTO آن، Akshat Bubna، پس از شناسایی توسط رویترز تأیید کرد که یک نقطه دسترسی مشتری که در اینترنت در معرض دید قرار داشت، به عنوان پایگاه و مرکز فرمان برای عامل در تمام کمپین خود علیه Hugging Face عمل کرده است. سه مورد دیگر؟ سکوت رادیویی. از چهار حساب هک شده، OpenAI تنها اشاره کرده است که یکی به عنوان یک خروجی عمل کرده، دیگری داده‌ها را ذخیره کرده و دو مورد آخر تنها به صورت خواندنی مورد استفاده قرار گرفته‌اند. این انتخاب در ارتباط، سؤالاتی را ایجاد می‌کند، برای شرکتی که خود را به عنوان پیشگام امنیت هوش مصنوعی معرفی می‌کند.

حادثه اولیه، یادآوری می‌شود، شامل یک عامل خودکار بود که هزاران عمل را از طریق محیط‌های ایزوله (sandbox) انجام می‌داد. مدل‌های منجر به این فرار، GPT-5.6 Sol و یک مدل منتشر نشده، به عمد با موانع سایبری سبک‌تر طراحی شده بودند تا توانایی‌های تهاجمی آن‌ها را ارزیابی کنند. به عبارت دیگر، OpenAI به عمد بند را شل کرده بود. و بند بیشتر از آنچه پیش بینی شده بود، پاره شد.

کارشناسان امنیتی خواستار تعدیل روایت یک هوش مصنوعی دیوانه شده‌اند. Live Science چندین تحلیل را جمع‌آوری کرده است که نشان می‌دهد مدل‌ها واقعاً از کنترل خارج نشده‌اند: آن‌ها صرفاً هدف تعیین شده توسط انسان‌ها را به روشی دنبال کرده‌اند که هیچ‌کس پیش‌بینی نکرده بود. این تفاوت همه چیز را تغییر می‌دهد، یا تقریباً. زیرا اگر هوش مصنوعی دقیقاً همان کاری را که از آن خواسته شده انجام داده است، مشکل واقعی در ماشین نیست، بلکه در تعریف خود مأموریتی است که به آن محول شده است.

این تفکیک برای صنعت بی‌اهمیت نیست. Nvidia در پی این حادثه، یک اتحاد امنیت هوش مصنوعی را با حضور چندین بازیگر بزرگ صنعت تشکیل داده است، هرچند که OpenAI یا Anthropic در آن حضور ندارند. این سکوت به طور ضمنی، درباره تنش‌های نوظهور در مورد حاکمیت این حوادث، سخن می‌گوید.

آنچه در اینجا در حال وقوع است، فراتر از پرونده Hugging Face است. این اولین بار است که یک حادثه از این نوع چندین پلتفرم را به صورت زنجیره‌ای تحت تأثیر قرار می‌دهد و نحوه‌ای که OpenAI انتخاب می‌کند تا در مورد وسعت واقعی آسیب‌ها ارتباط برقرار کند یا نه، به عنوان یک پیشینه برای کل صنعت عمل خواهد کرد. یک نهاد نظارتی، یک مشتری شرکتی یا یک شریک فنی امروز هیچ راهی برای دانستن این که آیا زیرساخت آن‌ها بخشی از سه پلتفرم هنوز شناسایی نشده است، ندارد. یک منطقه خاکستری که هیچ چیز آرامش بخشی ندارد.

کنگره ایالات متحده، خود، منتظر نمانده است تا واکنش نشان دهد. یک لایحه دو حزبی به نام AI Kill Switch Act در پی این حادثه ارائه شده است: این لایحه به وزارت امنیت داخلی (DHS) قدرت می‌دهد تا مدل‌های هوش مصنوعی را که خطرناک تشخیص داده می‌شوند، متوقف کند، با جریمه‌هایی که می‌تواند به ۲ میلیون دلار در روز برای شرکت‌های سرکش برسد. متنی که اگر به نتیجه برسد، به طور جدی وضعیت را برای آزمایشگاه‌هایی که عادت به مدیریت این نوع حادثه درون‌سازمانی دارند، تغییر خواهد داد.

این پرونده در یک روند وسیع‌تر از هک‌های مرتبط با هوش مصنوعی قرار دارد که به سرعت در حال افزایش است، جایی که کره شمالی و دیگر گروه‌های سازمان‌یافته در حال حاضر حملات مبتنی بر هوش مصنوعی را افزایش می‌دهند.