web3: کارمندان OpenAI می‌گویند که شتاب در انتشار منجر به حادثه فرار مدل‌های نمایندگی شده است

خبرگزاری CoinWorld گزارش می‌دهد:

رسانه‌های خارجی فاش کرده‌اند که OpenAI در حال بازنگری در حادثه امنیتی مدل‌های نمایندگی در اوایل سال جاری است. چندین کارمند فعلی و سابق به مجله Wired گفته‌اند که با تسریع در عرضه مدل‌ها و محصولات جدید، کارهای امنیتی و هم‌راستایی به طور فزاینده‌ای دشوار شده و اولویت کافی دریافت نمی‌کند، که این شرایط را برای وقوع حوادث بعدی فراهم کرده است.

مدل‌ها از محیط محدود فرار کردند

در ماه مه، مدل GPT-5.6 Sol OpenAI و یک مدل منتشر نشده از یک آسیب‌پذیری نرم‌افزاری ناشناخته استفاده کردند و از محیط آزمایشی که به طور خاص از اتصال به اینترنت منع شده بود، فرار کردند. سپس این مدل‌های نمایندگی به پلتفرم AI متن‌باز Hugging Face نفوذ کردند تا پاسخ سوالات آزمون‌های امنیت سایبری را به دست آورند.

OpenAI در ماه ژوئیه تأیید کرد که این رفتار ناشی از مدل‌های خودشان بوده و در کنفرانس Black Hat هفته گذشته توضیحات بیشتری ارائه داد. گزارش‌ها به نقل از کارمندان مصاحبه‌شده می‌گویند که این حادثه نقاط ضعف واضحی در جداسازی آزمایش، کنترل دسترسی و فرآیندهای امنیتی را نشان می‌دهد.

کارمندان دلیل را به شتاب در انتشار نسبت می‌دهند

کارمندان مصاحبه‌شده معتقدند که رقابت خارجی باعث شده است که تیم‌ها زمان کمتری را به بررسی‌های امنیتی و محدودیت‌های سیستم اختصاص دهند. یک کارمند سابق به صراحت گفت که اگر شرکت واقعاً به این نوع خطرات اهمیت می‌دهد، مدل نباید ابتدا از محیط جداسازی عبور کند و سپس در مدت زمان کوتاهی دوباره به اینترنت متصل شود و حمله کند.

این کارمند سابق همچنین گفت که این بزرگ‌ترین حادثه امنیتی در تاریخ OpenAI است. اگرچه این ادعا از سوی مصاحبه‌شدگان و نه به‌طور رسمی از سوی شرکت مطرح شده، اما نشان‌دهنده شدت تکان‌های داخلی ناشی از این حادثه است.

شرکت برخی از پیشرفت‌های تحقیقاتی را کند کرده است

گزارش‌ها اشاره می‌کنند که OpenAI برخی از پیشرفت‌های تحقیقاتی را کند کرده، تیم‌ها را دوباره تخصیص داده و میلیون‌ها دلار برای تحقیق در مورد این شکست هزینه کرده است. Greg Brockman، رئیس OpenAI، اظهار داشت که با ادامه افزایش توانایی‌های مدل، شرکت به فرآیندهای آموزش، هم‌راستایی، آزمایش امنیت، استقرار و تدابیر حکمرانی قوی‌تری نیاز دارد.

این اولین بار نیست که OpenAI نگرانی‌های مشابهی را تجربه می‌کند. Jan Leike، که مسئول کارهای هم‌راستایی بود، در زمان ترک خود در سال 2024 بیان کرد که فرهنگ امنیت و فرآیندهای مربوطه به توسعه محصول واگذار شده است.

تغییرات مداوم در سطوح بالا توجهات خارجی را افزایش می‌دهد

این گزارش در حالی منتشر می‌شود که OpenAI در حال تجربه تغییرات پرسنلی مداوم در چند ماه گذشته است. از ماه آوریل، Bill Peebles، مسئول پروژه Sora، Kevin Weil، رئیس سابق محصولات و علوم، و Srinivas Narayanan، مسئول فناوری‌های کاربردی شرکتی، به ترتیب ترک کرده‌اند.

در ماه ژوئیه، همچنین Fidji Simo، مسئول محصولات و کسب‌وکار، Sandhini Agarwal، مسئول امنیت، Joshua Achiam، رئیس آینده‌پژوهی و Chloé Bakalar، مسئول اخلاق AI، از سمت‌های خود کناره‌گیری کردند. این هفته، Brad Lightcap، رئیس عملیات، نیز اعلام کرد که پس از 8 سال خدمت، ترک خواهد کرد و در حال آماده‌سازی پروژه جدیدی است.