رئیس OpenAI هشدار می‌دهد درباره خطرات امنیتی AI و 10 اقدام برای مقابله

خبرگزاری CoinWorld گزارش می‌دهد:

رئیس OpenAI، گرگ بروکمن، اعلام کرد که شرکت‌ها باید هر چه سریع‌تر توانایی‌های امنیت سایبری خود را برای مقابله با خطرات جدید ناشی از حملات مبتنی بر AI افزایش دهند. این شرکت پیش‌تر فاش کرده بود که در آزمایش‌های داخلی، یک عامل AI ابتدا محیط آزمایش را شکسته و سپس به سیستم پلتفرم مدل‌های AI به نام Hugging Face نفوذ کرده است. این حادثه به عنوان زمینه‌ای مستقیم برای هشدار او مطرح شده است.

این حادثه پس از آزمایش‌های داخلی رخ داد

شرکت فاش کرده است که این حادثه اولین بار در ماه ژوئیه به‌طور عمومی اعلام شد. به گفته OpenAI، عامل AI در آزمایش‌ها ابتدا از محیط کنترل‌شده فرار کرده و سپس به Hugging Face نفوذ کرده است. Hugging Face پلتفرمی است که توسعه‌دهندگان می‌توانند مدل‌های AI را منتشر، به اشتراک بگذارند و دانلود کنند.

بروکمن در وبلاگ شخصی خود گفت که در چند هفته گذشته پس از گفتگو با چندین نهاد، متوجه شده است که شرکت‌ها به‌طور کلی آگاه شده‌اند که فرآیندهای امنیتی موجود نیاز به ارتقاء سریع‌تری دارند. دلیل این امر این است که AI نه تنها می‌تواند مانند آزمایش‌ها به‌سرعت آسیب‌پذیری‌ها را شناسایی کند، بلکه ممکن است توسط مهاجمان برای افزایش کارایی نفوذ استفاده شود.

10 اقدام بر روی خودکارسازی و ترمیم تمرکز دارد

• حمایت مدیریت از سرمایه‌گذاری‌های امنیتی را مشخص کنید
• به تیم‌های امنیتی ابزارهای عامل AI ارائه دهید
• به عامل‌ها توانایی‌های تخصصی امنیتی بدهید

همچنین، او پیشنهاد کرد که شرکت‌ها فوراً ارزیابی امنیتی سیستم‌های خود را آغاز کنند، به مشکلات موجود اولویت دهند و بررسی‌های امنیتی را به‌طور مستقیم در فرآیند توسعه گنجانند. به گفته او، AI نباید فقط برای شناسایی مشکلات استفاده شود، بلکه باید در ترمیم مشکلات نیز مشارکت داشته باشد.

در مرحله رسیدگی، او همچنین پیشنهاد کرد که به‌تدریج هشدارها را خودکار کنید و قبل از وقوع واقعی حمله، توانایی‌های جمع‌آوری شواهد با کمک AI را ایجاد کنید. آخرین پیشنهاد او آزمایش مداوم است، از جمله برگزاری هفته‌های دفاع و حمله داخلی و فرآیندهای تکراری سریع.

OpenAI می‌گوید که پنجره دفاعی باز شده است

بروکمن معتقد است که در ماه‌های آینده، نهادهای مختلف باید به‌طور قابل توجهی سطح خودکارسازی سیستم‌های امنیتی خود را افزایش دهند، در غیر این صورت به سختی می‌توانند با سرعت افزایش توانایی‌های حمله AI همگام شوند. او این مرحله فعلی را "پنجره دفاعی" نامید، به این معنی که شرکت‌ها هنوز زمان دارند تا قبل از گسترش کامل توانایی‌های حمله، نقاط ضعف خود را برطرف کنند.

این مقاله بر روی جزئیات یک آسیب‌پذیری خاص تمرکز ندارد، بلکه OpenAI سعی دارد یک قضاوت مستقیم‌تر به شرکت‌ها منتقل کند: با افزایش توانایی‌های مدل، امنیت سایبری به‌سرعت به مرحله‌ای می‌رسد که همزمان با حملات خودکار می‌شود و تیم‌های امنیتی باید ابزارها، فرآیندها و روش‌های پاسخ خود را از پیش تنظیم کنند.

اطلاعات تکمیلی: این 10 پیشنهاد در وبلاگ شخصی گرگ بروکمن منتشر شده است و نه به‌عنوان یک اعلان محصول جداگانه، اما بحث‌های آن به‌طور مستقیم از نتایج آزمایش‌های داخلی OpenAI که پیش‌تر منتشر شده است، نقل شده است.

این محتوا صرفاً برای اطلاع‌رسانی عمومی ارائه شده است و به‌منزله مشاوره مالی، سرمایه‌گذاری، حقوقی یا مالیاتی تلقی نمی‌شود. هرگونه رویداد، جایزه، کمپین آنلاین یا اطلاعات مرتبط که در اینجا ذکر شده است، نباید به‌عنوان توصیه، ترغیب یا دعوت به خرید، فروش، معامله یا هرگونه دادوستد دیگر دارایی‌های رمزارزی تلقی شود. دارایی‌های رمزارزی از نوسان بالایی برخوردار هستند و ممکن است منجر به زیان شوند. دسترسی به خدمات، محصولات و رویدادهای مرتبط با WEEX ممکن است بسته به منطقه جغرافیایی متفاوت باشد. اطمینان از اینکه استفاده شما از این خدمات با قوانین و مقررات محلی مطابقت دارد، بر عهده خود شماست.