اوپنAI، توقف کارهای داخلی آسترا و تقویت کنترل‌های امنیتی

اوپنAI اعلام کرده است که به دلیل احتمال رسیدن قابلیت‌های حمله سایبری خودکار مدل جدید آسترا به بالاترین سطح خطر، برخی از کارهای داخلی را متوقف کرده و کنترل‌های امنیتی را تقویت کرده است. در بیانیه‌ای که در تاریخ ۷ منتشر شد، اوپنAI اعلام کرد که آسترا پیشرفت‌های قابل توجهی در زمینه کدنویسی به صورت عامل و امنیت سایبری نشان داده است. اوپنAI توضیح داد که در حال حاضر نمی‌توان سطح قابلیت‌های بحرانی را رد کرد. "بحرانی" به بالاترین سطح خطر در زمینه امنیت سایبری اشاره دارد، به این معنا که مدل می‌تواند بدون دخالت انسان، آسیب‌پذیری‌های روز صفر را شناسایی کرده و به کدهای حمله تبدیل کند. اوپنAI کارهایی را که نتوانسته‌اند استانداردهای امنیتی جدید را در فعالیت‌های داخلی مرتبط با آسترا رعایت کنند، به طور موقت متوقف کرده است و اقدامات تقویتی شامل محیط‌های آزمایش ایزوله، دسترسی محدود به شبکه و حفاظت از وزن‌های مدل می‌شود. نظارت عمومی بر یادگیری و ارزیابی آسترا برای نظارت مستمر بر رفتارهای خطرناک معرفی شده است. این اقدام پس از حادثه امنیتی هَگینگ‌فیس در ماه گذشته انجام شده است. اوپنAI قصد دارد قابلیت‌های آسترا را به برخی از سازمان‌های دولتی و برخی از سازمان‌های ایمنی هوش مصنوعی آزمایش کند.