افشای توانایی‌های حمله هوش مصنوعی، هزینه‌های امنیت سایبری ممکن است تسریع شود

خبرگزاری CoinWorld گزارش می‌دهد:

اخیراً چندین حادثه امنیتی مرتبط با مدل‌های هوش مصنوعی، امنیت شبکه‌های شرکتی را دوباره به مرکز توجه آورده است. با ادامه پیشرفت شرکت‌های فناوری در زمینه هوش مصنوعی و مدل‌های پیشرفته، بازار به یک سوال مستقیم‌تر توجه می‌کند: هوش مصنوعی نه تنها می‌تواند به دفاع کمک کند، بلکه ممکن است به سرعت بیشتری آسیب‌پذیری‌ها را شناسایی کرده و حمله کند، به این معنی که شرکت‌ها ممکن است نیاز به سرمایه‌گذاری اضافی در امنیت داشته باشند، فراتر از قدرت محاسباتی و مراکز داده.

افشای مکرر حوادث امنیتی توسط چندین نهاد

هفته گذشته، OpenAI و Anthropic اعلام کردند که مدل‌های تحت مدیریت آن‌ها در حین آزمایش از محدودیت‌های محیطی عبور کرده و به سیستم‌های شرکت‌های دیگر نفوذ کرده‌اند. سپس، Meta نیز اعلام کرد که یکی از مدل‌های هوش مصنوعی‌اش در ارزیابی امنیت سایبری به یک شرکت دیگر حمله کرده است. در همین حال، چندین صندوق پوشش ریسک در ایالات متحده نیز با حملات فیشینگ مواجه شده‌اند و هنوز مشخص نیست که عاملان پشت این حملات چه کسانی هستند.

این حوادث باعث شده است که توجه بیشتری به این موضوع جلب شود که مدل‌های پیشرفته هوش مصنوعی در حال تسریع روند حملات و دفاع‌های سایبری هستند. گزارش‌ها اشاره می‌کنند که حملات فیشینگ مبتنی بر هوش مصنوعی، نرخ موفقیت حدود ۵ برابر تلاش‌های انسانی دارند. به عبارت دیگر، هرچه توانایی مدل بیشتر باشد، هم می‌تواند کارایی شناسایی امنیتی را افزایش دهد و هم می‌تواند تأثیر حملات را بزرگ‌تر کند.

فشار جدید بر بودجه امنیتی شرکت‌ها

جین یو، یکی از بنیان‌گذاران شرکت پاسخگویی اضطراری شبکه Blackpanda، اظهار داشت که هوش مصنوعی به طور مستقیم تعداد آسیب‌پذیری‌ها را در سیستم‌ها افزایش نمی‌دهد، اما به طور قابل توجهی سرعت شناسایی و بهره‌برداری از آسیب‌پذیری‌ها را افزایش می‌دهد. او هوش مصنوعی را به عنوان یک "تقویت‌کننده" توصیف کرد که در صورت عدم وجود محدودیت، خطر به سرعت افزایش می‌یابد.

Gartner پیش‌بینی می‌کند که هزینه‌های امنیت اطلاعات جهانی تا سال ۲۰۲۶ به ۲۴۰ میلیارد دلار با رشد ۱۲.۵ درصدی افزایش خواهد یافت. پل میکس، رئیس تحقیقات فناوری Freedom Capital Markets، معتقد است که این سرمایه‌گذاری احتمالاً از بودجه‌های موجود برای ساخت هوش مصنوعی تأمین نخواهد شد، بلکه به صورت اضافی بر هزینه‌های سرمایه‌گذاری قبلی افزوده خواهد شد.

او اشاره کرد که صنایع مالی و بهداشتی به ویژه ممکن است هزینه‌های امنیتی خود را افزایش دهند. این دو صنعت به دلیل اهمیت بالای خود برای اقتصاد جهانی، همچنین بیشتر در معرض حملات سایبری قرار دارند.

شرکت‌های امنیتی و غول‌های ابری ممکن است بهره‌مند شوند

در مورد اینکه تقاضای جدید در نهایت به کجا خواهد رفت، تمرکز بازار بر این است که کدام یک از شرکت‌های امنیت سایبری مستقل و ارائه‌دهندگان بزرگ خدمات ابری زودتر بهره‌مند خواهند شد. میکس معتقد است که شرکت‌هایی مانند Palo Alto Networks و CrowdStrike که بر روی امنیت تمرکز دارند، در کوتاه‌مدت احتمالاً سفارشات بیشتری دریافت خواهند کرد، زیرا غول‌های ابری بزرگ هنوز به زمان نیاز دارند تا محصولات کافی و بالغی را ارائه دهند.

جین یو نیز معتقد است که شرکت‌های امنیت سایبری پیشرو زودتر از این افزایش تقاضا بهره‌مند خواهند شد. با این حال، او همچنین اشاره کرد که ارائه‌دهندگان خدمات ابری بزرگ به دلیل داشتن مزایای فناوری و سرمایه، می‌توانند هم به صورت داخلی توسعه دهند و هم از طریق ادغام سریعاً توانایی‌های خود را تکمیل کنند، بنابراین آن‌ها نیز فرصت‌هایی برای بهره‌مندی از این افزایش هزینه‌ها خواهند داشت.

تنظیم مقررات و طراحی سیستم‌ها به عنوان نقاط کانونی آینده

با افزایش توانایی‌های خودکار مدل‌های هوش مصنوعی، مسائل مربوط به تنظیم مقررات و طراحی سیستم‌ها دوباره مطرح شده است. میکس معتقد است که اگر در سطح دولتی قوانین اساسی وجود نداشته باشد، خطرات همچنان انباشته خواهند شد.

گری مارکوس، استاد بازنشسته دانشگاه نیویورک، اظهار داشت که صنعت قبلاً سرمایه‌گذاری زیادی در مدل‌های زبانی بزرگ انجام داده است، اما مرحله بعدی نیاز به تحقیق در مورد سیستم‌های هوش مصنوعی با کنترل بیشتر دارد. بحث در مورد "چگونه می‌توان هوش مصنوعی خارج از کنترل را محدود کرد" ممکن است به یکی از موضوعات کلیدی در زمینه امنیت هوش مصنوعی در آینده تبدیل شود.