OpenAI از GPT-Red رونمایی کرد، یک هوش مصنوعی که به مدل‌های خود حمله می‌کند تا آن‌ها را تقویت کند

OpenAI در روز چهارشنبه 15 ژوئیه 2026 ابزاری خودکار به نام GPT-Red را معرفی کرد که مسئول تقویت مقاومت GPT-5.6 در برابر حملات تزریق پرامپت است. این مفهوم از یک واقعیت ساده نشأت می‌گیرد: روش‌های انسانی تست نفوذ دیگر با سرعت قابلیت‌های مدل‌ها همگام نیستند. چالش اکنون بزرگ‌تر شده است، زیرا این آسیب‌پذیری‌ها به طور مستقیم امنیت عوامل خودکار را تحت تأثیر قرار می‌دهند.

خلاصه

• GPT-Red در 84% از سناریوهای ارزیابی داخلی تزریق پرامپت موفق بوده است، در حالی که این رقم برای تیم‌های قرمز انسانی 13% است.
• OpenAI GPT-Red را با یادگیری تقویتی در خودمقابله آموزش داده است تا قبل از استقرار، GPT-5.6 را تقویت کند.
• بنیاد اتریوم نیز در ژوئیه 2026 عوامل هوش مصنوعی را برای بررسی زیرساخت شبکه حیاتی خود مستقر کرده است.

GPT-Red در این منطق امنیتی خودکار تهاجمی ریشه دارد. نام GPT-Red از «تیم قرمز» گرفته شده است، این عمل در امنیت سایبری که شامل تلاش عمدی برای شکستن یک سیستم به منظور شناسایی نقاط ضعف آن قبل از اینکه یک مهاجم از آن‌ها سوءاستفاده کند، می‌باشد.

OpenAI توضیح می‌دهد که مدل با یادگیری تقویتی در خودمقابله آموزش داده شده است. این مدل حملات تزریق پرامپت را به طور فزاینده‌ای پیچیده تولید می‌کند، در حالی که مدل‌های دفاعی یاد می‌گیرند که چگونه در برابر آن‌ها مقاومت کنند. هر حمله موفق به نوبه خود به آموزش GPT-5.6 کمک می‌کند و آن را قبل از استقرار، قوی‌تر می‌سازد.

در یک مورد مطالعه که توسط OpenAI ذکر شده است، سیستم یک عامل خودکار را که یک دستگاه خودپرداز را مدیریت می‌کرد، دستکاری کرد و آن را وادار به کاهش قیمت‌ها، سفارش موجودی با قیمت پایین و لغو سفارش یک مشتری دیگر کرد.

این آسیب‌پذیری قبل از هرگونه سوءاستفاده واقعی گزارش و اصلاح شد. این مثال نشان می‌دهد که چگونه یک تزریق پرامپت می‌تواند یک دستیار را به ابزاری منحرف تبدیل کند، بدون اینکه کاربر متوجه شود.

عدد قابل توجهی که در اعلامیه OpenAI وجود دارد، تفاوت عملکرد اندازه‌گیری شده در داخل است. در همان سناریوهای ارزیابی، GPT-Red در 84% از حملات تزریق پرامپت موفق بوده است، در حالی که این رقم برای تیم‌های قرمز انسانی تنها 13% است.

OpenAI این خودکارسازی را در پیامی که در X منتشر کرده است، توجیه می‌کند. «با افزایش قابلیت‌های مدل‌ها، ایمنی و هم‌راستایی باید با همان سرعت پیش بروند»، این شرکت می‌نویسد.

مدل از طریق خودمقابله تهاجمی کار می‌کند، OpenAI توضیح می‌دهد. «GPT-Red از طریق خودمقابله تهاجمی یاد می‌گیرد و هدف آن تزریق پرامپت به انواع مختلف مدل‌های دفاعی دشوار است»، این شرکت جزئیات می‌دهد.

این حلقه به خود تغذیه می‌کند و دقیقاً همین چیزی است که محققان به دنبال آن بودند: یک موتور بهبود مستمر به جای یک کمپین تست نقطه‌ای.

GPT-Red ادامه‌دهنده چندین سال تلاش‌های امنیت سایبری است که توسط OpenAI پس از موفقیت عمومی ChatGPT آغاز شده است. این شرکت در سال 2023 شبکه تیم قرمز OpenAI را ایجاد کرد و محققان خارجی را برای بررسی مدل‌های خود به منظور شناسایی آسیب‌پذیری‌ها قبل از انتشار استخدام کرد.

انتقال به مدل خودکار نشان‌دهنده یک تغییر در سطح است، زیرا یک هوش مصنوعی حملات را در مقیاسی تولید می‌کند که برای انسان‌ها غیرقابل دستیابی است.

این اعلامیه در یک حرکت وسیع‌تر قرار دارد: حرکتی که هوش مصنوعی، هوش مصنوعی را ایمن می‌کند. اوایل ژوئیه 2026، بنیاد اتریوم اعلام کرد که عوامل هوش مصنوعی را برای بررسی زیرساخت شبکه حیاتی خود مستقر کرده و یک آسیب‌پذیری در نرم‌افزاری که توسط مشتریان توافقی خود استفاده می‌شود، کشف کرده است.

OpenAI GPT-Red را به صورت محرمانه نگه می‌دارد، اما آن را یک حلقه مثبت می‌بیند.

OpenAI GPT-Red را به عنوان ابزاری کاملاً داخلی نگه می‌دارد. این مدل شامل قابلیت‌های تهاجمی است که به طور عمدی توسعه یافته‌اند، که هرگونه انتشار عمومی را رد می‌کند. با این حال، این شرکت آن را آغاز یک حلقه مثبت می‌داند.

«ما با GPT-Red فکر می‌کنیم که شروع به باز کردن یک اثر آموزشی مشابه برای ایمنی کرده‌ایم، جایی که مدل‌های امروز به تقویت مدل‌های فردا کمک می‌کنند تا قوی‌تر، هم‌راستا و قابل اعتمادتر شوند»، این شرکت نتیجه‌گیری می‌کند.

به طور خلاصه، OpenAI حمله خودکار را به یک سپر برای GPT-5.6 تبدیل کرده است، با اختلاف عملکردی که احترام برانگیز است: 84% موفقیت برای GPT-Red در مقابل 13% برای انسان‌ها. این تغییر به سمت یک هوش مصنوعی که یک هوش مصنوعی دیگر را ایمن می‌کند، وضعیت امنیتی صنعت را از آزمایشگاه‌ها تا بلاک‌چین‌ها دوباره طراحی می‌کند.

سلب مسئولیت: این محتوا صرفاً برای اطلاع‌رسانی عمومی و برندینگ ارائه شده و به‌ منزله مشاوره مالی، سرمایه‌گذاری، حقوقی یا مالیاتی تلقی نمی‌گردد. هیچ‌یک از رویدادها، جوایز، رویدادهای آنلاین یا اطلاعات مرتبط ذکرشده در اینجا نباید به‌عنوان توصیه، درخواست یا دعوت برای خرید، فروش، معامله یا هرگونه اقدام دیگر در رابطه با دارایی‌های رمزارزی یا استفاده از خدمات تلقی شوند. دارایی‌های رمزارزی با نوسانات بالایی همراه بوده و ممکن است منجر به زیان شوند. خدمات WEEX و رویدادهای آنلاین ممکن است در تمام مناطق در دسترس نبوده و مشمول قوانین، مقررات و شرایط احراز صلاحیت مربوطه هستند. شما مسئول رعایت قوانین محلی در استفاده از خدمات WEEX هستید و باید پیش از انجام هرگونه فعالیت مرتبط با ارزهای دیجیتال، ریسک‌های آن را به‌دقت بررسی کنید.