OpenAI تكشف عن GPT-Red، ذكاء اصطناعي يهاجم نماذجه الخاصة لتعزيزها

By: rootdata|2026/07/16 13:00:00

قدمت OpenAI يوم الأربعاء 15 يوليو 2026 أداة آلية للتقييم الأحمر تُدعى GPT-Red، والتي تهدف إلى تعزيز مقاومة GPT-5.6 للهجمات من خلال حقن الأوامر. ينطلق المفهوم من ملاحظة بسيطة: طرق الاختبار البشرية لم تعد تواكب قدرات النماذج. التحدي أصبح أكبر الآن، حيث أن هذه الثغرات تؤثر مباشرة على أمان الوكلاء المستقلين.

باختصار

  • حقق GPT-Red نجاحًا في 84% من سيناريوهات التقييم الداخلي لحقن الأوامر، مقارنةً بـ 13% فقط للفرق البشرية.
  • قامت OpenAI بتدريب GPT-Red من خلال التعلم المعزز من خلال المواجهة الذاتية لتقوية GPT-5.6 قبل نشره.
  • كما قامت مؤسسة Ethereum بنشر وكلاء ذكاء اصطناعي لمراجعة بنيتها التحتية الشبكية الحيوية في يوليو 2026.

يستند GPT-Red إلى منطق الأمان الهجومي الآلي. يحمل GPT-Red اسمه من "التقييم الأحمر"، وهي ممارسة في الأمن السيبراني تهدف إلى محاولة كسر نظام ما بشكل طوعي لتحديد نقاط ضعفه قبل أن يستغلها المهاجم.

توضح OpenAI أن النموذج تم تدريبه من خلال التعلم المعزز من خلال المواجهة الذاتية (self-play). يقوم بإنشاء هجمات من خلال حقن الأوامر بشكل متزايد التعقيد، بينما تتعلم النماذج الدفاعية كيفية مقاومتها. كل هجوم ناجح يغذي بعد ذلك تدريب GPT-5.6، مما يجعله أكثر قوة حتى قبل نشره.

في حالة دراسة ذكرتها OpenAI، قام النظام بالتلاعب بوكيل مستقل يدير آلة بيع، مما دفعه إلى خفض الأسعار، وطلب مخزونات بأسعار مخفضة، وإلغاء طلب عميل آخر.

تم الإبلاغ عن الثغرة وتصحيحها قبل أي استغلال فعلي. المثال يوضح كيف يمكن أن تحول حقن الأوامر مساعدًا إلى أداة منحرفة، دون أن يدرك المستخدم ذلك.

الرقم الذي يلفت الانتباه في إعلان OpenAI هو الفرق في الأداء المقاس داخليًا. في نفس سيناريوهات التقييم، حقق GPT-Red نجاحًا في 84% من هجمات حقن الأوامر، مقارنةً بـ 13% فقط للفرق البشرية.

تبرر OpenAI هذا الأتمتة في رسالة نشرت على X. "مع زيادة قدرات النماذج، يجب أن تتطور الأمان والتوافق بنفس الوتيرة"، تكتب الشركة.

يعمل النموذج من خلال المواجهة الذاتية العدائية، توضح OpenAI. "يتعلم GPT-Red من خلال المواجهة الذاتية العدائية، وهدفه هو حقن الأوامر في مجموعة متنوعة من النماذج الدفاعية الصعبة"، توضح الشركة.

تغذي الحلقة نفسها، وهذا بالضبط ما كان يسعى إليه الباحثون: محرك تحسين مستمر بدلاً من حملة اختبارات لمرة واحدة.

يمتد GPT-Red لعدة سنوات من جهود الأمن السيبراني التي أطلقتها OpenAI بعد النجاح العام لـ ChatGPT. أنشأت الشركة في عام 2023 شبكة OpenAI Red Teaming، حيث قامت بتجنيد باحثين خارجيين لاستكشاف نماذجها بحثًا عن الثغرات قبل النشر.

يمثل الانتقال إلى النموذج الآلي تغييرًا في الاتجاه، حيث تنتج ذكاءً اصطناعيًا هجمات على نطاق لا يمكن الوصول إليه من قبل البشر وحدهم.

يتماشى هذا الإعلان مع حركة أوسع: تلك التي تتعلق بالذكاء الاصطناعي الذي يؤمن الذكاء الاصطناعي. في وقت سابق من يوليو 2026، أشارت مؤسسة Ethereum إلى أنها نشرت وكلاء ذكاء اصطناعي لمراجعة بنيتها التحتية الشبكية الحيوية، واكتشفت ثغرة في برنامج يستخدمه عملاؤها من أجل التوافق.

تحتفظ OpenAI بـ GPT-Red كأداة داخلية بحتة. يحتوي النموذج على قدرات هجومية تم تطويرها عمدًا، مما يستبعد أي توزيع عام. ومع ذلك، ترى الشركة في ذلك بداية لدائرة فضيلة.

"نعتقد أن GPT-Red قد بدأ في فتح تأثير تدريب مماثل للأمان، حيث تخدم نماذج اليوم في جعل نماذج الغد أكثر قوة وتوافقًا وثقة"، تختتم.

باختصار، جعلت OpenAI من الهجوم الآلي درعًا لـ GPT-5.6، مع فجوة في الأداء تفرض الاحترام: 84% من النجاح لـ GPT-Red مقابل 13% للبشر. يعيد هذا التحول نحو ذكاء اصطناعي يؤمن ذكاءً اصطناعيًا تشكيل موقف الأمان في الصناعة، من المختبرات إلى سلاسل الكتل.

سعر --

--

إخلاء مسؤولية: يُقدَّم هذا المحتوى لأغراض الترويج العام والمعلومات فقط، ولا يُعدّ نصيحة مالية أو استثمارية أو قانونية أو ضريبية. لا تُعتبر أي أحداث أو مكافآت أو فعاليات عبر الإنترنت أو معلومات ذات صلة مذكورة هنا توصيةً أو دعوةً لشراء أو بيع أو تداول أو التعامل بأي شكل من الأشكال في أي أصول مشفرة أو استخدام أي خدمات. الأصول المشفرة شديدة التقلب وقد تؤدي إلى الخسارة. قد لا تتوفر خدمات WEEX وفعالياتها عبر الإنترنت في جميع المناطق، وتخضع للقوانين واللوائح وشروط الأهلية المعمول بها. أنت مسؤول عن ضمان توافق استخدامك لخدمات WEEX مع القوانين المحلية، وعن تقييم المخاطر بعناية قبل المشاركة في أي أنشطة متعلقة بالعملات المشفرة.

قد يعجبك أيضاً

iconiconiconiconiconiconiconiconicon
دعم العملاء:@weikecs
التعاون التجاري:@weikecs
التداول الكمي وصناع السوق:bd@weex.com
خدمات المستوى المميز VIP:support@weex.com