OpenAI推出GPT-Red，一种攻击自身模型以增强其能力的人工智能

OpenAI于2026年7月15日星期三推出了一种名为GPT-Red的自动化红队工具，旨在增强GPT-5.6对提示注入攻击的抵御能力。这个概念源于一个简单的观察：人类的渗透测试方法已经无法跟上模型能力的提升。这个挑战变得愈发严峻，因为这些漏洞直接影响到自主代理的安全性。

简而言之

• GPT-Red在内部提示注入评估场景中成功率为84%，而人类红队的成功率仅为13%。
• OpenAI通过自我对抗的强化学习训练了GPT-Red，以在其部署之前增强GPT-5.6的安全性。
• 以太坊基金会也在2026年7月部署了人工智能代理，以审计其关键网络基础设施。

GPT-Red植根于这种自动化的主动安全逻辑。GPT-Red的名称来源于“红队”，这是一种网络安全实践，旨在故意尝试攻破系统，以发现其在攻击者利用之前的弱点。

OpenAI解释说，该模型通过自我对抗的强化学习进行训练。它生成越来越复杂的提示注入攻击，而防御模型则学习如何抵御这些攻击。每一次成功的攻击都会为GPT-5.6的训练提供养分，使其在部署之前变得更加稳健。

在OpenAI引用的一个案例研究中，该系统操控了一个管理自动售货机的自主代理，迫使其降低价格、以折扣价订购库存，并取消了另一个客户的订单。

该漏洞在任何实际利用之前就被报告并修复。这个例子展示了提示注入如何将助手转变为被滥用的工具，而用户却毫无察觉。

OpenAI公告中引人注目的数字是内部测量的收益差异。在相同的评估场景中，GPT-Red在提示注入攻击中的成功率为84%，而人类红队的成功率仅为13%。

OpenAI在X上发布的信息中为这种自动化提供了理由。"随着模型能力的提升，安全性和对齐也必须同步演进"，公司写道。

OpenAI明确指出，该模型通过对抗性自我对抗进行运作。"GPT-Red通过对抗性自我对抗学习，其目标是在各种难以防御的模型中注入提示"，公司详细说明。

这个循环自我滋养，这正是研究人员所追求的：一个持续改进的引擎，而不是一次性的测试活动。

GPT-Red延续了OpenAI在ChatGPT公开成功后数年的网络安全努力。该公司在2023年创建了OpenAI红队网络，招募外部研究人员在发布之前对其模型进行漏洞测试。

转向自动化模型标志着一个转折点，因为人工智能以人类无法达到的规模进行攻击。

这一公告是更广泛运动的一部分：即人工智能保护人工智能。早在2026年7月，以太坊基金会就表示已部署人工智能代理以审计其关键网络基础设施，发现其共识客户使用的软件中的一个漏洞。

OpenAI将GPT-Red保密，但认为这是一个良性循环。

OpenAI将GPT-Red作为一种纯内部工具保留。该模型包含自愿开发的进攻能力，这排除了任何公共传播。然而，公司认为这标志着一个良性循环的开始。

"我们认为，通过GPT-Red，我们已经开始解锁类似于安全性的训练效应，其中今天的模型用于使明天的模型更强大、更对齐和更值得信赖"，公司总结道。

总之，OpenAI将自动化攻击变成了GPT-5.6的护盾，表现出令人尊敬的差距：GPT-Red的成功率为84%，而人类为13%。这种向人工智能保护另一种人工智能的转变重新定义了行业的安全态势，从实验室到区块链。

本内容仅供参考，不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息，不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性，存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。