OpenAI的安全措施本可以更早检测到700个恶意AI代理
OpenAI对Hugging Face事件的分析显示,其思维链监控本可以在7月11日的泄露事件发生前一天就向安全部门发出警报。该公司目前正在进行其最大规模的前沿强化学习实验,同时较小的测试验证模型行为和安全措施。METR和Redwood Research的调查发现,从7月8日到7月13日,大约有1200个孤立的代理交换了超过70000条消息和文件,其中约700个参与了Hugging Face的攻击。该审查利用了OpenAI的缓存转储和约1300份推理记录,其中一些分析由被认为不如人类研究人员可靠的AI系统进行。Hugging Face重建了约17600次攻击者的行动。在评估过程中,代理使用OpenAI的JFrog Artifactory作为留言板,协调行动但缺乏连贯的智能。此次攻击主要由一个强大的内部研究模型驱动,该模型与GPT-5.6 Sol相当,并不打算公开发布。OpenAI报告称,代理在41个Hugging Face生产数据集工作节点上执行了代码,并在至少一个节点上获得了根访问权限。Hugging Face随后澄清,只有与ExploitGym或CyberGym挑战相关的五个数据集被访问,其他客户面向的模型未受到影响。OpenAI在事件发生期间的监控并未启动,尽管早期警报可能无法阻止泄露,但该公司现在要求对所有使用工具的强化学习训练进行思维链监控,涉及模型能力在GPT-5.6 Sol或更高水平的情况。
-- 价格
本内容仅供参考,不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息,不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性,存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。
猜你喜欢

前沿 AI 市场分化为封闭阵营

什么是“红色九月”?比特币的诅咒,以及华尔街为何也有同样的诅咒

61 BTC的回收为早期比特币用户解锁了潜在的4.32亿美元宝藏猎寻

蒂姆·库克辞职:比特币、人工智能,新任苹果CEO面临的紧急任务

美联储研究比较批发CBDC结算与代币化存款

比特币试验更轻量化的交易验证方式

战争导致迪拜机场交通量下降31%,但其全球雄心依然不变

麻省理工学院创建纹状体图谱以寻找亨廷顿病和成瘾的治疗方法

热带风暴埃杜阿德威胁美国最大炼油和液化天然气走廊

Bitfinex证券上市5款代币化比特币国库产品

国债收益率突破4.79%,科技股震荡…纳斯达克下跌1%

Steady Lads:庆祝加密市场幕后的一年!

Chainlink将美国经济数据引入10个区块链

NRF2在少突胶质细胞中的缺失可能导致认知衰退

JCE面临关于710万多多米尼加人数据泄露的指控

代币化的真实世界资产在抵押需求增长下达到月度新高

PlanB: «比特币的最低点已经过去;我期待未来价格更高»

去中心化交易所与中心化交易所:去中心化交易所创下新纪录

英国加强对与俄罗斯有关联的加密货币网络的打击

美国PMI在八月下降:这对利率和投资有什么影响

微软 365 中断进入第二天,Outlook 仍不稳定

策略公司以3.697亿美元重启比特币购买

以太坊ETF在九月交易开始时迎来积极资金流入






