OpenAI与四家机构合作开展AI安全评估

By: news.futunn.com|2026/11/16 16:40:32

OpenAI与Apollo Research、Goodfire、METR和Transluce四家独立机构合作,启动首阶段嵌入式安全评估,允许外部专家访问内部模型、源代码、训练数据及监控系统,审查模型对齐和安全防护措施。Apollo Research重点评估模型是否会违背开发者意图;Goodfire研究模型内部机制及训练监控;METR审查大规模强化学习训练中的模型失调行为;Transluce评估后训练阶段的安全测试质量。评估人员将在必要时进入OpenAI办公场所,通过专用设备访问敏感资料。OpenAI基金会董事会下属独立监督委员会将全程监督并接收完整报告。评估机构保留独立发布结果的权利,但OpenAI可要求删除机密信息或延迟披露安全风险。OpenAI计划于2027年进一步扩大评估范围

本内容仅供参考,不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息,不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性,存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。

猜你喜欢

iconiconiconiconiconiconiconicon
客户服务:@weikecs
商务合作:@weikecs
量化做市商合作:bd@weex.com