OpenAI询问国会AI减速是否合法

OpenAI已询问国会议员，竞争对手的AI公司是否可以合法地达成减缓开发的协议，因为其首席科学家敦促行业建立共享的安全标准。

根据WIRED的报道，该公司内部人士透露，OpenAI在最近几周询问立法者，AI公司之间达成减缓开发的协议是否会违反反垄断法。

向立法者的接触是因为OpenAI首席科学家Jakub Pachocki呼吁自愿减速，直到开发者能够更好地证明其系统是安全的。但公司面临压力，迫使其在研究人员有顾虑时仍继续推进。

“AI领域的商业和地缘政治竞争非常激烈，导致一种令人担忧的动态，即公司被激励在风险尚未完全了解之前发布产品，”民主与技术中心的首席技术官Miranda Bogen告诉Decrypt。

“即使内部员工知道需要更多的研究和测试，他们的公司仍面临巨大的压力，迫使他们走捷径，跳过关键的安全测试，尽管有证据表明快速推进的后果正在不断增加，”她补充道。

达成减缓AI开发的协议可能会引发反垄断担忧，因为这会限制竞争。参议员Adam Schiff和Jim Banks提出立法，以保护某些安全合作，需提前通知司法部。

关于减缓AI开发的辩论正值美国和中国争夺技术领导地位之际。美国总统唐纳德·特朗普因担心可能削弱美国在中国面前的领先地位，于5月推迟了一项AI行政命令。特朗普随后在6月签署了该命令，为先进模型发布前创建了自愿审查程序。

比国家安全担忧更直接的是，财务激励可能使达成协议变得困难。

“在当前条件下，每一次进展都能带来数百万或数十亿的资金，并使得创造这一进展的人的权力和影响力更大，”机器智能研究所的传播负责人Duncan Sabien告诉Decrypt。

Sabien称军备竞赛的动态是真实存在的，他表示OpenAI和Anthropic面临压力，尽管风险不确定，但仍需不断推进，因为每个新系统都有助于构建更强大的后继者，如果任何一家公司在没有共同协议的情况下减速，竞争对手就会领先。

“这尤其如此，因为智能的提升是复合的；每个新系统都使得训练和部署下一个更先进的系统变得更容易，”他说。“没有某种协调机制，退步只意味着对手获得领先。

在8月，OpenAI因网络安全担忧暂停了内部Astra工作。然而，OpenAI和Anthropic在2月放松了其安全承诺，Anthropic首席科学官Jared Kaplan辩称，在竞争对手继续推进的情况下，独立减缓开发的意义不大。

OpenAI首席科学家警告AI实验室可能需要减速

关于减缓AI开发的辩论在本周激增，此前前Anthropic工程师Jacob Coxon公开宣布辞职，称继续开发AI对人类构成风险。

“构建AI的人真心相信，到本世纪末它可能会杀死我们所有人，”Coxon在X上表示，这并不是一个“营销噱头”。

“如果说什么，许多高管和高级研究人员会在媒体上用理智的措辞来表达，但我听到同样的人私下表达恐惧。没有其他人类活动能带来如此程度的危险，”他写道。

然而，Sabien表示，如果其他人只是取代他们，研究人员离开可能不会有什么成效。

“如果他们中的足够多人达成共识，认为他们都应该停止，那么他们就可以突破协调障碍，一起停止，而不是被下一个稍微不那么谨慎的人取代，”他说。