美国参议院推动对AI企业实施‘注意义务’

美国国会推动对先进AI开发公司施加‘注意义务’以防止大规模损害
美国政府将获得阻止危险模型发布的权力……国家研究所将参与安全性验证
监管成本对发布和投资时间表造成负担……可能对大型AI企业有利

[区块媒体记者 李惠妍] 美国国会正在讨论将先进人工智能（AI）开发公司的安全管理从自愿承诺转变为法律义务的方案。联邦政府将能够阻止可能造成大规模损害的AI模型发布的内容也在审议之中。

据路透社报道，美国参议院谈判小组正在讨论一项法律草案，要求先进AI模型开发公司对已知的重大风险承担法律责任。

如果该法案通过，谷歌、Anthropic和OpenAI等主要AI公司的安全管理标准将发生重大变化。尽管有观点认为加强监管可以提高消费者和投资者的信任，但也有担忧称，只有少数能够承担巨额监管成本的大型企业的市场主导地位可能会进一步加强。

法案的核心是对AI开发公司施加‘注意义务’

正在讨论的法案的核心是对前沿AI模型开发公司施加所谓的‘注意义务（duty of care）’。前沿AI是指现有技术中性能最强的先进AI模型。

法案中包括了从开发阶段开始就设计AI模型以最小化大规模损害风险的方案。美国政府将获得阻止不安全AI模型发布的权力。

企业可以对政府的决定向法院提出异议的程序也将被建立。国家研究所和政府机构的专家将参与AI模型的验证和测试的方案也在审议中。

这项联邦法案可能优先于一些州政府法律来规范同一事项。谈判中参与者包括参议院共和党领袖约翰·图恩（John Thune）、参议院商务委员会主席特德·克鲁兹（Ted Cruz）、参议员艾米·克洛布查（Amy Klobuchar）和参议员玛丽亚·坎特韦尔（Maria Cantwell）。

克洛布查参议员对路透社表示：“政府监督AI模型可能带来的最严重风险是我们的目标。”她解释说，在验证和测试先进模型时，开发公司应与政府专家合作。

克鲁兹参议员也提出了类似的建议。他通过社交媒体X表示，与克洛布查参议员和图恩领袖一起，“正在应对与生物或核威胁相关的灾难性风险”。

AI正在以惊人的速度发展，其中一些风险是危险和可怕的。
我一直在参议院的前沿处理这个问题。我撰写并通过了《TAKE IT DOWN法案》，这是国会通过的唯一限制AI的立法，以保护受害者免受... pic.twitter.com/movYZNQrHr

--- 参议员特德·克鲁兹（@SenTedCruz） 2026年9月9日

联邦监管是否会取代一些州政府的监管也是主要争议点。这与特朗普政府要求一致的国家监管体系，以防止各州不同的监管阻碍美国AI产业的发展。

AI风险逐渐逼近现实……欧洲已经开始监管

美国议员们并不是仅仅基于简单的虚拟情景来讨论监管。AI代理自行访问外部系统的案例以及主要AI公司研究人员提出的担忧也影响了立法讨论。

国际个人信息保护专家协会（IAPP）表示，前Anthropic研究员雅各布·科克森（Jacob Coxon）的辞职以及他对自我改进型AI开发竞争的担忧成为谈判的契机。

美国国会内对监管的要求也在增加。参议员乔希·霍利（Josh Hawley）正在调查在7月发生的Hugging Face网络攻击中OpenAI的角色。参议员伯尼·桑德斯（Bernie Sanders）正在准备一项暂停超智能AI开发的法案。

OpenAI也支持强制性的联邦监管。OpenAI全球政策主管克里斯·莱汉（Chris Lehane）在9日发布的政策文件中表示，“根据AI能力水平适用的强制国家安全监管”是必要的。AI行业的一些人和国会在自愿安全装置是否足够的问题上持有相同的看法。

欧盟（EU）已经对高风险AI模型实施了监管。EU AI法案对可能引发系统风险的通用AI模型提供商施加模型评估、风险管理、事故报告和网络安全相关的义务。

监管成本对资本市场的影响……可能对大型AI企业有利

AI监管对资本市场的影响也不容小觑。高盛研究预计，到2026年，全球AI投资额将达到约1万亿美元。其中，美国的投资额预计为5810亿美元。

如果引入新的测试和法律审查、文书工作义务，将对AI模型的发布时间表、基础设施预算、企业价值和首次公开募股（IPO）时机产生影响。

对于难以承担监管合规成本的中小企业来说，可能会成为进入壁垒。最终，这意味着资金充裕的大型AI企业可能会更有利。

AI安全问题已经在资本市场上成为焦点。根据CryptoPolitan的报道，戴维·萨克斯（David Sacks）甚至主张在确认科克森前研究员提出的安全相关指控之前，暂停Anthropic的IPO。

Anthropic的投资者据说讨论了约2万亿美元的企业价值。因此，前沿AI的安全性不仅是监管机构的重要问题，也是投资者的重要问题。

然而，该法案是否能真正通过国会仍然不确定。据路透社报道，美国众议院计划在11月3日中期选举之前仅召开一周的会议，而参议院预计将继续进行三周的议程。

即使参议院谈判小组达成协议，剩余的会议时间也可能成为法案通过的主要障碍。

本内容仅供参考，不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息，不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性，存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。