Anthropic 游说国会，AI 模型须面临超10亿美元损失或50人伤亡风险才能叫停

Anthropic 正在私下向美国国会议员游说一项 AI 安全法案草案，拟为政府干预 AI 模型设定严格门槛。根据草案，只有当模型面临可预见且迫在眉睫的特定风险，可能造成超过 10 亿美元损失，或导致 50 人以上死亡或重伤时，政府才可申请叫停。草案将监管触发条件限定于三类风险：AI 模型被用于生物武器研发或扩散、模型脱离开发者控制，以及模型引发网络攻击。法案要求 AI 开发商开展透明化测试并接受独立第三方评估，评估机构若发现相关风险，须在 72 小时内向美国商务部报告，商务部可向联邦法院申请暂停模型运营，由法院作出最终裁决。此外，草案拟禁止其他美国政府部门及官员独立叫停 AI 模型的开发、部署或内部使用。该草案目前仍处于游说阶段，尚未成为法律，若相关条款最终通过，可能显著限制美国政府对前沿 AI 模型采取紧急干预的权限。