Anthropic CEO 回应 AI 安全质疑，强调技术前沿重要性

Anthropic 向美国国会议员提交的 AI 安全法案草案遭到质疑，草案对政府紧急叫停危险模型设置高门槛，要求风险涉及生物武器、网络攻击或 AI 失控等情形，并可能造成超过 50 人死亡或重伤，或超过 10 亿美元损失，部分条款可能限制州政府监管权限。AI 安全组织 Encode AI 战略负责人 Nathan Calvin 指出，Anthropic 今年 2 月修改了原本严格的安全政策，取消了在更高风险阶段独自停止研发的要求，理由是竞争对手可能趁机超车。同期，Anthropic 投入巨额算力，组建芯片团队，并让 Claude 承担更多 AI 研发任务。10 月 21 日，Anthropic CEO Dario Amodei 在 X 上发文反驳质疑，承认公司曾犯错，但坚持争夺最先进 AI 能力并未违背安全使命，强调只有保持在技术最前沿，才能推动行业提高安全标准。他列举九项曾让公司付出商业代价的安全决定，包括将 Mythos 级模型限制开放数月，以及严格限制生物学相关请求。公司 10 月 19 日更新的安全路线图称，现有政策主要针对危险模型部署，未来可能需要直接限制研发速度，并计划在 2027 年 1 月 15 日前提出相关政策方案，或解释为何没有提出。