智囊团警告：政府暂停人工智能发展将有利于主导企业，而非安全

自由主义的卡托研究所警告称，政府强制暂停人工智能开发可能会保护主导公司免受竞争，并延迟有益技术的出现，因为立法者和人工智能高管正在推动限制。

在周一的一篇博客文章中，智囊团的技术政策学者詹妮弗·哈德尔斯顿（Jennifer Huddleston）辩称，企业可以通过自愿的安全措施和共享标准来应对特定危险，而无需在整个行业内停止开发。

“政府强制暂停将引发几个担忧，并可能无法实现其声称的安全改善，”她写道，并补充说，政府规则的制定速度缓慢，变更更慢。“为今天的模型建立的监管框架可能会积极阻碍明天的模型，防止可能更好或更安全的响应。”

哈德尔斯顿承认人工智能的风险，但警告说，围绕领先开发者制定的规则可能会帮助他们巩固权力并限制竞争——这是一种市场捕获形式，会使小公司更难以竞争。她还认为，暂停美国的开发可能会削弱网络安全防御，而外国竞争对手则继续推进。

她的评论是在参议员伯尼·桑德斯（Bernie Sanders）和众议员格雷格·卡萨尔（Greg Casar）提出暂停先进人工智能开发，直到建立联邦安全标准，并永久禁止人工超级智能的提案之后发表的，而OpenAI首席执行官山姆·阿尔特曼（Sam Altman）则支持减缓开发，并敦促公司在等待他所支持的联邦规则之前加强安全措施。

“许多这些呼声伴随着科幻般的末日情景，描述了可能发生的最糟糕情况，”哈德尔斯顿写道。“然而，出于恐惧而急于监管可能会带来比其声称要解决的风险更长期的负面后果。”

Block的董事长兼联合创始人杰克·多尔西（Jack Dorsey）在周一的X平台上发表了类似的关于竞争的担忧。

“引领机器智能的公司值得被倾听。他们有专业知识和商业利益需要保护，”多尔西写道。“围绕他们资源建立的规则可能使他们成为唯一能够参与的公司。对安全的真诚关切仍然可能产生进入壁垒。”

多尔西表示，他支持开放发布，研究人员可以检查、修改和测试，并发布评估和已知限制，以便外部人员可以挑战开发者的安全声明。

“我支持审查。我反对由今天的领导者协商的行业范围限制，因为它们可能排除那些可能揭露失败或建立替代方案的人，”他写道。“维护公司的商业优势并不是安全目标。”

在他的帖子中，多尔西还表示，他支持独立测试和公开问责的执行，包括在证据表明其发布将实质性增加狭义措施无法充分应对的灾难性风险时，扣留模型。

“计算可以引发审查，而不限制开发。审查并不是来自监管者或竞争对手的许可，”他说。“我不想要一般的批准要求或等待期。任何基于安全的发布延迟都必须通过灾难性风险例外来证明。”

最近的一项大西洋理事会分析认为，竞争压力要求可执行的人工智能安全标准，而美中之间的不信任则使国际协议复杂化。合作也引发反垄断担忧：OpenAI已询问立法者，竞争对手是否可以合法地达成减缓开发的协议。