明尼苏达州指控Grok助长数字性暴力

明尼苏达州直接对Grok发起攻击。这一美国州指控xAI的人工智能助长了从可识别人物照片中生成逼真性图像的行为。新法律现已禁止该州使用此类工具。xAI希望暂停该法律。冲突现在在司法系统中展开。

简要

• 自8月1日起，明尼苏达州实施了一项针对用于创建虚假性图像的人工智能工具的法律。
• xAI以第一修正案为名对该法律提出质疑。
• Grok已经因涉及未成年人的性深度伪造而受到调查和投诉。

明尼苏达州直接针对Grok的人工智能

新法律针对能够根据现有照片生成可识别人物逼真性图像的平台和软件。Grok处于风口浪尖。在法国，司法部门已经在对X和Grok进行调查，原因是有关性深度伪造和儿童图像的举报。

该法律编号为HF-1606。它在春季以132票对1票在明尼苏达州众议院通过。参议院以全体一致通过，65票对零票。

自8月1日起，相关企业在违反法律的情况下可能面临每张图像高达50万美元的罚款。立法者曾听说过一个男人利用社交媒体上发布的照片为他认识的80多名女性制造虚假性图像的故事。明尼苏达州现在希望切断允许这种操控的工具的访问。xAI不同意。

xAI引用言论自由

埃隆·马斯克的公司在7月向法院提起诉讼，试图阻止法律的实施。其主要论点基于美国宪法第一修正案。xAI认为明尼苏达州的法律涵盖的范围过于广泛，可能会影响到本应受到言论自由保护的图像。

该公司特别提到裸露上身的人、游泳者或某些形式的政治讽刺的照片。它还批评缺乏对试图限制滥用的开发者的例外规定。即使是经过相关人员同意创建的图像，也可能受到法律的约束。

明尼苏达州检察长基思·埃利森则持完全相反的观点。他认为，该法律主要规范的是一种在没有同意的情况下生成性图像的工具。他指责Grok Imagine极大地促进了这种行为。

这场较量已经与其他当局展开。5月，埃隆·马斯克公开抨击了调查X和Grok的法国法官。这一次，xAI试图直接推翻这项法律。

Grok已经背负多起案件

明尼苏达州并不是在空白领域行动。1月，一家监督组织估计Grok在短短11天内生成了超过23,000张儿童性图像。随后多个国家展开了调查。3月，加州的三名未成年人加入了对xAI的诉讼。他们指控Grok将他们的照片转化为由人工智能生成的儿童色情内容。

xAI声称已采取行动。该公司表示在2026年暂停了超过50,000个账户，并向国家失踪和被剥削儿童中心提交了超过70,000个举报。

Grok之前已经积累了其他争议。2025年，xAI在其人工智能传播仇恨内容后承认了错误。明尼苏达州的案件更进一步。它不仅要求xAI在事件后纠正Grok，还试图在法律中直接施加限制。司法部门现在必须决定明尼苏达州是否在规范一种危险工具，还是在侵犯宪法保护的言论自由。Grok仍然可用。法律也依然存在。