イーロン・マスクのxAI、米国初のAIヌーディフィケーション法を無効にするためミネソタ州を提訴

xAIは、イーロン・マスクのAI企業で、月曜日にミネソタ州の検事総長キース・エリソンに対して、AIによる「ヌーディフィケーション」を対象とした米国初の法律を阻止するための連邦訴訟を提起しました。この法律は、実際の人々の写真から衣服をデジタル的に削除または変更するソフトウェアを指し、「ヌーディフィケーションを禁止するための不器用な試みとして、自由な表現と視覚的表現の道具に対する過剰な内容ベースの禁止である」と述べています。

この法律はHF 1606です。これは、ユーザーが実際の人々の体の部分を表示するリアルな画像を生成した場合、プラットフォームが厳格に責任を負うことを定めています。各違反は生成された画像ごとに最大500,000ドルの罰金が科される可能性があります。

ミネソタ州の米国地方裁判所に提出された訴状は、ヌーディフィケーションを正確に擁護しているわけではありません。「xAIは、ミネソタ州が同意なしに実際の人々の人工的に生成されたヌード画像の配布を禁止することに関心を持っていることに異議を唱えません」と訴状は述べています。「しかし、ミネソタ州が制定した法律は、その目標をはるかに超えており、広範な保護された発言を民事責任と政府の制裁にさらしています。」

xAIが主張する問題は、ミネソタ州がその用語をどのように定義したかです。訴訟によれば、州は「親密な部分」という用語を、同意のない接触のために書かれた犯罪的な性的接触の法律から借用しました。それにより、内腿、臀部、または胸部はすべて同等に該当します。シャツを着ていない政治家、ビキニを着た女性、またはビーチにいる公人のリアルなAI画像を生成することは、政治的風刺であっても法律を引き起こし、罰金を科される可能性があります。

xAIの主張によれば、プラットフォームには逃げ道がありません。「一般的な目的のAIクリエイティブツールの提供者が害を避けるための善意の努力に対する安全港はありません」と訴状は記載しています。「描写された人々が同意した場合でも、または自ら画像を作成した場合でも、画像が共有されることが決してなくても、責任が生じます。」

また、悪意の認識（不正行為の知識）の要件もありません。ユーザーが企業のフィルターをすり抜けても、企業はこの法律の下で完全に責任を負います。

2026年だけで、同社は50,000以上のアカウントを停止し、NCMEC（全国行方不明者および搾取された子供センター）に70,000件以上の報告を行い、少なくとも244件の逮捕につながりました。それらのいずれもHF 1606の下での防御を生み出しません。

ここでの広い文脈も重要です。Grokの画像ツールは、2025年7月末の発売直後に問題に直面し、簡単なテキストプロンプトでリアルな人々のディープフェイク（AI生成の合成画像）を生成し、ヨーロッパ、オーストラリア、そして複数の米国の州で規制調査を引き起こしました。ボルチモアやテネシー州の3人の未成年者などの都市が、Grokのディープフェイク出力に関してxAIを別々に提訴しました。同社はまた、4月にコロラド州のAI法に対しても同様の第一修正の理由で異議を唱えました。

ミネソタ州は、80人以上の女性の性的画像を生成するためにソーシャルメディアの写真を使用した男性の事件を受けて、下院で132対1、上院で65対0でHF 1606を可決しました。上院での法案の支持者であるエリン・メイ・クワード上院議員は、同意のある画像に対する法律の禁止が「意図的」であったことを確認しました。

連邦のTAKE IT DOWN法---2025年5月にドナルド・トランプ大統領によって署名された---は、すでに同意のない親密なディープフェイクをカバーしていますが、非同意の証明と実際の配布を必要とし、より狭い体の部分の定義を使用し、教育および医療コンテンツのための例外を含んでいます。xAIは、ミネソタ州が採用すべきモデルだと主張しています。

エリソン検事総長は引き下がっていません。「AIヌーディフィケーションは、ターゲットからその尊厳を奪い、感情的、個人的、職業的なレベルで巨大な害を引き起こす可能性があります」と、訴訟が提起された後に彼は述べました。

HF 1606は土曜日に発効します。xAIはそれが発効する前に連邦裁判官に停止を求めています。