Elon Musks xAI verklagt Minnesota, um das erste KI-Nacktfoto-Gesetz der USA zu kippen

xAI, Elon Musks KI-Unternehmen, hat am Montag eine Bundesklage gegen den Generalstaatsanwalt von Minnesota, Keith Ellison, eingereicht, um das erste Gesetz des Landes zu blockieren, das auf KI-"Nacktfotos" abzielt – Software, die künstliche Intelligenz nutzt, um Kleidung in echten Fotos von echten Personen digital zu entfernen oder zu verändern – und bezeichnet es als "ein übermäßig breites, inhaltsbasiertes Verbot der freien Meinungsäußerung und der Werkzeuge visueller Ausdrucksformen in einem ungeschickten Versuch, Nacktfotos zu verbieten."

Das Gesetz ist HF 1606. Es macht jede Plattform strikt haftbar – rechtlich verantwortlich, unabhängig von Wissen oder Absicht –, wenn Nutzer realistische Bilder von echten Personen generieren, die Körperteile zeigen, die diese Personen nie entblößt haben. Jeder Verstoß kann bis zu 500.000 USD pro generiertem Bild kosten.

Die Klage, die beim US-Bezirksgericht für den Bezirk Minnesota eingereicht wurde, verteidigt nicht genau die Nacktfotografie. "xAI bestreitet daher nicht das Interesse Minnesotas, die Verbreitung künstlich generierter Nacktbilder von echten Personen ohne deren Zustimmung zu verbieten", heißt es in der Einreichung. "Aber das Gesetz, das Minnesota erlassen hat, geht weit über dieses Ziel hinaus und setzt eine breite Palette geschützter Äußerungen zivilrechtlicher Haftung und staatlichen Sanktionen aus."

Das Problem, so xAI, sei, wie Minnesota den Begriff definiert hat. Laut der Klage hat der Staat "intime Teile" aus einem Strafgesetz über sexuellen Kontakt entlehnt – einem, das für nicht einvernehmliches Berühren geschrieben wurde, nicht für die Generierung von Bildern. Demnach qualifizieren sich der innere Oberschenkel, das Gesäß oder die Brust gleichermaßen. Die Generierung eines realistischen KI-Bildes eines politiker ohne Hemd, einer Frau im Badeanzug oder einer öffentlichen Person am Strand – selbst für politische Satire – könnte das Gesetz und die Geldstrafe auslösen.

Und es gibt keinen Ausweg für Plattformen, so die Argumente von xAI. "Es gibt keinen sicheren Hafen für die guten Absichten des Anbieters von allgemeinen KI-Kreativwerkzeugen, um Schäden zu vermeiden", heißt es in der Klage. "Die Haftung greift selbst, wenn die abgebildeten Personen zugestimmt haben – oder das Bild selbst erstellt haben – und selbst wenn das Bild niemals geteilt wird."

Es gibt auch keine Scienter-Anforderung (Wissen über Fehlverhalten) – ein Nutzer, der die eigenen Filter eines Unternehmens umgeht, macht das Unternehmen nach diesem Gesetz vollständig haftbar.

Allein im Jahr 2026 hat das Unternehmen mehr als 50.000 Konten gesperrt und mehr als 70.000 Berichte an NCMEC (das National Center for Missing & Exploited Children) eingereicht, was zu mindestens 244 Festnahmen führte. Nichts davon schafft eine Verteidigung unter HF 1606.

Der breitere Kontext ist hier wichtig. Groks Bildwerkzeuge stießen fast sofort nach ihrem Start Ende Juli 2025 auf Probleme, indem sie Deepfakes – KI-generierte synthetische Bilder von echten Personen – mit einfachen Textaufforderungen erzeugten, was zu regulatorischen Prüfungen in ganz Europa, Australien und mehreren US-Bundesstaaten führte. Städte wie Baltimore und drei Minderjährige aus Tennessee verklagten xAI separat wegen Groks Deepfake-Ausgaben. Das Unternehmen hat auch im April Colorado's KI-Gesetz aus ähnlichen Gründen des Ersten Verfassungszusatzes angefochten.

Minnesota verabschiedete HF 1606 mit 132-1 im Repräsentantenhaus und 65-0 im Senat, nachdem ein Mann soziale Medienfotos verwendet hatte, um sexuelle Bilder von mehr als 80 Frauen zu generieren, die er kannte. Die Befürworterin des Gesetzes im Senat, Senatorin Erin Maye Quade, bestätigte, dass das Verbot von einvernehmlichen Bildern "absichtlich" war.

Das Bundesgesetz TAKE IT DOWN – das Präsident Donald Trump im Mai 2025 unterzeichnete – deckt bereits nicht einvernehmliche intime Deepfakes ab, erfordert jedoch den Nachweis von Nicht-Zustimmung und tatsächlicher Verbreitung, verwendet eine engere Definition von Körperteilen und enthält Ausnahmen für Bildungs- und medizinische Inhalte. xAI argumentiert, dass dies das Modell ist, das Minnesota hätte übernehmen sollen.

AG Ellison weicht nicht zurück. "KI-Nacktfotografie raubt dem Ziel seine Würde und kann immense Schäden auf emotionaler, persönlicher und beruflicher Ebene verursachen", sagte er nach der Einreichung der Klage.

HF 1606 tritt am Samstag in Kraft. xAI möchte, dass ein Bundesrichter dies vorher stoppt.