Un tribunal niega a xAI la prohibición de los primeros servicios de IA en EE. UU. para "desnudarse"

• xAI no pudo bloquear la primera prohibición en EE. UU. sobre la IA de "desnudarse".
• La empresa de Elon Musk presentó una solicitud ante el tribunal contra la ley de Minnesota que prohíbe la generación de deepfakes desnudos y recibió una negativa.
• Este caso podría sentar un precedente para toda la industria de la IA generativa.

Un tribunal federal de EE. UU. negó a la empresa xAI de Elon Musk la solicitud de una orden de bloqueo temporal de la ley del estado de Minnesota, que se convirtió en la primera normativa en el país que prohíbe la generación o edición de imágenes que incluyan cuerpos desnudos sin el consentimiento de la persona.

"xAI presentó su solicitud el 29 de julio de 2026, casi tres meses después de la firma de la ley y solo tres días antes de que entrara en vigor. Tal retraso en la presentación de la demanda y la solicitud indica que el daño no es inmediato", dice la decisión del tribunal.

¿Qué puede hacer Grok en 2026: análisis de infraestructura, tarifas y nuevas funciones
18.03.2026
Leer

Al mismo tiempo, el tribunal no descartó la posibilidad de revisar este asunto más adelante. La audiencia sobre la solicitud de una orden judicial preliminar está programada para el 19 de agosto.

xAI considera que la ley es demasiado amplia

xAI no cuestionó el derecho del estado a luchar contra los servicios utilizados para crear deepfakes íntimos sin el consentimiento de la persona, pero afirmó que la ley viola la Primera Enmienda de la Constitución de EE. UU. sobre la libertad de expresión, según NBC News.

El documento señala:

"La ley es demasiado amplia, y existen alternativas mucho menos restrictivas que permitirían alcanzar el mismo objetivo".

xAI también enfatizó que ya prohíbe a los usuarios "generar imágenes desnudas o sexualizadas de personas sin su consentimiento".

La empresa también sostiene que las nuevas reglas podrían crear riesgos legales incluso en casos donde:

• la persona dio su consentimiento para crear la imagen;
• la persona la creó por sí misma;
• el contenido nunca fue publicado;
• la imagen tiene valor artístico, satírico, educativo, científico, médico o político.

La ley fue aprobada tras los escándalos en torno a Grok

La nueva ley de Minnesota fue firmada por el gobernador Tim Walz en mayo de 2026. El documento prohíbe a los propietarios de sitios web, aplicaciones o software permitir a los usuarios crear lo que se denomina imágenes "nudificadas", así como promocionar funciones relacionadas.

El contenido nudificado se define en la ley como imágenes o videos que han sido modificados o generados de tal manera que muestran partes íntimas del cuerpo que no están presentes en el original, si el resultado es tan realista que una persona promedio lo percibiría como auténtico.

Las violaciones de la ley conllevan:

• una multa civil de hasta $500,000 por cada caso de acceso, uso o carga ilegal;
• compensación por daños morales;
• sanciones;
• reembolso de costos judiciales.

Sin embargo, la ley no establece responsabilidad penal.

El fiscal general de Minnesota, Keith Ellison, instó al tribunal a rechazar la demanda de xAI, afirmando que la empresa creó una "emergencia artificial", acudiendo al tribunal solo tres meses después de la aprobación de la ley.

Después de la presentación de la demanda, el gobernador del estado, Tim Walz, reaccionó brevemente en las redes sociales X:

"Nos vemos en la corte, raro".

El escándalo de Grok intensificó el debate sobre la regulación de la IA

La demanda de xAI fue una continuación de una serie de escándalos en torno a la función Imagine del chatbot Grok. Tras el lanzamiento del modelo a finales de diciembre de 2025, los usuarios comenzaron a crear masivamente deepfakes sexualizados de personas reales sin su consentimiento, lo que provocó críticas internacionales e investigaciones en varias jurisdicciones.

En enero de 2026, según los medios, Apple amenazó con eliminar Grok de su tienda de aplicaciones si xAI no endurecía las restricciones. A pesar de esto, en abril, los usuarios encontraban formas de eludir los mecanismos de protección establecidos por la empresa.

En medio de estos eventos, la Comisión Europea ya ha iniciado una investigación oficial sobre las actividades de la plataforma X por posibles violaciones de la Ley de Servicios Digitales (DSA), relacionadas con el uso de Grok para crear imágenes sexualizadas.

Al mismo tiempo, el caso de xAI ha recibido una respuesta ambivalente de las organizaciones de derechos humanos. La Unión Americana de Libertades Civiles de Minnesota (ACLU Minnesota), que inicialmente apoyó el proyecto de ley, se opuso a la versión final tras su revisión.

"Aunque creemos que crear tecnología para modificar o 'desnudarse' fotografías de personas identificables está protegido por la Primera Enmienda, también reconocemos que crear y distribuir tales materiales sin consentimiento puede causar un daño serio a las personas".

Además, ya se han presentado demandas colectivas contra xAI y su empresa matriz, en las que los demandantes afirman que Grok creó o distribuyó sus deepfakes desnudos, incluidos aquellos con imágenes de menores. Una de las últimas fue una demanda presentada por una diputada británica.

Informe: la caída de la popularidad de Grok coincidió con la apuesta de xAI por contenido para adultos
26.06.2026
Leer