IA: Minnesota Acusa a Grok de Facilitar la Violencia Sexual Digital

Minnesota está tomando medidas directas contra Grok. El estado estadounidense acusa a la IA de xAI de facilitar la creación de imágenes sexuales realistas a partir de fotos de individuos identificables. Una nueva ley ahora prohíbe tales herramientas en el estado. xAI quiere que se suspenda. El conflicto ahora se está desarrollando en los tribunales.

En breve

• Desde el 1 de agosto, Minnesota ha estado aplicando una ley contra las herramientas de IA utilizadas para crear imágenes sexuales falsas.
• xAI está impugnando la ley sobre la base de la Primera Enmienda.
• Grok ya ha sido objeto de investigaciones y quejas relacionadas con deepfakes sexuales que involucran a menores.

La IA Grok Directamente Objetivo de Minnesota

La nueva ley se dirige a plataformas y software capaces de generar imágenes sexuales realistas de una persona identificable a partir de una foto existente. Grok se encuentra en la primera línea. En Francia, la justicia ya está investigando a X y Grok tras informes sobre deepfakes sexuales e imágenes de niños.

La ley está numerada como HF-1606. Fue adoptada en la primavera con 132 votos a favor y uno en contra en la Cámara de Minnesota. El Senado la aprobó por unanimidad, con 65 votos a cero.

Desde el 1 de agosto, las empresas involucradas enfrentan multas de hasta $500,000 por imagen en caso de violación. Los legisladores escucharon la historia de un hombre que utilizó fotos publicadas en redes sociales para crear imágenes sexuales falsas de más de 80 mujeres que conocía. Minnesota ahora quiere cortar el acceso a herramientas que permiten tal manipulación. xAI no está de acuerdo.

xAI Invoca la Libertad de Expresión

La empresa de Elon Musk presentó una demanda en julio para evitar que se aplique la ley. Su principal argumento se basa en la Primera Enmienda de la Constitución de EE. UU. xAI cree que la ley de Minnesota abarca un ámbito excesivamente amplio y podría afectar imágenes que de otro modo están protegidas por la libertad de expresión.

La empresa cita específicamente fotos de personas sin camiseta, nadadores o ciertas formas de sátira política. También critica la falta de excepciones para los desarrolladores que intentan limitar el abuso. Incluso una imagen creada con el consentimiento de la persona afectada podría caer bajo las disposiciones de la ley.

El Fiscal General de Minnesota, Keith Ellison, defiende exactamente lo contrario. Para él, la ley regula principalmente una herramienta que permite la producción de imágenes sexuales sin consentimiento. Acusa a Grok Imagine de haber facilitado significativamente este tipo de práctica.

El enfrentamiento ya se asemeja a los que se han llevado a cabo con otras autoridades. En mayo, Elon Musk criticó públicamente a los magistrados franceses que investigan a X y Grok. Esta vez, xAI está tratando directamente de anular la ley.

Grok Ya Enfrenta Múltiples Casos

Minnesota no está entrando en territorio desconocido. En enero, una organización de vigilancia estimó que Grok había generado más de 23,000 imágenes sexualizadas de niños en solo once días. Varios países luego abrieron investigaciones. En marzo, tres menores en California se unieron a una demanda contra xAI. Acusan a Grok de haber sido utilizado para transformar sus fotos en contenido de explotación infantil generado por IA.

xAI afirma haber reaccionado. La empresa declara que suspendió más de 50,000 cuentas en 2026 y reportó más de 70,000 casos al Centro Nacional para Niños Desaparecidos y Explotados.

Grok ya había acumulado otras controversias. En 2025, xAI reconoció un error tras la difusión de contenido de odio por su IA. El caso de Minnesota va más allá. No solo está pidiendo a xAI que corrija a Grok después de un incidente. Busca imponer límites directamente en la ley. Los tribunales ahora tendrán que decidir si Minnesota está regulando una herramienta peligrosa o invadiendo la libertad de expresión protegida por la Constitución. Grok sigue disponible. La ley también.