Grok AI ha sido acusado por el gobierno de falsificar leyes

Los activistas han alegado que el gobierno está a punto de introducir una ley que haría ilegal la creación de deepfakes sexuales no consensuales.

Una mujer le dijo a la BBC que se han creado más de 100 imágenes sexuales de ella, en medio de una reacción violenta contra Elon Musk que usa AI Grok para digitalizar su ropa.

es actualmente Compartir deepfakes para adultos es ilegal en el Reino UnidoPero eso todavía no está vigente, a pesar de las nuevas leyes que tipifican como delito realizarlos o solicitarlos. Aprobado en junio de 2025..

Pero no está claro si las imágenes en toda la ropa de Grok violan la ley. La BBC se ha puesto en contacto con el gobierno para solicitar comentarios.

en una declaraciónX dijo: “Cualquiera que use o sugiera Grok para crear contenido ilegal enfrentará las mismas consecuencias que quienes suban contenido ilegal”.

“Tomamos medidas enérgicas contra el contenido ilegal en X, incluido el contenido de abuso sexual infantil (CSAM), eliminándolo, suspendiendo permanentemente las cuentas y trabajando con el gobierno local y las autoridades según sea necesario”, dice el comunicado.

Se puede acceder a Grok a través de su sitio web y su aplicación o etiquetando “@grok” en publicaciones en la plataforma de redes sociales X.

Pero Andrea Simon, de End Violence Against Women, dijo que el gobierno había “perjudicado a mujeres y niñas” al implementar la ley.

“Los deepfakes sexualmente explícitos y no consensuados son una clara violación de los derechos de las mujeres y tienen efectos traumáticos y duraderos en las víctimas”, afirmó.

“Para las mujeres que utilizan plataformas como X, la amenaza de este abuso también puede significar que necesitan autocensurarse y cambiar su comportamiento, limitando su libertad de expresión y participación en línea”.

“Esto no es sólo una cuestión de justicia penal, sino una cuestión de regular el ecosistema tecnológico que facilita y se beneficia de la violencia contra las mujeres y las niñas”.

el martesLa secretaria de Tecnología, Liz Kendall, exigió que X “se ocupara de esto con urgencia”, calificando la situación de “absolutamente espantosa”.

El regulador Ofcom dijo que había hecho un “contacto urgente” con X y xAI, que crearon Grok. los lunes y le dijo a la BBC que estaban investigando las preocupaciones.

Tanto Kendall como Downing Street han respaldado la acción del regulador, y el portavoz del Primer Ministro añadió el miércoles que “todas las opciones siguen sobre la mesa”.

El Ministerio de Justicia dijo a la BBC: “Ya es un delito compartir imágenes íntimas sin consentimiento, incluidas las deepfakes, en las redes sociales.

“Nos negamos a tolerar este comportamiento reprensible y dañino, por lo que también hemos introducido legislación para prohibir su producción sin consentimiento”.

La ley actual dice que es ilegal crear deepfakes pornográficos en porno de venganza o que representen a niños.

Lorna Woods, profesora de derecho de Internet en la Universidad de Essex, dijo a la BBC que una disposición de la Ley de Datos (Uso y Acceso) de 2025 criminalizaba la creación o circulación de “supuestas imágenes íntimas”, o deepfakes.

Pero Un año después de la declaración de acción por el primer delitoExpertos y activistas le han dicho a la BBC que el gobierno aún tiene que introducir una disposición legal clave que apunte a aquellos que le piden a Grok que falsifique sexualmente a mujeres y niñas.

El profesor Woods dijo que el delito “parecería apropiado para algunas de las imágenes producidas con Grok”, pero aún no se ha implementado.

Mientras tanto, Simon de EVAW cuestionó por qué la legislación secundaria necesaria para tipificar como delito la creación de deepfakes sexuales aún no se había implementado, ya que era una “clara violación de los derechos de las mujeres”.

“Esta ley aún no ha entrado en vigor”, afirmó, “ni se ha fijado una fecha para ello”.

Su compañera conservadora, la baronesa Owen, quien hizo campaña por un cambio legislativo en la Cámara de los Loresle dijo a la BBC que el gobierno había “repetidamente demorado” el cumplimiento de las reglas.

“No podemos permitirnos más retrasos”, afirmó.

“Los supervivientes de este abuso merecen algo mejor.

“Nadie debería vivir con el temor de que se viole su consentimiento de esta manera atroz”.

Y su colega baronesa Beban Kidron dijo a la BBC: “La tecnología avanza rápido y se espera que esta legislación llene el vacío existente, por lo que no hay razón para retrasarse”.

la bbc lo tiene Hablé con muchas mujeres. Grok AI convirtió a aquellos que publicaron fotografías de sí mismos en X en deepfakes.

Grok es una herramienta gratuita que los usuarios suelen etiquetar debajo de los comentarios de otras personas con indicaciones para reaccionar o proporcionar contexto.

Más recientemente, las personas han podido usar chatbots para alterar imágenes que ellos u otras personas han subido etiquetándolas e incluyendo mensajes de texto, incluso si eso implica desnudarse o posar para tener sexo.

Evie le dijo a la BBC que si bien la gente había comenzado a responder a fotos de ella pidiéndole a Grok que usara un bikini hace unos meses, la última actualización hizo que fuera “más fácil” para los usuarios hacerlo y las imágenes parecían “más realistas”.

Ella dice que ahora ha tenido al menos 100 imágenes sexuales de ella misma generadas por un asistente de inteligencia artificial, hasta el punto de que dejó de reportarlas todas debido al “estrés mental” que implica verlas.

Además de ver imágenes de ella misma, la idea de que sus seres queridos la vieran en poses sexuales o desnuda le hacía muy difícil permanecer en X.

“Mi familia me sigue allí, mis amigos, mis colegas”, dijo.

“Saber que todas las personas que me importan en mi vida pueden verme así… es asqueroso”.

La Dra. Daisy Dixon es otra usuaria de X que le dijo a la BBC que ha visto un aumento en el número de personas que usan Grok para desnudarla, particularmente su foto de perfil.

Dijo que las imágenes la hicieron sentir “humillada” y dijo que Groke automáticamente comentó sobre las imágenes alteradas, haciéndola sentir como si hubiera sido atacada.

“Tener el poder de devolvértelo es como decir ‘Tengo el control de ti y te recuerdo que tengo el control de ti'”, dijo.

“No queremos diluir el concepto, pero se siente como una especie de asalto al cuerpo”.

Y los usuarios de X como Evie dicen que es necesario actuar ahora.

“Hay muchos lugares en línea donde puedes hacer esto, pero esto sucedió en Twitter con un robot de inteligencia artificial integrado; es una locura, está permitido”, dijo.

“¿Por qué se permite esto y por qué no se hace nada al respecto?”