El regulador de seguridad en línea del Reino Unido Fue anunciado el lunes. Estaba investigando oficialmente a X por la preocupación de que Grok “fue utilizado para crear y compartir imágenes de personas desnudas”, incluidos niños.
La agencia Ofcom dijo que estaba continuando con una “evaluación rápida” y X respondió a su solicitud de información el viernes. Si Ofcom descubre que X ha violado la ley del Reino Unido, podría hacer cualquier cosa, desde una prohibición del 10% de sus ingresos globales, prohibir a las empresas británicas hacer publicidad con X u ordenar a los proveedores de Internet del país que bloqueen la plataforma.
La investigación del Reino Unido es una de una serie de medidas tomadas por gobiernos de todo el mundo en respuesta a las capacidades de deepfake de Groke.
Los fines de semana, los reguladores En Indonesia y Malasia ellos anunciaron
Bloquearon temporalmente a X en su país citando sus leyes contra los deepfakes y el material de abuso sexual infantil (CSAM).
Mary Ann Franks, profesora de derecho de la Universidad George Washington que estudia la ley sobre pornografía no consensual y ha ayudado a dar forma a la legislación estatal y federal sobre el tema, dijo que no espera que el gobierno federal de Estados Unidos tome medidas. Pero las amenazas de otros países con leyes CSAM más estrictas podrían obligar a X y Musk a frenarse, dijo.
“Si hay alguna desaceleración, estoy seguro de que se debe a la respuesta y luego por separado, porque estos otros países tienen diferentes definiciones de lo que constituye una clave CSAM no válida”, dijo Franks.
Según un análisis realizado por la investigadora de DeepFake Genevieve Oh, la semana pasada, después de que los usuarios se lo pidieran, Grok comenzó a crear miles de imágenes sexuales generadas por IA cada hora utilizando rostros humanos reales y a publicarlas en X. Muchos de los deepfakes representaban a mujeres identificables en trajes de baño o colocadas en poses reveladoras por inteligencia artificial; Pero Grock describió a algunas personas, incluidos algunos niños, completamente desnudas, según algunos guardias.
Una portavoz de la Comisión Europea, la agencia ejecutiva de la Unión Europea, dijo a NBC News que la agencia encontró recientemente a Groke tomando imágenes sexuales de niños.
El viernes, el Comisionado de Seguridad Electrónica de Australia, una agencia gubernamental dedicada a la seguridad en línea, Dijo que recibió varios informes. Grok produjo imágenes de explotación y pidió a X que aclarara sus problemas de seguridad, señalando que podría enviarle a X un aviso de eliminación. Tanto el primer ministro de Australia, Anthony Albanese, como la líder de la oposición, Susan Leigh, Imagen condenada el sábado.
Kasturi y X no respondieron de inmediato a una solicitud de comentarios. Almizcle y X Publicado recientemente Que prohíben a los usuarios crear “contenido ilegal”, pero se abstienen de indicar públicamente que alterarían significativamente la capacidad de Grok para manipular y sexualizar las imágenes de las personas. La producción y posesión de CSAM es ampliamente ilegal en todo el mundo, pero muchos países también tienen leyes que restringen o prohíben la producción de imágenes sexuales sin el consentimiento de adultos, lo que se conoce como pornografía no consensual.
El viernes por la mañana, X creó el Grok Reply Bot, que impulsó la tendencia de los deepfake, una característica premium para los clientes que pagan, aunque los usuarios aún pueden crear deepfakes usando la aplicación independiente de Grok junto con otras interfaces que Grok tiene disponibles. Aunque el número de fotografías de este tipo publicadas en X parece haber disminuido, el senador crítico como Ron Wyden, demócrata por Oregon, dijo que la medida era “similar a pagar por el privilegio de algunos de sus usuarios de crear imágenes espantosas en la aplicación X”.
Ofcom dijo que se centrará en si X está siguiendo la ley del Reino Unido al eliminar rápidamente el contenido ilegal tan pronto como tenga conocimiento de ello, y si está realizando evaluaciones de riesgo exitosas antes de realizar “cambios significativos en sus servicios”.
El jueves, el primer ministro británico, Keir Starmer, dijo en una entrevista radiofónica que Ofcom “tiene todo nuestro apoyo para tomar medidas”.
“Es vergonzoso. Es repugnante. Y no se puede tolerar”, dijo sobre la creación de imágenes. “X necesita controlarlo”.
El Ministerio de Electrónica y Tecnología de la Información de la India, MeitY, también Según los informes, X fue advertido la semana pasada. Que potencialmente violaba su ley. MeitY no respondió a una solicitud de comentarios.
Aún no está claro si algún regulador estadounidense tomará medidas contra Musk y sus empresas por las imágenes manipuladas. La Comisión Federal de Comercio no respondió a las solicitudes de comentarios. El Departamento de Justicia dijo a NBC News la semana pasada que está comprometido a responsabilizar a “las personas que utilizan la tecnología para dañar a los más vulnerables”, pero no nombró empresas específicas.
Varios fiscales generales estatales se negaron a comentar con NBC News si estaban considerando presentar cargos por las imágenes.
Musk ha presionado ampliamente para que X y su compañía de inteligencia artificial permitan a Grok, xAI, ser más laxo en la moderación de contenido que la mayoría de sus competidores. Viernes, Publicó en X. eso Informe del Partido Laborista del Reino Unido El intento de Grok de bloquear potencialmente a X sobre las imágenes fue evidencia de que “quieren cualquier excusa para la censura”.
El portavoz de la Comisión Europea, Thomas Regnier, dijo: conferencia de prensa del lunes Que dio a Musk y X un ultimátum para detener la producción de CSAM, pero lo hizo sin especificar ninguna sanción específica.
“Establecer un paralelo entre la libertad de expresión y una herramienta de inteligencia artificial que produce material de abuso sexual infantil es una tontería peligrosa, especialmente cuando proviene del propietario de una empresa de tecnología. Honestamente, no puedo creer que estemos hablando de esto desde el podio de la comisión en 2026 y participando en ello”, dijo Regnier.
En diciembre, la Comisión Europea multó a X con 140 millones de dólares, alegando que la plataforma infringía las leyes europeas contra el discurso de odio y la desinformación. Fue criticado por la administración Trump, y tanto el vicepresidente J.D. Vance como el secretario de Estado Marco Rubio lo calificaron de ataque a la libertad de expresión estadounidense.
