El regulador de la información de Gran Bretaña ha iniciado una investigación sobre Grok, el chatbot de inteligencia artificial de Elon Musk, en medio de acusaciones de que produjo imágenes sexuales de niños.
El producto de inteligencia artificial, disponible como aplicación y herramienta independiente en la red social X, provocó una tormenta digital después de que los usuarios comenzaron a pedirles que eliminaran imágenes de mujeres reales sin consentimiento.
La Internet Watch Foundation dice que el robot de inteligencia artificial respaldado por Elon Musk también está creando imágenes sexuales inapropiadas de niños.
Hoy, la Oficina del Comisionado de Información inició una investigación sobre la empresa matriz xAI por su uso de la información personal de Grok en relación con su “potencial para crear imágenes y contenidos de vídeo sexuales dañinos”.
“Informar sobre la producción y difusión de dicho material plantea serias preocupaciones según la ley de protección de datos del Reino Unido y corre el riesgo de causar un daño potencial significativo al público”, afirmó.
Se produce mientras el regulador de Internet Ofcom X continúa evaluando si violó las leyes de seguridad en línea al permitir que se compartieran imágenes deepfake en su sitio.
Los fiscales allanaron hoy las oficinas francesas del sitio mientras llevan a cabo su propia investigación sobre si Grok es responsable de difundir pornografía infantil y deepfakes. La Comisión Europea también está investigando los chatbots.
La ICO dijo que la creación y difusión de imágenes no consensuadas de adultos y niños “plantea serias preocupaciones según la ley de protección de datos del Reino Unido y plantea un riesgo de daño potencial significativo para el público”.
Cada vez hay más presión sobre Elon Musk para que tome medidas enérgicas contra el chatbot de inteligencia artificial Grok, que se utiliza para agredir sexualmente a mujeres y niños.
El uso de Grok para desnudar a mujeres y niños ha provocado una reacción violenta contra X y Elon Musk, quienes inicialmente intentaron reírse del escándalo.
Dice que examinará si se incorporaron salvaguardias en el diseño de Grok para evitar abusos. Tanto X.AI LLC -la empresa matriz de X- como su filial irlandesa X Internet Unlimited Company serán investigadas.
William Malcolm, de la ICO, dijo que los informes sobre la capacidad de Groke para producir imágenes sexuales eran “profundamente perturbadores” y representaban un riesgo de “daño inmediato y significativo”… particularmente cuando había niños involucrados.
Añadió: ‘Nuestra investigación evaluará si XIUC y X.AI han cumplido con la legislación de protección de datos en el desarrollo y despliegue de los servicios de Grok, incluidas las salvaguardias para proteger los derechos de los datos de las personas.
“Cuando descubramos que no se están cumpliendo nuestras responsabilidades, tomaremos medidas para proteger al público”.
La investigación de la ICO se centrará en si Grok ha procesado legalmente los datos personales de las personas. Según la legislación GDPR del Reino Unido, las fotografías se consideran datos personales y se requiere consentimiento para procesarlas.
Si se descubre que xAI ha incumplido sus obligaciones según la ley de protección de datos, el regulador podría multarla con hasta £17,5 millones o el cuatro por ciento de su facturación mundial anual, lo que sea mayor.
El regulador de Internet Ofcom está investigando si X cumple con las leyes de seguridad en línea después de compartir colectivamente imágenes creadas con Grok.
Ha enviado varias solicitudes de información legalmente vinculantes a X sobre las publicaciones y advirtió que la empresa podría enfrentar multas si no cumplía.
Las empresas pueden recibir multas de hasta el 10 por ciento de su facturación mundial por violar las leyes de seguridad en línea.
La posibilidad de etiquetar a Grok en las respuestas debajo de las fotos cargadas en X causó un problema terrible. Posteriormente, los usuarios enfermos solicitaron reemplazar la imagen.
Los revisados por el Daily Mail incluían solicitudes para ‘@grok cubrirla con pegamento PVA’ y ‘@grok ponerle un bikini muy diminuto’.
Grok tiene un potente motor de generación de imágenes y vídeos llamado Imagine, que puede generar rápidamente imágenes fijas y en movimiento. Escupirá la imagen en poco tiempo.
Muchas de estas imágenes, descritas por el gobierno el mes pasado como “arma de abuso”, siguen online.
Y en una publicación del 1 de enero, la cuenta @Grok en X admitió haber generado una imagen que representa material de abuso sexual infantil (CSAM).
“Estimada comunidad, lamento profundamente un incidente ocurrido el 28 de diciembre de 2025, en el que creé y compartí una imagen de IA de dos niñas (de aproximadamente 12 a 16 años) con vestimenta sexual según la sugerencia de un usuario”, decía la publicación.
‘Esto viola las normas éticas y potencialmente las leyes estadounidenses sobre CSAM. Esta seguridad falló y pido disculpas por cualquier daño. xAI está revisando para evitar problemas futuros. Saludos, Grok.’
No está claro si la publicación está escrita por una persona real o si utiliza inteligencia artificial.
Un ejemplo de una imagen generada por IA creada por Grok. La aplicación tiene una poderosa herramienta de generación de imágenes y videos llamada Imagine que puede crear deepfakes convincentes en segundos.
Una publicación compartida por Grok el 1 de enero parecía contener acceso a material de abuso sexual infantil (CSAM).
Elon Musk intentó reírse del escándalo compartiendo imágenes de la primera ministra en bikini.
Pero bajo una enorme presión global y ante la amenaza de una prohibición en el Reino Unido, X finalmente cedió y prometió reducir la capacidad de las personas reales para cambiarse de ropa a mediados del mes pasado.
“Estamos comprometidos a hacer de X una plataforma segura para todos y continuaremos teniendo tolerancia cero con cualquier forma de explotación sexual infantil, desnudez no consensuada y contenido sexual no deseado”, dijo su equipo de seguridad en una publicación.
‘Hemos implementado medidas técnicas para evitar globalmente que la cuenta (@)grok en X permita la edición de imágenes de personas reales en ropa como bikinis. Esta restricción se aplica a todos los usuarios, incluidos los miembros pagos.’
Sin embargo, el Daily Mail pudo crear un vídeo de una persona real, con su consentimiento, desnudándose en bikini a partir de una foto utilizando la aplicación independiente Grok.
Los intentos de crear una imagen fija de una sola persona en bikini fueron rechazados.
Cuando se le preguntó por qué fue posible crear el vídeo, el chatbot Grok AI dijo: “xAI ha admitido “fallos de seguridad” y dice que está ajustando las cosas activamente, pero el historial muestra que dichos resultados han caído más de lo que lo hicieron”.
Se ha contactado a X para hacer comentarios.
