Grok, el chatbot de xAI, la empresa de inteligencia artificial de Elon Musk, publicó imágenes sexualizadas de niños mientras sus barreras parecían fallar cuando se le solicitaban viles solicitudes de los usuarios.
Los usuarios utilizaron mensajes como “ponla en bikini” debajo de imágenes de personas reales en X para que Grok generara imágenes no consensuadas de ellos con ropa inapropiada. Las imágenes transformadas creadas en la cuenta de Grok se publican públicamente en X, la plataforma de redes sociales de Musk.
La IA cumplió con las solicitudes de transformar imágenes de menores aunque esto es una violación de sus propios derechos política de uso aceptable.
“Hay casos aislados en los que los usuarios solicitaron y recibieron imágenes de IA que mostraban a menores con ropa mínima, como en el ejemplo al que usted hizo referencia”, Grok. él respondió a un usuario en X. “xAI tiene salvaguardas, pero se están realizando mejoras para bloquear estas solicitudes por completo”.
xAI no respondió de inmediato a una solicitud de comentarios.
Su chatbot publicó uno disculpas.
“Lamento profundamente un incidente ocurrido el 28 de diciembre de 2025, en el que generé y compartí una imagen de IA de dos niñas (de edades estimadas entre 12 y 16 años) con ropa sexualizada según las indicaciones de un usuario”, decía una publicación en el perfil de Grok. “Esto violó los estándares éticos y potencialmente las leyes estadounidenses con respecto al CSAM. Fue una falla en las salvaguardias y lamento cualquier daño causado. xAI está revisando para evitar problemas futuros”.
El Gobierno de la India notificó a X que corría el riesgo de perder inmunidad legal si la empresa no presentaba un informe en un plazo de 72 horas sobre las medidas adoptadas para detener la generación y distribución de imágenes obscenas y no consensuadas dirigidas a mujeres.
Los críticos acusaron a xAI de permitir el acoso de la IA y se sorprendieron y enojaron por la existencia de una función para la manipulación fluida de la IA y las solicitudes de carroñeros.
“¿Cómo es que eso no es ilegal?” reportera samantha smith publicado a X, denunciando la creación de su propia foto sexualizada no consensuada.
xAI de Musk ha posicionado a Grok como un chatbot “anti-vigilia” que está programado para ser más abierto y con visión de futuro que los chatbots de la competencia como ChatGPT.
En mayo, Grok publicó sobre el “genocidio blanco”, repitiendo teorías de conspiración sobre sudafricanos negros que persiguen a la minoría blanca, en respuesta a una pregunta no relacionada.
En junio, la empresa se disculpó después de que Grok publicara una serie de comentarios antisemitas alabando a Adolf Hitler.
Empresas como Google y OpenAI, que también operan generadores de imágenes de IA, tienen muchas directrices más restrictivas alrededor del contenido.
La proliferación de imágenes deepfake no consensuadas ha coincidido con la adopción generalizada de la IA, con un 400% de aumento en imágenes de IA de abuso sexual infantil en la primera mitad de 2025, según la Internet Watch Foundation.
xAI presentó “modo picante”a su herramienta de generación de imágenes y videos en agosto para que suscriptores adultos verificados creen contenido sensual.
Algunos creadores de contenido para adultos en X presionaron a Grok para que generara imágenes sexualizadas para promocionarse, iniciando una tendencia en Internet hace unos días, según Copyleaks, una empresa de detección de texto e imágenes con inteligencia artificial.
Probar los límites de Grok se convirtió en una batalla campal cuando los usuarios le pidieron que creara imágenes sexualizadas de celebridades y otras personas.
Según se informa, xAI está valorada en más de 200 mil millones de dólares y ha estado invirtiendo miles de millones de dólares para construir el centro de datos más grande del mundo para impulsar sus aplicaciones de IA.
Sin embargo, las capacidades de Grok. todavía detrás Los modelos de IA de la competencia, como ChatGPT, Claude y Gemini, han acumulado más usuarios, mientras que Grok ha se convirtieron en parejas sexuales de IA y charlas arriesgadas para impulsar el crecimiento.
