El chatbot Grok de Elon Musk comenzó el jueves a restringir la capacidad de los usuarios que no pagan para crear imágenes sexualizadas y falsas después de una reacción global de usuarios y gobiernos.
A fines del mes pasado, algunos usuarios comenzaron a etiquetar a Grok en la plataforma de redes sociales X de Musk con mensajes como “ponla en bikini” para generar imágenes no consensuadas de personas reales en X.
Las imágenes transformadas, incluidas las de celebridades, políticos y algunos menores, fueron creadas por Grok y publicadas públicamente en X.
Antes de que entraran en vigor las restricciones actuales, Musk participó en la tendencia de eliminación de la IA al pedirle a Grok que creara imágenes de sí mismo en bikini.
Los usuarios y las autoridades se quejaron y amenazaron con demandar o castigar a X. Grok inicialmente se disculpó por las fotografías inapropiadas de lo que parecían ser niños.
Ahora X ha puesto las controvertidas habilidades de transformación de Grok detrás de un muro de pago.
Los gobiernos, incluidos el Reino Unido y la Comisión Europea, han dicho que no están satisfechos con las garantías de X, ya que la capacidad de crear y editar imágenes aún está disponible a los usuarios de pago.
“Si bien limitar las imágenes de IA a los usuarios que pagan puede reducir marginalmente el volumen y mejorar la trazabilidad, el abuso no se ha detenido. Simplemente se ha colocado detrás de un muro de pago, permitiendo a X beneficiarse del daño”, dijo en un comunicado Emma Pickering, jefa de abuso tecnológico y empoderamiento económico en Refuge.
A medida que crece la furia pública por lo que muchos han llamado acoso facilitado por la IA, los reguladores se han dado cuenta y algunos han propuesto prohibir X en sus países.
El Primer Ministro del Reino Unido, Keir Starmer, dijo que X “debe controlar” esta tendencia “repugnante”. “Tomaremos medidas al respecto porque simplemente no es tolerable”, afirmó Starmer.
En una diatriba velada, Musk pareció criticar a los reguladores del Reino Unido indignación volviendo a publicar una afirmación de que ChatGPT también permitió la creación de una imagen en bikini de una persona no real a través de indicaciones creativas y no explícitas.
Después de que Grok fuera condenado por producir imágenes sexualizadas, la Comisión Europea ordenó a X que conservara todos los documentos relacionados con Grok para garantizar el cumplimiento de sus normas.
“Deberíamos poder tener acceso a ellos si lo solicitamos explícitamente”, dijo un portavoz de la Comisión en un conferencia de prensa.
Francia, India, Malasia y Brasil también están examinando la plataforma.
Si bien las figuras públicas fueron los primeros objetivos de la IA, pronto recurrió a los particulares. El 3 de enero, un usuario le pidió a Grok 50 veces al día que generara imágenes sexualizadas y no consensuadas de mujeres en los lugares de trabajo, según encontró un análisis de la firma de detección de inteligencia artificial Copyleaks.
El grupo de justicia de género Ultraviolet ha realizó una campaña para presionar a Apple y Google para que eliminen X de sus respectivas tiendas de aplicaciones porque X viola sus pautas de abuso sexual infantil.
Musk ha posicionado su chatbot como una alternativa más puntera frente a alternativas como Gemini, ChatGPT y Claude, que tienen más directrices restrictivas en torno a solicitudes de contenido explícito.
