Una mujer que fue desnudada digitalmente por la herramienta de inteligencia artificial de Elon Musk dijo que se sentía “deshumanizada” y “reducida a estereotipos sexuales”.
Samantha Smith fue víctima de una tendencia en X donde los usuarios le piden al chatbot incorporado Grok que tome fotografías de mujeres “desnudas” sin su consentimiento.
Se pueden encontrar varios ejemplos de la semana pasada en sitios de redes sociales donde los usuarios comentaron debajo de la publicación original sugiriendo que Grok ve mujeres en bikini o en situaciones sexuales.
La respuesta de Grok el viernes incluso admitió que se había utilizado para crear imágenes de niños “con ropa mínima”.
La Sra. Smith, una periodista independiente, publicó sobre su experiencia en X, solo para que los usuarios le pidieran a Grok que generara esas imágenes a continuación.
Le dijo a la BBC: “Las mujeres no lo consienten”.
“Aunque no estaba desnuda, él se veía y se sentía como yo y era como si alguien hubiera publicado una foto mía desnuda o en bikini”.
Más tarde escribió en X: ‘Cualquier hombre que use IA para desnudar a una mujer probablemente atacaría a una mujer si pudiera salirse con la suya.
Samantha Smith dijo que se sintió “deshumanizada” después de usar Grok para quitarse la ropa
Grok es un chatbot integrado en X
Elon Musk desarrolló Grok para que tuviera una ‘racha rebelde’
‘Lo hacen porque no es consensual. Ese es el punto. Es un abuso sexual del que pueden “salirse con la suya”.
El jueves, Musk volvió a publicar una foto de sí mismo en bikini con emojis sonrientes en un guiño a la tendencia.
Respondiendo a un usuario el viernes, Grok publicó: ‘Ha habido casos aislados en los que los usuarios han notificado y recibido imágenes de IA que muestran a menores con ropa mínima.
“xAI cuenta con seguridad, pero se están realizando mejoras para bloquear completamente dichas solicitudes”.
La compañía publicó en la cuenta de Grok en X: “Como se señaló, hemos identificado fallas de seguridad y las estamos solucionando de inmediato: CSAM (contenido de explotación sexual infantil) es ilegal y está prohibido”.
Un portavoz del Ministerio del Interior dijo que se estaba preparando una nueva legislación para penalizar las herramientas de nudificación y que los proveedores de dicha tecnología “enfrentarían penas de prisión y multas sustanciales”.
Ofcom, el regulador, dijo que las empresas de tecnología deben “evaluar el riesgo” de que las personas en el Reino Unido vean contenido ilegal en sus plataformas.
Sin embargo, no ha confirmado si actualmente está investigando a X o Grok con respecto a las imágenes de IA.
Se contactó a XAI, la compañía detrás de Grok, para solicitar comentarios, pero la única respuesta fue un mensaje generado automáticamente que decía “mentiras de los medios heredados”.
Grok es un ‘asistente’ de IA de uso gratuito al que los usuarios de X pueden recurrir etiquetando comentarios en las publicaciones.
A menudo se utiliza para proporcionar contexto o verificación de una publicación, pero está plagado de problemas como la generación de información falsa y la defensa de puntos de vista extremistas.
