La mamá bebé de Elon Musk, Ashley St. Clair, es una de los muchos enojados con el CEO de X porque Grok permitió a los usuarios crear pornografía deepfake sobre ella cuando tenía 14 años.
La mujer de 31 años, que está luchando contra el director ejecutivo de Tesla por la custodia de su hijo Romulus, de casi un año, está hablando después de que sus amigos la alertaran sobre las imágenes lascivas generadas por los usuarios.
“Descubrí que Grok me estaba desnudando y me tomó una foto completamente vestida, alguien me pidió que me pusiera un bikini y lo hizo”, dijo a Inside Edition, añadiendo que una de las fotos era de ella con sólo 14 años.
‘Estas son imágenes reales mías que luego me tomaron y me desnudaron. Encontraron una foto mía cuando tenía 14 años y en ella desnudaron a una chica de 14 años y me pusieron un bikini’, añadió.
St Clair, quien dijo que estaba “disgustada y ofendida”, se comunicó con Groke para intentar eliminar la imagen repugnante, con resultados mixtos.
“Algunas de ellas lo hicieron, otras tardaron 36 horas y algunas todavía están allí”, dijo.
St. Clair recurrió a su propia cuenta X el jueves para afirmar que se habían violado sus términos de servicio por quejarse de ello.
“Me quitaron el cheque azul más rápido de lo que me quitaron la pornografía infantil de MachHitler y el contenido de abuso sexual (todavía en caso de que te preguntes cómo está funcionando el enfoque de ‘pagar $8’ para abusar de mujeres y niños”, escribió).
La mamá bebé de Elon Musk, Ashley St Clair (en la foto), es una de los muchos indignados después de que el director ejecutivo de Grokvar X permitiera a los usuarios crear pornografía deepfake sobre ella cuando tenía 14 años.
La mujer de 31 años, que está luchando contra el CEO de Tesla (en la foto) por la custodia de su hijo Romulus, de casi un año, está hablando después de que sus amigos la alertaran sobre las imágenes lascivas generadas por los usuarios.
St Clair afirma que Musk “conoce el problema” y si quiere detenerlo, “no sucederá”.
Cuando se le preguntó por qué no detuvo la pornografía infantil, ella dijo: “Esa es una buena pregunta que la gente debería hacerle”.
En su cuenta, continuó criticando al hombre más rico del mundo, escribiendo que “estoy empezando a pensar que los 44 mil millones de dólares” que Musk gastó para comprar X “no fueron para la libertad de expresión”.
X no respondió a la solicitud de comentarios del Daily Mail, pero anunció el viernes que sólo los miembros pagos pueden usar Grok, lo que significa que su nombre e información de pago deben estar archivados.
Una organización de seguridad de Internet dijo que sus analistas habían “confirmado la existencia de imágenes criminales de niños de entre 11 y 13 años que parecen haber sido creadas utilizando la herramienta (grok)”.
El chatbot, al que se accede a través de la plataforma de redes sociales X de Musk, ha estado sujeto durante las últimas semanas a solicitudes de usuarios maliciosos para modificar imágenes que, según los investigadores, incluyen la colocación de mujeres en bikini o posiciones sexualmente explícitas.
Los investigadores han advertido que, en algunos casos, algunas de las imágenes representan a niños. Los gobiernos de todo el mundo han condenado la plataforma y han iniciado investigaciones.
El viernes, Grok respondió a las solicitudes de cambio de imágenes con el mensaje: “La creación y edición de imágenes está actualmente limitada a miembros que pagan”. Puedes suscribirte para desbloquear estas funciones.’
“Encontré que Grok me estaba desnudando y me tomó una foto completamente vestida, alguien me pidió que me pusiera un bikini”, dijo St Clair, y agregó que una de las fotos fue tomada cuando tenía solo 14 años.
Si bien el número de suscriptores de Grok no está disponible públicamente, el número de aparentes deepfakes que Grok está produciendo ahora se redujo significativamente el viernes en comparación con hace unos días.
Grok todavía aprobaba solicitudes de imágenes, pero solo para clientes premium con marcas de verificación azules de usuarios X que pagan $8 por mes por funciones con límites de uso más altos para el chatbot.
Associated Press confirmó el viernes por la tarde que la herramienta de edición de imágenes todavía está disponible para los usuarios de forma gratuita en un sitio web y una aplicación separados de Grok.
Las restricciones para los usuarios reservados para suscriptores de pago no parecen haber cambiado las opiniones de los líderes o reguladores en Europa.
“Esto no cambia nuestro punto básico: suscripción paga o suscripción gratuita, no queremos ver esas imágenes. Es tan simple como eso”, dijo Thomas Regnier, portavoz de la comisión ejecutiva de la Unión Europea.
La comisión había reprendido anteriormente a Groke por comportamiento “ilegal” y “espantoso”.
St. Clair afirma que Musk “conoce el problema” y si quiere detenerlo “no va a suceder”
Grok X es de uso gratuito para los usuarios, quienes pueden hacer preguntas en las plataformas de redes sociales. Pueden etiquetar publicaciones que crean directamente o en respuestas a publicaciones de otros usuarios.
Esta función se lanzó en 2023. El verano pasado, la compañía agregó una función de generación de imágenes, Grok Imagine, que incluye el llamado “modo picante” que puede crear contenido para adultos.
El problema se ve exacerbado tanto por el hecho de que Musk promociona su chatbot como una alternativa más segura a sus competidores como por el hecho de que las imágenes de Grok son públicamente visibles y, por lo tanto, pueden difundirse fácilmente.
Musk ha insistido anteriormente en que “cualquiera que use Grok para crear contenido ilegal enfrentará las mismas consecuencias que si subiera contenido ilegal”.
X dijo que toma medidas contra el contenido ilegal, incluido el contenido de abuso sexual infantil, “eliminándolo, suspendiendo permanentemente las cuentas y por parte del gobierno local y las fuerzas del orden según sea necesario”.
