La plataforma de redes sociales X de Elon Musk ha provocado indignación después de utilizar el chatbot de IA Grok para alterar fotos de mujeres sin ropa.
La BBC ha visto muchos casos de mujeres que fueron desnudadas para aparecer en bikini sin su consentimiento, además de ser sometidas a situaciones sexuales.
XAI, la compañía detrás de Grok, no respondió a la solicitud de comentarios de la BBC, aparte de una respuesta generada automáticamente de “mentiras de los medios heredados”.
Una portavoz del Ministerio del Interior dijo que se estaba introduciendo una legislación para prohibir los dispositivos de nudificación y que, según el nuevo delito penal, cualquiera que suministre dicha tecnología se enfrentaría a “penas de prisión y multas sustanciales”.
El regulador Ofcom dijo que las empresas de tecnología deben “evaluar el riesgo” de que las personas en el Reino Unido vean contenido ilegal en sus plataformas, pero no confirmó si actualmente estaba investigando a X o Grok en relación con las imágenes de IA.
Grok es un asistente de inteligencia artificial gratuito, con algunas funciones premium de pago, que responde a las indicaciones de X usuarios cuando los etiquetan en una publicación.
Generalmente se usa para responder o agregar más contexto a los comentarios de otros usuarios, pero la gente de X puede editar las imágenes cargadas a través de su función de edición de imágenes con IA.
Ha sido criticado y acusado anteriormente de permitir a los usuarios crear fotos y vídeos con desnudos y contenido sexual. Haciendo un clip sexualmente explícito de Taylor Swift.
Claire McGlynn, profesora de derecho en la Universidad de Durham, dijo que X o Grok “podrían prevenir este tipo de abuso si quisieran”, y agregó que “parecen disfrutar de impunidad”.
“La plataforma ha estado permitiendo la creación y distribución de estas imágenes durante meses sin ninguna acción y aún no hemos visto ningún desafío por parte de los reguladores”, dijo.
La propia XAI Política de uso aceptable Prohíbe “representar la imagen de personas de manera pornográfica”.
En una declaración a la BBC, Ofcom dijo que era ilegal “crear o compartir imágenes íntimas o material de explotación sexual infantil sin consentimiento” y confirmó que esto incluía deepfakes sexuales creados con IA.
Las plataformas como X deben tomar “medidas apropiadas” para “minimizar el riesgo” de que los usuarios del Reino Unido encuentren contenido ilegal en sus plataformas y lo eliminen rápidamente cuando se den cuenta.
