Ofcom ha establecido un “contacto urgente” con la empresa xAI de Elon Musk, tras los informes de que la herramienta de inteligencia artificial Grok podría utilizarse para crear “imágenes sexuales de niños” y desnudar a mujeres.
Una portavoz del regulador dijo que también estaba investigando preocupaciones de que Grok estuviera produciendo “imágenes desnudas” de personas.
La BBC ha visto varios ejemplos. Personas pidiendo a los chatbots en la plataforma de redes sociales X que muestren mujeres en bikini sin su consentimiento, así como que alteren imágenes reales para ponerlas en situaciones sexuales.
X no respondió a una solicitud de comentarios. El domingo, que Se advierte a los usuarios Grok no debe utilizarse para crear contenido ilegal, incluido contenido de explotación sexual infantil.
Elon Musk También publicado para decir Cualquiera que le diga a AI que cree contenido ilegal “sufrirá las mismas consecuencias” que quienes lo suban ellos mismos.
La propia Política de uso aceptable de XAI prohíbe “representar la imagen de personas de manera obscena”.
Pero Grok se está utilizando para desnudar digitalmente a personas sin su consentimiento y sin avisarles.
Es un asistente virtual gratuito, con algunas funciones premium de pago, que responde a indicaciones cuando X usuarios los etiquetan en una publicación.
Samantha Smith, una periodista que descubrió que los usuarios habían utilizado IA para crear fotografías de ella en bikini, dijo el viernes al programa PM de la BBC que eso la hacía sentir “deshumanizada y reducida a estereotipos sexuales”.
“Aunque no estaba desnuda, ella se parecía a mí y se sentía como yo, y se sintió como una violación que alguien publicara una foto mía desnuda o en bikini”, dijo.
Según las leyes de seguridad en línea, Ofcom dice que es ilegal crear o compartir imágenes íntimas o sexualmente explícitas -incluidos los “deepfakes” creados con IA- sin el consentimiento de una persona.
Se espera que las empresas tecnológicas tomen “medidas apropiadas” para reducir el riesgo de que los usuarios del Reino Unido encuentren dicho contenido y lo eliminen “con prontitud” cuando se den cuenta de ello.
Una portavoz del Ministerio del Interior dijo que se estaba introduciendo una legislación para prohibir los dispositivos de nudificación y que, según el nuevo delito penal, cualquiera que suministre dicha tecnología se enfrentaría a “penas de prisión y multas sustanciales”.
