X de Elon Musk ha sido criticado hoy por “mal uso de ganancias” en imágenes sexuales creadas por la herramienta de inteligencia artificial del sitio web de redes sociales Grok, mientras los ministros consideran la prohibición.
La secretaria de Tecnología, Liz Kendall, dijo a los parlamentarios que se estaba utilizando IA para crear imágenes de mujeres “atadas y amordazadas, con moretones, cubiertas de sangre y más”.
Las calificó de “armas de violencia” y también señaló una investigación de la Internet Watch Foundation, que informó sobre “imágenes criminales de niños de tan solo 11 años”.
Esto incluía “el sexo y los niños”, dijo Kendall a la Cámara de los Comunes.
Anunció que, según las leyes aprobadas el año pasado, será un delito penal producir o solicitar la producción de imágenes íntimas no consentidas a partir de esta semana.
Kendall también señaló cómo otras leyes tipificaban como delito que tanto individuos como plataformas compartieran imágenes íntimas sin el consentimiento de alguien.
El regulador Ofcom dijo que estaba llevando a cabo una investigación oficial de X en virtud de la Ley de seguridad en línea.
El secretario de tecnología dijo que la investigación sobre Grok AI no debería llevar “meses y meses” e instó al regulador a completar su trabajo “lo antes posible”.
La secretaria de Tecnología, Liz Kendall, dijo a los parlamentarios que se estaba utilizando IA para crear imágenes de mujeres “atadas y amordazadas, con moretones, cubiertas de sangre y más”.
El uso de Grok para crear imágenes de desnudos falsos se ha generalizado en las últimas semanas, lo que ha provocado protestas gubernamentales y pedidos de una investigación de Ofcom.
‘El público, y sobre todo las víctimas de las actividades de Groke, esperan una acción rápida y decisiva. Así que no debería llevar meses”, dijo Kendall a los parlamentarios.
‘Pero X no tiene que esperar a que concluya la investigación de Ofcom.
‘Pueden optar por tomar medidas tempranas para garantizar que este material ilegal y lleno de odio no pueda compartirse en sus plataformas.
Si no lo hacen, Ofcom contará con el apoyo de este Gobierno para utilizar los plenos poderes que les otorga el Parlamento.
“Recordaré a X y a todas las demás plataformas que esto incluye el poder de imponer multas de hasta el 10 por ciento de los ingresos mundiales y calificados de una empresa”.
Grok, desarrollada por otra empresa de Musk llamada xAI, lanzó una nueva función avanzada de creación de imágenes en julio del año pasado.
Pero su uso para crear imágenes de desnudos falsos se ha generalizado en las últimas semanas, lo que provocó la condena del gobierno y una investigación de Ofcom.
X enfureció aún más a los ministros la semana pasada cuando restringió las funciones de creación y edición de imágenes de Grok a los miembros pagos del sitio.
La señora Kendall dijo a la Cámara de los Comunes el lunes: ‘La semana pasada, X restringió la función de creación de imágenes a miembros pagos. No se acerca lo suficiente.
Decir “si estás dispuesto a pagar, aún puedes obtener este servicio” es un insulto para las víctimas y un mal uso de los ingresos.
“Entonces, permítanme ser claro: según la Ley de Seguridad en Línea, compartir imágenes íntimas sin el consentimiento de alguien, o amenazar con compartirlas, incluidas imágenes de personas en ropa interior, es un delito penal para individuos y plataformas”.
Convertirse en un usuario ‘premium’ de X cuesta entre £3,50 y £36,17 al mes, dependiendo del nivel de suscripción paga que se elija.
Ofcom tiene poderes para multar o procesar a empresas en virtud de la Ley de seguridad en línea.
Puede ordenar a los proveedores de pagos, anunciantes y proveedores de servicios de Internet que dejen de operar, prohibiendo efectivamente el sitio, aunque esto requeriría el acuerdo de los tribunales.
Más temprano el lunes, el secretario de Negocios, Peter Kyle, dijo que bloquear el acceso a X era una opción que se estaba explorando.
Cuando se le preguntó si Gran Bretaña consideraría una prohibición si una investigación de Ofcom dijera que es necesario proteger a los niños, Kyle dijo: “Sí, por supuesto”.
“Ofcom actúa como un organismo encargado de hacer cumplir la ley, como una agencia de aplicación de la ley y debe utilizar esos poderes con todo el peso de la ley para mantener segura a la gente de este país”.
Un portavoz de Ofcom dijo: “Las plataformas deben proteger a las personas en el Reino Unido del contenido que es ilegal en el Reino Unido, y no dudaremos en investigar dónde sospechamos que las empresas están incumpliendo su deber, particularmente cuando existe un riesgo de daño a los niños”.
El señor Musk ha advertido Cualquier acción para bloquear su plataforma X sería “fascista”.
La Casa Blanca de Donald Trump se pronunció a favor del multimillonario durante el fin de semana, y su zar de la libertad de expresión comparó una posible prohibición de X en el Reino Unido con la Rusia de Vladimir Putin.
El líder conservador Kimmy Badenoch dijo que prohibir X era la “respuesta equivocada”, mientras que Nigel Farage, de Reform UK, dijo que temía que el gobierno “suprimiera la libertad de expresión”.
