La ex de Elon Musk dice que la herramienta de inteligencia artificial Grok ya no desnudará fotografías de personas reales después de una reacción violenta contra la creación de deepfakes sexuales.
A los chatbots se les ha impedido “revelar su ropa”, mientras Musk cede ante las críticas de gobiernos y activistas.
Un anuncio de X decía: ‘Hemos implementado medidas técnicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales en ropa como bikinis.
“Esta restricción se aplica a todos los usuarios, incluidos los miembros pagos”.
Ha habido una indignación generalizada por la tendencia de utilizar grocs para desnudar a mujeres y niños sin su consentimiento.
Muchas mujeres dijeron que se sentían violadas por la capacidad de completos desconocidos de crear imágenes comprometedoras en contra de su voluntad.
El gobierno del Reino Unido, entre otros, presionó a Musk para que detuviera esta repugnante tendencia, lo que provocó debates urgentes sobre las leyes de seguridad en línea y la inteligencia artificial.
Sir Keir Starmer calificó las imágenes sexuales no consensuadas producidas como “repugnantes” y “vergonzosas” y el regulador de medios Ofcom inició una investigación.
Grok, el chatbot de IA afiliado a X, ya no podrá crear imágenes sexuales sin el consentimiento de personas reales.
Musk ha cedido a la presión de gobiernos y activistas para limitar las capacidades de sus herramientas de inteligencia artificial.
Parte de una actualización sobre Grok publicada en X el miércoles por la noche
La semana pasada, la capacidad de crear imágenes con Grok estaba limitada a los usuarios suscritos a la revista, pero ya no podrán crear pequeñas ediciones.
El aumento completo, anunciado anoche, también se produjo horas después de que el fiscal principal de California dijera que estaba investigando la reciente difusión de falsificaciones de IA.
Ayer Grok empezó a rechazar tales solicitudes, respondiendo: “Lamentablemente no puedo producir ese tipo de imagen”.
Starmer acogió con satisfacción ese avance en las preguntas del Primer Ministro, pero insistió en que no llegó muy lejos.
Insistió en que la investigación de Ofcom, que tiene poderes para imponer multas de hasta miles de millones de libras, seguiría adelante.
La Secretaria de Tecnología, Liz Kendall, dijo esta semana que está presentando regulaciones para endurecer la ley sobre el llamado ‘desmontaje digital’.
Otros países actuaron con más decisión: Malasia e Indonesia bloquearon completamente a Grok durante el fiasco.
Mientras tanto, el gobierno federal de Estados Unidos se negó a condenar la creación de Musk, y el secretario de Defensa, Pete Hegseth, dijo que Grok se uniría al motor de inteligencia artificial generativa de Google que opera en la red del Pentágono.
Al dirigirse a los parlamentarios durante las preguntas del Primer Ministro el martes, Sir Kiir dijo que se necesitaban más acciones.
La herramienta de redes sociales comenzó a negarse a cumplir con las solicitudes de los usuarios después de que el Primer Ministro exigiera que el multimillonario tecnológico estadounidense actuara para impedir la creación de DeepFax.
El Departamento de Estado de Estados Unidos ha amenazado al Reino Unido, advirtiendo que “no hay nada descartado” si se prohíbe X.
Tras los comentarios del Primer Ministro en las PMQ, Musk escribió en X que “no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok”, aunque el propio chatbot admitió que había generado imágenes sexuales de niños.
Musk añadió: “Obviamente, Grok no genera imágenes de forma espontánea, sólo lo hace a petición del usuario”, dijo.
‘Cuando se le pide que genere una imagen, se negará a generar nada ilegal, ya que el principio operativo de Grok es cumplir con las leyes de cualquier país o estado.
‘Puede haber ocasiones en las que las indicaciones anti-piratería grok hagan algo inesperado. Si es así, solucionamos el fallo inmediatamente.’
Si se descubre que X ha violado las leyes de seguridad en línea en el Reino Unido, Ofcom podría recibir una multa de hasta el diez por ciento de sus ingresos globales, o £18 millones.
También tiene derecho a intentar que los tribunales bloqueen el sitio.
El exjefe de Meta, Sir Nick Clegg, ha pedido una regulación más estricta de las empresas de tecnología, calificando las redes sociales de “cáliz venenoso” y el auge de la IA en línea como un “desarrollo negativo”.
El ex viceprimer ministro advirtió que interactuar con contenido “automatizado” parece ser “mucho peor para la salud mental de los jóvenes” que interactuar con otros humanos.
