La madre de uno de los hijos de Elon Musk, Ashley St. Clair, ha presentado una demanda contra su empresa xAI por falsificaciones sexuales creadas en la plataforma de redes sociales X.
La demanda, presentada en Nueva York el jueves, alega que la herramienta Grok AI creó imágenes sexualmente explícitas de St. Clair.
X y la empresa matriz de Grok, xAI, han presentado contrademandas contra St. Clair por violar sus términos de servicio.
X no respondió directamente a las preguntas de BBC News sobre las demandas.
“Tenemos la intención de responsabilizar a Grok y ayudar a establecer límites legales claros para el beneficio del público en general”, dijo a BBC News el abogado de St Clair, Cary Goldberg.
“Al crear imágenes objetables y sexualmente explícitas de niñas y mujeres, xAI es una molestia pública y no un producto razonablemente seguro”, añadió Goldberg.
El expediente judicial de St. Clair alega: “Los usuarios de X fotografiaron a St. Clair, de 14 años, completamente vestida y le pidieron a Grok que la desnudara y le pusiera un bikini.
Dijo que la imagen creada de St Clair era “de hecho no consensuada”, pero que los desarrolladores de Grok también tenían “claro conocimiento” de su falta de consentimiento.
Grok también afirma haber creado una imagen de Santa Clara, que es judía, “en bikini cubierta de esvásticas”.
En respuesta a sus quejas, según el documento, la empresa “tomó represalias contra ella, cerrando su cuenta X y creando múltiples imágenes de ella”.
Algunos usuarios de X Premium, que pagan una tarifa mensual, pueden recibir una parte de los ingresos publicitarios de las publicaciones.
En una contrademanda, xAI dijo que St. Clair violó sus términos de servicio al demandar en Nueva York.
Los términos de la empresa exigen que las disputas con xAI se presenten en Texas.
Goldberg dijo a BBC News que la contrademanda de la empresa era “impactante”.
“Nunca he oído hablar de un acusado que haya demandado a alguien por notificarle su intención de utilizar el sistema legal”, dijo.
“Y su estrategia legal imita su abuso en línea”.
Añadió que St. Clair “defendería vigorosamente” su caso en Nueva York y que “cualquier jurisdicción reconocería la denuncia”.
St. Clair revelado En ex post el año pasado Que dio a luz al hijo del multimillonario tecnológico, uno de al menos 13 que se cree que lo engendró.
Se cree que St. Clair y Musk están enfrascados en una batalla por la custodia de su hijo.
X fue objeto de un intenso escrutinio por parte de los usuarios y de los políticos. Reguladores de todo el mundo Over grok se utiliza para crear imágenes sexuales no consensuadas de personas.
Los usuarios podían etiquetar la cuenta de Grok en publicaciones o responder a publicaciones en la plataforma y pedir a las personas que editaran imágenes para disfrazarlas.
Grok ha cumplido con muchas de esas solicitudes para crear imágenes fotorrealistas de mujeres reales en bikinis y vestidos, con informes de que incluso crean imágenes sexualizadas de niños.
El miércoles, antes de su comparecencia ante el tribunal, St Clair le dijo a BBC Newsnight que su imagen había sido “despojada” para aparecer “básicamente desnuda, inclinada”, a pesar de decirle a Grock que no daba su consentimiento para las imágenes sexuales.
Ella y otras mujeres cuyas imágenes fueron editadas con Grok dijeron que el sitio no estaba haciendo lo suficiente para abordar el contenido ilegal, incluidas imágenes de abuso sexual infantil.
Después de la respuesta, X cambió sus reglas para que solo los usuarios pagos pudieran usar la función: el comienzo de las críticas De grupos de mujeres y el gobierno del Reino Unido.
Compañía dijo el miercoles Todos los usuarios de X ahora podrán editar fotografías de personas reales y mostrarlas desnudándose en jurisdicciones donde es ilegal.
Más tarde actualizó su publicación para decir que implementaría “la misma solución de bloqueo geográfico para las aplicaciones de Grok”, que es diferente de X.
el viernes, El guardián informa Todavía es posible usar la aplicación Grok separada para crear deepfakes sexuales de personas reales y publicarlos en X “sin ningún signo de moderación”.
El gobierno del Reino Unido está implementando una ley que hará ilegal la producción de imágenes íntimas no consensuadas, y el regulador es Ofcom. Todavía investigamos si X violó las leyes existentes del Reino Unido.
