SACRAMENTO – California anunció una investigación sobre la compañía de inteligencia artificial xAI de Elon Musk el miércoles, y el gobernador Gavin Newsom dijo que el sitio de redes sociales propiedad del multimillonario es un “caldo de cultivo para que los depredadores difundan falsificaciones de IA sexualmente explícitas y no consensuadas”.
Grok, el chatbot xAI, incluye funciones de generación de imágenes que permiten a los usuarios transformar fotos existentes en imágenes nuevas. Las imágenes recién creadas se publican públicamente en X.
En algunos casos, los usuarios han creado imágenes sexualmente explícitas o no consensuadas basadas en personas reales, incluidas representaciones alteradas que parecen mostrar a personas parcial o totalmente desnudas. Otros han generado imágenes que parecen mostrar a menores, lo que generó críticas de que no existen suficientes salvaguardias para prohibir la creación de pornografía infantil.
El sitio de redes sociales ha dicho anteriormente “tomamos medidas contra el contenido ilegal en X, incluido el material de abuso sexual infantil (CSAM), eliminándolo, suspendiendo permanentemente las cuentas y trabajando con los gobiernos locales y las autoridades según sea necesario. Cualquiera que use Grok o le pida a Grok que cree contenido ilegal enfrentará las mismas consecuencias que si subiera contenido ilegal”.
Newsom calificó de viles las imágenes sexualizadas creadas en la plataforma. Abogado. El general Rob Bonta dijo que su oficina utilizará “todas las herramientas a nuestra disposición para mantener seguros a los californianos”.
“La avalancha de informes que detallan el material no consensuado y sexualmente explícito que xAI ha producido y publicado en línea en las últimas semanas es impactante”, dijo Bonta en un comunicado el miércoles. “Este material, que muestra a mujeres y niños desnudos y en situaciones sexualmente explícitas, se ha utilizado para acosar a personas en Internet. Insto a xAI a tomar medidas inmediatas para garantizar que esto no vaya más allá. Tenemos tolerancia cero para la creación y difusión de imágenes íntimas no consensuadas o material de abuso sexual infantil basada en IA”.
Newsom firmó un par de proyectos de ley en 2024 que hacían ilegal la creación, posesión o distribución de imágenes de menores con carga sexual, incluso cuando fueron creadas con computadoras, no con cámaras. Las medidas entraron en vigor el año pasado.
Proyecto de ley de la Asamblea de 1831escrito por el asambleísta Marc Berman (D-Menlo Park), amplió la prohibición estatal de la pornografía infantil al material que “contiene una representación alterada digitalmente o generada por inteligencia artificial (de lo que parece ser una persona menor de 18 años” participando o simulando una conducta sexual). Proyecto de ley del Senado 1381escrito por la senadora Aisha Wahab (D-Hayward), enmendó la ley estatal para prohibir más claramente el uso de IA para crear imágenes de niños reales involucrados en conducta sexual o para usar niños como modelos para pornografía infantil alterada digitalmente o generada por IA.
