Londres, 12 de enero (Reuters) – El director de medios británico inició el lunes una investigación sobre X Elon Musk para decidir si las falsificaciones de primer plano y futuro sexy producidas por su Chatbot Grok AI incumplen su deber de proteger a las personas en el Reino Unido podrían ser ilegales.
“Ha habido informes extremadamente preocupantes de que la cuenta Chatbot Grok AI en X se utiliza para crear y compartir imágenes sin obstáculos de personas – lo que puede equivaler a un abuso de imágenes cercanas o pornografía – e imágenes sexuales de niños que pueden constituir material de abuso sexual infantil”, dijo Ofcom en un comunicado.
El controlador está bajo presión para operar después de que el Primer Ministro Keir Starmer dijera que las imágenes producidas por Grok eran “repugnantes” e “ilegales”.
La X de Musk tuvo que “controlar” a Grok, dijo Starter el jueves, añadiendo que Ofcom contaba con todo el apoyo del gobierno para tomar medidas.
Crear o compartir imágenes cercanas o material de abuso sexual infantil, incluidas imágenes sexuales producidas por IA, es ilegal en Gran Bretaña.
Además, las plataformas tecnológicas deben impedir que los consumidores británicos accedan a contenidos ilegales y eliminarlos una vez que tengan conocimiento de ello.
X se ha enfrentado a una condena en otros países por la función, que puede producir imágenes de mujeres y menores con ropa desnatada.
Los funcionarios franceses han denunciado X a los fiscales y reguladores, calificando el contenido de “claramente ilegal”, mientras que las autoridades indias también han exigido explicaciones.
X ha restringido la función a usuarios de pago. Dijo la semana pasada que eliminará todo el contenido ilegal de la plataforma e impedirá permanentemente las cuentas en cuestión.
“Cualquiera que utilice o aliente a Grok a crear contenido ilegal sufrirá los mismos resultados que si subiera contenido ilegal”, dijo.
Cuando se le preguntó recientemente sobre el tema, Xai dijo a Reuters: “Legacy Media Lies”.
Ofcom investigará si X no evaluó el riesgo de que la gente en Gran Bretaña viera contenido ilegal y quién había considerado el riesgo para los niños.
Ofcom afirmó que en los casos más graves de cumplimiento podría pedir a un tribunal que exija a “los proveedores de pagos o a los anunciantes que retiren sus servicios de una plataforma”, o hacer que los proveedores de servicios de Internet bloqueen el acceso a un sitio web británico.
X no respondió de inmediato a una solicitud para comentar sobre la investigación de Ofcom.
(Reportado por Sam Tabahriti y Paul Sandle, escrito por William James; Editado por Kate Holton)
