Malasia e Indonesia han bloqueado el acceso a la capacidad del chatbot de inteligencia artificial (IA) Grok de Elon Musk para crear deepfakes sexualmente explícitos.
Grok, una herramienta de la plataforma X de Musk, permite a los usuarios generar imágenes. Sin embargo, en las últimas semanas se han utilizado para editar imágenes de personas reales para mostrarlas disfrazadas.
Los países del sudeste asiático han dicho que el grok se puede utilizar para crear imágenes obscenas y no consensuales que involucren a mujeres y niños. Son los primeros en el mundo en prohibir las herramientas de inteligencia artificial.
La BBC se ha puesto en contacto con Grok Platform para solicitar comentarios. Musk ha dicho anteriormente que los críticos de su plataforma buscan “cualquier excusa para la censura”.
Grok y su empresa matriz X también enfrentan presión en Gran Bretaña después de que la Secretaria de Tecnología, Liz Kendall, respaldara los llamados para bloquear el acceso a la plataforma de redes sociales por no cumplir con las leyes de seguridad en línea.
Los ministerios de comunicaciones de Malasia e Indonesia anunciaron su medida contra Grok en declaraciones separadas durante el fin de semana.
La Comisión de Comunicaciones y Multimedia de Malasia dijo el domingo que había emitido avisos a X para que buscara medidas más estrictas después de encontrar “abuso repetido” de Grok para generar contenido dañino.
Pero en su respuesta, X no abordó los riesgos inherentes al diseño de su plataforma y se centró principalmente en el proceso de presentación de informes para los usuarios, dijo el regulador.
Agregó que Grok sería bloqueado hasta que se implementaran medidas de seguridad efectivas e instó a las personas a denunciar contenido dañino en línea.
Usar Grok para crear contenido sexualmente explícito es una violación de los derechos humanos, la dignidad y la seguridad en línea, dijo la ministra de Comunicaciones y Asuntos Digitales de Indonesia, Meutya Hafid, en una publicación en Instagram.
El ministerio ha pedido al ex de Musk que explique el uso de Grok.
Las autoridades indonesias han tomado medidas enérgicas contra otras fuentes en línea de contenido pornográfico en los últimos años, y plataformas como Onlyfans y PornHub ya están prohibidas en el país.
Se espera que el regulador británico de medios Ofcom tome pronto una decisión sobre qué hacer con Groke.
El uso de Grok para crear imágenes sexuales ha sido condenado por líderes mundiales, incluido el Primer Ministro del Reino Unido, Keir Starr, quien lo calificó de “vergonzoso” y “repugnante”.
