Reino Unido prohibirá las aplicaciones de ‘nudificación’ de IA deepfake

El gobierno del Reino Unido dice que prohibirá las llamadas aplicaciones de “nudificación” como parte de los esfuerzos para abordar el abuso en línea.

Las nuevas leyes, anunciadas el jueves como parte de Una estrategia integral para reducir a la mitad la violencia contra las mujeres y las niñas – Hará ilegal crear y suministrar herramientas de inteligencia artificial que permitan a los usuarios editar imágenes para quitarle la ropa a alguien.

El nuevo delito se basará en las reglas existentes sobre el abuso de imágenes íntimas y deepfake sexualmente explícitos, dijo el gobierno.

“Las mujeres y las niñas merecen estar seguras tanto en línea como fuera de línea”, dijo la Secretaria de Tecnología, Liz Kendall.

“No nos quedaremos quietos mientras se utiliza la tecnología para abusar de ellos, humillarlos y explotarlos mediante la creación de deepfakes sexualmente explícitos no consensuales”.

Crear una imagen clara y deepfake sin el consentimiento de alguien ya es un delito según la Ley de Seguridad en Línea.

Kendall dijo que el nuevo delito, que convierte en ilegal la creación o distribución de aplicaciones desnudas, significa que “aquellos que se beneficien o permitan su uso sentirán toda la fuerza de la ley”.

Las aplicaciones de nudificación o “desnudo” utilizan IA generativa para que parezca tan realista como una persona quitándose la ropa en una imagen o vídeo.

Los expertos han dado advertencias La aparición de este tipo de aplicaciones. y la posibilidad de que las imágenes de desnudos falsos causen daños graves a las víctimas, especialmente cuando se utilizan para crear material de abuso sexual infantil (CSAM).

En abril, Dame Rachel de Souza, Comisionada de la Infancia de Inglaterra Exigió una prohibición total de las aplicaciones de nudificación..

“El acto de crear una imagen así es propiamente ilegal, al igual que la tecnología que lo permite”. Ella dijo en un informe.

El gobierno dijo el jueves que “unirá fuerzas con empresas de tecnología” para desarrollar métodos para abordar el abuso de imágenes íntimas.

Esto incluirá continuar trabajando con la empresa británica de tecnología de seguridad SafeToNet, dijo.

Una empresa del Reino Unido ha desarrollado un software de inteligencia artificial que, según afirma, puede identificar y bloquear contenido sexual, así como bloquear cámaras si detecta que se está capturando contenido sexual.

Esta tecnología se basa en filtros existentes implementados por plataformas como Meta para detectar y señalar posibles desnudos en las imágenes, a menudo con el objetivo de evitar que los niños tomen o compartan imágenes íntimas de ellos mismos.

El plan para prohibir las aplicaciones nudistas surge tras llamamientos anteriores de organizaciones benéficas de protección infantil para que el gobierno tome medidas enérgicas contra esta tecnología.

La Internet Watch Foundation (IWF), cuya línea de ayuda Report Remove permite a niños menores de 18 años informar confidencialmente sobre imágenes explícitas de ellos mismos en línea, dijo que el 19% de los periodistas confirmados dijeron que algunas o todas sus imágenes habían sido manipuladas.

Su director ejecutivo, Kerry Smith, acogió con satisfacción las medidas.

“Estamos felices de tomar medidas concretas para prohibir estas llamadas aplicaciones de nudificación que no tienen razón de existir como productos”, dijo.

“Aplicaciones como esta ponen a los niños reales en mayor riesgo de sufrir daños, y vemos una imagen creada en algunos de los rincones más oscuros de Internet”.

Sin embargo, aunque el NSPCC acogió con agrado la noticia, su directora de estrategia, la Dra. Maria Neofitou, dijo que era “decepcionante” no ver la misma “ambición” de introducir protecciones obligatorias a nivel de dispositivo.

La organización benéfica se encuentra entre las organizaciones que piden al gobierno que presione a las empresas de tecnología para que encuentren formas más fáciles de identificar y prevenir la propagación de CSAM en sus servicios, como en mensajes privados.

El gobierno dijo el jueves que haría “imposible” que los niños tomen, compartan o vean imágenes de desnudos en sus teléfonos.

Está intentando ilegalizar las herramientas de inteligencia artificial. Diseñado para crear o distribuir CSAM.