Berlín, 9 de enero (Reuters) – El Ministerio de Justicia alemán tiene la intención de introducir medidas en un futuro próximo que permitirían a las autoridades luchar contra el uso de inteligencia artificial Tratar imágenes de manera que violen los derechos personales, dijo un portavoz el viernes.
Grok, el Chatbot AI integrado en el sitio web de redes sociales X Billionydd de Elon Musk, ha sido investigado en Europa por su llamado “enfoque picante”, que permite a los consumidores producir imágenes sexualmente claras.
Una investigación de Reuters descubrió que la generación de imágenes Chatbot se utilizaba para crear imágenes de mujeres y niños con muy poca ropa, a menudo sin el permiso de las personas retratadas.
El Ministro de Medios alemán instó a principios de esta semana a la Comisión Europea a emprender acciones legales para evitar lo que llamó “industrialización del acoso sexual” en X.
En respuesta a una pregunta sobre el debate en una conferencia de prensa organizada periódicamente por el Gobierno, la portavoz del Ministerio de Justicia, Anna-Lena Beckfeld, señaló que Alemania se estaba preparando para abordar la cuestión en sus tribunales internos.
“Es inaceptable que se utilice un tratamiento a gran escala para violaciones sistemáticas de los derechos personales”, afirmó. “Por eso queremos garantizar que el derecho penal se pueda utilizar de forma más eficaz para luchar contra esto”.
El ministerio trabaja para regular mejor las falsedades profundas y planificar una ley contra la violencia digital para apoyar a sus víctimas, dijo a los periodistas.
“Queremos facilitarles la adopción de medidas directas contra la violación de sus derechos en Internet”, afirmó Beckfeld.
El ministerio tiene la intención de presentar propuestas definitivas en un futuro próximo, dijo, añadiendo que actualmente no podía comentar sobre los planes.
Después de ignorar inicialmente las preocupaciones sobre la producción de imágenes de Grok, Xai ahora ha restringido la función a los suscriptores pagos. Musk dijo la semana pasada que cualquiera que usara el Chatbot para crear contenido ilegal enfrentaría los mismos resultados que cargar directamente dicho material.
(Reportado por Andreas Rinke y Miranda Murray; Editado por Joe Bavier)
