Millones robados a través de la estafa de Giselle Bundchen Deepfake

La policía brasileña recientemente arrestó a cuatro personas que solían usar videos de Deepfake de la supermodelo Gisele Bundchen en publicidad de cremas y maletas y equipaje “gratis” para los cuales los clientes solo tenían que pagar comisiones de envío. Las víctimas de la estafa pagaron las tarifas de envío falsas, pero nunca recibieron productos no existentes. Según la policía Los estafadores asumieron $ 3.9 millones en tarifas de envío falsas.

Los anuncios pagaron anuncios en Instagram, y aunque Meta afirmó que prohíbe los anuncios que usan fraudulentamente imágenes de figuras públicas y usan equipos de detección y revisión formados por AI Deepfake para identificar y demoler estos anuncios, no son particularmente efectivos. El proyecto de transparencia tecnológica hizo un estudiar En el que se encontraron 663 anunciantes de estafa con más de 150,000 anuncios de Deepfake en las plataformas de Meta Facebook e Instagram por las cuales los estafadores pagaron $ 49 millones. Además, el sistema Meta ADS utiliza algoritmos que permiten la orientación demográfica precisa de los AD a personas susceptibles.

Las meta acciones para eliminar los anuncios profundos han sido crítico Para que su propia placa de supervisión sea lento para marcar y eliminar estos anuncios, así como ser reactivos en lugar de usar la tecnología para evitar estos anuncios. Meta disputa los hallazgos de la Junta de Supervisión.

En los Estados Unidos Sección 230 De la ley de decanncy de comunicación protege las plataformas de redes sociales del contenido de terceros, incluidos los anuncios de Deepfake, sin embargo, los abogados han argumentado Que cuando una plataforma usa sus algoritmos para guiar su publicidad a personas o grupos específicos, participan activamente en la publicación y no deben considerarse protegidos por la Sección 230.

En junio pasado, la Corte Suprema de Brasil regla Que las plataformas de redes sociales pueden ser responsables de Brasil por el contenido ilegal publicado por terceros incluso sin orden judicial.

Durante años, los estafadores que están criando celebridades populares en los anuncios de las redes sociales han atribuido a las personas a pagar productos sin valor. Sin embargo, con el aumento de la inteligencia artificial y los profundos, estos falsos anuncios y estafas se han convertido en un aspecto más creíble y más común, ya que la tecnología profunda y la IA se pusieron fácilmente a disposición de los estafadores relativamente poco sofisticados.

Tom Hanks advirtió a la gente de anuncios en línea “cuidados milagrosos y drogas milagrosas” que usaron la clonación de voz de la IA para hacerlo como si estuvieran respaldando estos productos falsos.

Se usó una imagen de Deepfake del chef Gordon Ramsey para engañar a las personas en una estafa que involucraba utensilios de cocina gratuitos. Los videos también aparecieron en Tiktok y Facebook que parecían mostrar a Taylor Swift pasando y regalando utensilios de cocina Le Crueset. Si ha hecho clic en el enlace previsto a ellos a sitios web falsificados de IA creados de sitios web populares de cocina donde vería más testimonios falsos. Luego se le pidió que proporcionara información sobre la tarjeta de crédito o débito para cubrir el costo de enviar cocina gratuita. Desafortunadamente, al igual que Gordon Ramsay no tenía ninguna cocina hexadecida gratuita, Taylor Swift no fue entregado, no entregó ninguna cocina de Le Crueset gratis.

Mientras hay varios bonos Aplicaciones de detección de FakeFake gratuito y de bajo costoUna manera simple de determinar si un anuncio de anuncio o en el respaldo de celebridades es legítimo es simplemente ir al sitio web real del producto y en el sitio web de celebridades para ver si realmente respalda un producto en particular. Cualquiera que fuera a los sitios web oficiales de Taylor Swift y Lecrueset habría aprendido que la oferta de artículos de cocina gratuitos era una estafa.