Si estás remotamente en sintonía con el espíritu de la época, habrás escuchado el término “baja de IA”. Es un desdén generalizado por casi cualquier cosa generada por la “inteligencia artificial”, como si la participación de la IA hiciera que el producto fuera sospechoso, incluso peligroso.
Es fácil decir que la IA está en todas partes. “La desolación de la IA está obstruyendo tu cerebro” informa NPR.
El problema con esta queja es que casi nadie se molesta en definir “baja de IA”. ¿Es algo producido con IA? ¿O algún contenido similar que aparezca en las redes sociales? ¿Imágenes de IA producidas para publicidad comercial? ¿Algún contenido de este tipo diseñado para engañar? ¿O simplemente contenido creado para engañar políticamente?
Si bien la desinformación electoral ha existido a lo largo de nuestra historia, la IA generativa aumenta los riesgos.
– Centro Brennan para la Justicia
Podría decirse que lo que se necesita es una taxonomía de la caída de la IA: qué manifestaciones son meras molestias, cuáles son genuinamente entretenidas y cuáles son amenazas al orden social o político. Abarca toda la gama, desde bromas pero fabricaciones obvias hasta el uso de IA para poner palabras en boca de los políticos para influir en los votantes mediante el engaño.
Así que es hora de evaluar realmente la degradación de la IA: cuál de ellas es ingeniosa, cuál es divertida y cuál es simplemente una molestia evitable.
Es cierto, como informa mi colega Nilesh Chistopher, que herramientas como la aplicación de vídeo Sora de OpenAI han reducido a casi nada el coste de generar falsificaciones profundas no autorizadas de celebridades, figuras muertas y personajes protegidos por derechos de autor. La rápida adopción de Sora por parte de los usuarios, le dijo un experto a Christopher, “erosiona la confianza en nuestra capacidad para distinguir lo real de lo sintético”.
Pero este es el nivel más alto de desarrollo que causa verdadera preocupación. Gran parte de la práctica en la pendiente de la IA se centra en material que puede ser ubicuo pero inocuo.
Aquí, por ejemplo, el crítico y blogger Ted Gioia sobre el arte generado por IA: “El arte descuidado es plano.torpe, rancio, aburrido y, a menudo, ridículo. Las obras de teatro son celebradas por su estupidez y torpeza, que a menudo se ven amplificadas por extrañas yuxtaposiciones de memes culturales”.
El propósito de Gioia era analizar “la nueva estética de la basura”, pero lo que me llama la atención de su crítica es su familiaridad. Si se sustituye “arte pop” o “arte operacional” por “desecho artístico”, casi se podría estar leyendo un texto de un crítico convencional de los años 1950 o 1960: Clemente Greenbergpor uno
Esto no quiere decir que los creadores de imágenes generadas por IA sean artistas con el compromiso y el talento de aquellas figuras anteriores, solo que cada época nos trae un entorno creativo que muchas personas encuentran aburrido, estúpido, torpe, etc., etc.
Tampoco es extraño que nuevas formas de expresión resulten de los avances tecnológicos. “Todas las revoluciones de los medios generan basura y arte”, escribe Deni Ellis Béchard de Scientific American. “Spam, tonterías, clickbait, periodismo, kitsch, basura: todas estas son formas de describir contenido producido en masa y de baja calidad”.
Béchard ofrece una mucho una larga perspectiva histórica sobre este fenómeno, empezando por Gutenberg, cuya invención de los tipos móviles – “el ChatGPT de la década de 1450”, afirma – introdujo “la producción en masa de material impreso barato”. Los principios del siglo XVIII nos trajeron “Grub Street”, material impreso barato como “sátiras, tratados políticos, historias sensacionalistas y periodismo hacker… Parte de este material era tonto, sin duda, pero gran parte entretenía y educaba a las masas”.
El tsunami de la IA y el acortamiento de las manos nos recuerdan, en efecto, que “no hay nada nuevo bajo el sol”, como decía el Libro de Eclesiastés.
Un poco de preocupación parece excesivo. Ahí está la reacción a la nueva Coca-Cola Comercial generado por IA que representa criaturas del bosque reunidas para celebrar una línea de camiones que entregaban suministros de Coca-Cola en todo el mundo.
El sitio web de tecnología CNET afirma que la ubicuidad de este anuncio “es una señal de un problema mucho mayor”, aunque no está del todo claro cuál cree que es el problema. Entre sus problemas está que las imágenes producidas por IA tienen fallas que habrían sido detectadas por animadores humanos, y también que Coca-Cola no ha tenido en cuenta “la aversión de sus clientes a la IA”.
Pero no he visto mucha evidencia de la “aversión” de la persona promedio a la IA en los anuncios. En cualquier caso, Coca-Cola reconoce, con un título al inicio del anuncio, que está creada por IA.
Coca-Cola ha abordado las preguntas sobre su uso de la IA al afirmar que “la creatividad humana sigue siendo el centro de la publicidad de Coca-Cola… Estamos comprometidos a utilizar la IA como un facilitador humano, cuando tenga sentido”, dijo Pratik Thakar, director de IA de la compañía. una publicación web de la empresa.
Es cierto que recurrir a la IA puede reducir costos y reducir el tiempo necesario para producir cualquier contenido. Esto apunta a la pérdida de empleos entre los profesionales creativos, un tema que ha preocupado a actores, escritores y artistas en Hollywood, y otros en el periodismo, donde los errores fácticos generados por la inteligencia artificial son un problema grave.
Pero si la preocupación es que a medida que la producción de IA se vuelve cada vez más realista a medida que impregna el espacio comercial, los espectadores serán engañados haciéndoles pensar que lo que están viendo en la pantalla es real, eso no parece probable. Es dudoso que los espectadores piensen que una imagen de avestruces conduciendo un camión de reparto sea real, ya que no lo hicieron. osos polares abrazándoseBotellas de Coca-Cola en mano, era real en la década de 1990, cuando los anuncios de Coca-Cola explotaban con imágenes generadas por computadora, cuando eso era lo importante.
Nada de esto quiere decir que la descarga de IA sea invariablemente inocua. La variedad que más debería preocuparnos es la propaganda, la propaganda política para ser exactos. En el período previo a las elecciones de 2024, proliferaron en línea las parodias partidistas generadas por IA.
Uno era un vídeo que pretendía mostrar al presidente Biden denigrando a las mujeres transgénero. “Nunca serás una mujer de verdad”, dice el falso Biden. “No tienes útero, no tienes ovarios, no tienes óvulos. Eres un hombre homosexual transformado por drogas y cirugía en una burla burlona de la perfección de la naturaleza”. El vídeo cierra con “Biden” dando a entender que el suicidio puede ser el recurso inevitable para estas mujeres.
El vídeo era tan crudo que rápidamente quedó expuesto como falso; Incluso los conservadores dieron la voz de alarma. “Si bien el audio es preciso para la voz y la cadencia de Joe Biden (salvo los habituales obstáculos al hablar), los movimientos de la boca están lejos de ser convincentes”. escribió Matt Margolis de PJ Media. “Sin embargo, es el sorprendente realismo de la voz de Deepfake Biden lo que realmente asusta aquí. Sin el vídeo que lo acompaña, sería fácil concluir que el discurso es legítimamente sobre Joe Biden y plantea serias preocupaciones sobre cómo esta tecnología puede usarse con fines nefastos”.
Otro deepfake fue publicado por la campaña presidencial del gobernador de Florida, Ron DeSantis. Éste intentó vincular a Donald Trump, a quien DeSantis estaba desafiando por la nominación republicana, con el Dr. Anthony Fauci, el epidemiólogo del gobierno a quien DeSantis había tratado de demonizar como el autor de la vacunación forzada contra el COVID. El deepfake mostraba a Trump abrazando a Fauci.
La campaña de DeSantis, que colapsaría poco después, defendió el video diciendo que era solo una publicación en las redes sociales, no un anuncio oficial de campaña. Twitter, donde se publicó originalmente el video, finalmente agregó una etiqueta que lo identifica como una IA falsa.
En medio de una campaña electoral, cuando el engaño deliberado a menudo puede ser un camino hacia la victoria, las falsificaciones generadas por IA pueden encontrar su huella. “Aunque la desinformación electoral ha existido a lo largo de nuestra historia, La IA generativa aumenta los riesgosEl Centro Brennan para la Justicia de la Facultad de Derecho de la Universidad de Nueva York lo advirtió el año pasado. “Cambia la escala y la sofisticación del fraude digital y presagia una nueva lengua vernácula de conceptos técnicos relacionados con la detección y autenticación con la que los votantes ahora deben enfrentarse”.
Cuando el último ciclo de la tecnología de inteligencia artificial estaba en su infancia, los deepfakes eran relativamente fáciles de detectar. Se publicaron ampliamente guías para detectar falsificaciones, basadas en la incapacidad de la tecnología para hacer ciertas cosas, produciendo imágenes de manos con seis dedos, cabellos y pies que parecían antinaturales y sombras que caían en el lugar equivocado.
A medida que la tecnología mejora, estos artefactos desaparecen, lo que les da “un mayor potencial para engañar a los posibles detectives que buscan descubrir falsificaciones generadas por IA”, señaló el Centro Brennan. El año pasado publicó consejos sobre cómo detectar falsificaciones en la era moderna de la IA: buscar “un contexto autorizado de verificadores de hechos independientes y creíbles” y “abordar el contenido cargado de emociones con un escrutinio crítico, ya que dicho contenido puede perjudicar el juicio y hacer que las personas sean susceptibles a la manipulación”.
Por supuesto, los proveedores de falsedad política pretenden cortocircuitar exactamente esas facultades críticas, por lo que aconsejar a la gente que no se deje engañar, especialmente cuando los votantes se ven inundados con tonterías de campaña antes de una elección, no parece una salvaguardia eficaz.
Con el tiempo, la IA puede convertirse en su peor enemigo. El contenido de entretenimiento generado por IA no ha logrado captar audiencias distintas a los consumidores del contenido más genérico. Incluso en estos casos, el contenido de la IA es básicamente un pastiche de la creación humana. Esto sucedió cuando una canción country generada por IA alcanzó el puesto número 1 en la lista de ventas digitales por países de Billboard El mes pasado, sin embargo, el estilo vocal de la canción y otros elementos creativos fueron tomados de un artista real, Blanco Brown, que no tenía idea de su creación.
Esto sugiere que la caída de la IA puede no ser la aversión del consumidor, sino el aburrimiento. El propósito del contenido de entretenimiento es que las audiencias conecten con la creatividad humana, algo que la IA no puede replicar, excepto de manera superficial.
A medida que la tecnología se vuelve tan barata que cualquiera puede usarla, es posible que nos inunde una ola de fideos de baja calidad. El desafío será retirar la basura inocua de la pendiente verdaderamente peligrosa.
