Si bien la mayoría de las empresas más grandes del mundo están gastando cientos de miles de millones de dólares en la carrera por lograr la inteligencia artificial general, un documental llamado Fantasma en la máquina debutó esta semana en el Festival de Cine de Sundance, cuestionando las dudosas raíces de AI en la eugenesia y la “ciencia” de la raza, la explotación de los trabajadores en los barrios marginales de todo el mundo y la posibilidad de que todo ese gasto sea un poco descarado.
“Es aprendizaje automático. La única diferencia ahora es que tienen cantidades masivas de computación”, me dijo la directora Valerie Veatch en una entrevista reciente. “Esta película rechaza esa narrativa sobre la superinteligencia: que será esta IA Doomer, una entidad divina, o que será esta cosa terrible que arruinará a la humanidad”.
De hecho, conseguir cada vez más computación para impulsar los modelos de IA es el gran impulso en estos días de las empresas de billones de dólares, que en conjunto planean gastar un estimado de 1,4 billones de dólares para construir docenas de centros de datos en Estados Unidos, a pesar de las preocupaciones sobre los límites de agua y energía disponibles para operar todos esos centros, y si el resultado realmente logrará lo que el hipster de la IA dice que logrará.
fantasma, Con una duración de casi dos horas, está organizado en torno a “capítulos” poco conectados que examinan las raíces profundas, los problemas actuales y el futuro incierto de la IA.
La primera mitad de la película narra los intentos de Francis Galton de utilizar las nuevas teorías de la evolución de su primo Charles Darwin para justificar el imperialismo británico midiendo cráneos en el movimiento eugenésico estadounidense tan diligentemente copiado por la Alemania nazi hasta el nacimiento del estatismo, cuyo científico fundador Karl Pearson era al mismo tiempo un racista descarado de Galton.
El linaje continúa con los esfuerzos para medir la inteligencia, como la prueba Binet-Simon que generó una puntuación de coeficiente intelectual, hasta la creación por parte de Alan Turing de los primeros sistemas informáticos para crear inteligencia sobrehumana. La industria informática se fundó en gran medida en el proto-Silicon Valley después de que William Shockley, residente de toda la vida en Palo Alto, codesarrollara el transistor, ganara un Premio Nobel y lanzara su empresa en la zona, lo que dio lugar a empresas derivadas notables como Fairchild Semiconductor y más tarde Intel.
Shockley también fue un notorio racista y eugenista científico, cuyas opiniones fueron amplificadas por los primeros capitalistas de riesgo del Pioneer Fund de Richard Draper. El impulso a la superinteligencia concuerda bastante felizmente con las creencias de aquellos maestros tecnológicos del universo que buscan maximizar su apariencia y estilo de vida para la vida eterna.
Un capítulo final explora la participación de grandes organizaciones de IA en el reclutamiento de habitantes desesperados de barrios marginales en Nairobi, Buenos Aires, India y otros lugares para realizar el trabajo de capacitación de IA para que sea más humana, y una campaña en Kenia para revertir las condiciones resultantes.
La última sección del documental detalla la incertidumbre sobre si todo este gasto conducirá realmente al objetivo que esperan sus principales patrocinadores. Un clip muestra al CEO de OpenAI, Sam Altman, a quien le preguntan qué hará cuando la inteligencia artificial general esté aquí. No lo sabe, admite; Probablemente le pedirá a esta herramienta GenAI que cree una aún mejor que pueda encontrar una solución.
El documental de Veatch se estrenó la semana en que varias de las empresas más grandes del mundo, todas profundamente vinculadas a la IA en una carrera desesperada por la supremacía, anunciaron sus ganancias trimestrales y esperaban un gasto elevado y continuo en gastos de capital.
Meta, por ejemplo, indicó que gastará entre 115.000 y 135.000 millones de dólares este año para impulsar su último avance en IA con el modelo de lenguaje grande Llama de código abierto. Llama ha tenido un desempeño inferior a pesar de que está bien posicionada para explotar las herramientas de inteligencia artificial para los servicios de mensajería y redes sociales de Meta.
El colaborador frecuente de CNBC, Brad Gerstner, un destacado patrocinador de la inversión en IA en Silicon Valley, usó su púlpito en el canal de cable para decir “tenemos una escasez de computación. Sam Altman nos ha estado diciendo durante dos años que no tenemos suficiente computación, y ahora hay escasez”.
En un momento de mi conversación con Veatch sugiero que su película quiere que los espectadores utilicen una variante importante del epigrama del autor de ciencia ficción Theodore Sturgis “Haz la siguiente pregunta”. En cambio, tal vez deberíamos “hacer preguntas diferentes” sobre la IA y lo que estamos tratando de lograr con todo este gasto.
Él se enciende y dice que podría robársela. Luego reviso mi referencia y encuentro muchas verificaciones de sitios como este. Ésteque incluye una fotocopia de un ensayo de 1967 sobre este tema escrito por Sturgis, un viaje a las estrellas guionista y autor de 11 libros, entre muchas otras cosas.
También verifiqué cuál pensaba ChatGPT que era la fuente. Afirmó que la frase estaba más asociada con Isaac Asimov, el enormemente prolífico profesor de química que escribió más de 200 libros de ciencia y ciencia ficción en la misma era de mediados de siglo que Sturgis. Asimov, que escribió extensamente sobre la inteligencia no humana en libros e historias como Yo, robotaparece en la primera escena, y en otras partes, de la película de Veatch.
Cuando se le preguntó sobre la participación de Asimov en Ask the Next Question, ChatGPT afirmó que “encapsula la creencia (de Asimov) de que el progreso no proviene de respuestas finales, sino de cuestionar continuamente suposiciones e impulsar la investigación. La idea también resuena fuertemente con su cuento clásico”. la ultima pregunta (1956), que se centra en la humanidad planteando repetidamente preguntas cada vez más profundas sobre una supercomputadora en evolución, aunque la frase exacta aparece más en su comentario de no ficción que palabra por palabra en la historia.
Entonces, como sugiere la película de Veatch, haga la siguiente pregunta, haga preguntas diferentes y verifique también las respuestas que obtenga de sus herramientas de inteligencia artificial, porque podrían estar equivocadas. De manera similar, ChatGPT afirmó que el marido de Veatch era “probablemente” profesor de sociolingüística en el King’s College de Londres. No lo es, dijo Veatch.
Dicho esto, la película de Veatch presenta una amplia gama de científicos informáticos, historiadores y filósofos, muchos de ellos personas de color, que adoptan una visión decididamente menos eufórica tanto de la promesa de la IA como de sus raíces problemáticas. Al menos alguien está pensando en plantearse diferentes preguntas sobre uno de los temas más importantes de nuestro tiempo.
