Google llegó a un acuerdo con el Pentágono que permitió que sus modelos de inteligencia artificial se utilizaran en sistemas clasificados, lo que generó un enfrentamiento con cientos de empleados que exigieron que el director ejecutivo Sundar Pichai abandonara el acuerdo.
El acuerdo permite al Pentágono utilizar la IA de Google para “cualquier propósito gubernamental legítimo”. La información se reportaCita una fuente con conocimiento del tema. Sus rivales OpenAI y xAI llegaron recientemente a acuerdos similares después de que el Departamento de Guerra cortara los lazos con Anthropic por su negativa a eliminar las “líneas rojas” de seguridad relacionadas con las armas autónomas y la vigilancia masiva.
La asociación surgió el mismo día en que más de 600 empleados de Google escribieron una carta a Pichai expresando “profunda preocupación” por las negociaciones de la empresa con el Pentágono.
“Actualmente, la única manera de garantizar que Google no esté asociado con tales daños es rechazar cualquier carga de trabajo clasificada”, decía la carta, la primera de su tipo. Informes Bloomberg. “De lo contrario, dichos usos pueden ocurrir sin nuestro conocimiento o poder para prevenirlos”.
“Tomar la decisión equivocada ahora causará un daño irreparable a la reputación, el negocio y el papel de Google en el mundo”, agregaron los trabajadores.
La publicación se ha contactado con Google para realizar comentarios.
Un portavoz de Google confirmó la asociación con el Pentágono y la describió como una actualización del contrato existente de la compañía, que permitía que sus modelos fueran utilizados en entornos militares no clasificados.
“Estamos orgullosos de ser parte de un amplio consorcio de laboratorios de inteligencia artificial y empresas de tecnología y nube líderes que brindan servicios e infraestructura de inteligencia artificial en apoyo de la seguridad nacional”, dijo un portavoz en un comunicado.
“Seguimos comprometidos con el consenso de los sectores público y privado de que la IA no debe usarse para vigilancia masiva doméstica o armas autónomas sin una supervisión humana adecuada”, añadió el portavoz.
El lenguaje del contrato de Google establece que tanto la compañía como el Pentágono “reconocen que el sistema de inteligencia artificial no está destinado ni debe usarse para vigilancia masiva nacional o armas autónomas (incluida la selección de objetivos)”.
Al mismo tiempo, reconoce que Google no conserva ningún derecho a “controlar o vetar la decisión operativa de un gobierno legítimo”.
El acuerdo podría crear nuevos dolores de cabeza internos para Google, que a menudo ha enfrentado presiones de empleados activistas dentro de sus filas por trabajar con aplicaciones militares.
En abril de 2024, los empleados de Google realizaron sentadas en las oficinas de la empresa en Nueva York y California para protestar por las relaciones comerciales con el gobierno israelí durante la guerra en Gaza.
El gigante tecnológico finalmente despidió a decenas de trabajadores que participaron en las sentadas.
Mientras tanto, Anthropic y su controvertido director ejecutivo, Dario Amode, están demandando al Pentágono por la decisión de etiquetar a la empresa como “riesgo de la cadena de suministro”, un término generalmente reservado para entidades de propiedad extranjera.
