Las empresas tecnológicas de California, el epicentro de la economía del estado, enviaron a los políticos un mensaje contundente este año: aléjense de la regulación restrictiva de la inteligencia artificial o se irán.
La táctica pareció funcionar, dicen los activistas, porque algunos políticos debilitaron o abandonaron las barreras para mitigar los mayores riesgos de la IA.
El gobernador de California, Gavin Newsom, rechazó un proyecto de ley destinado a hacer que los chatbots complementarios sean más seguros para los niños después de que la industria tecnológica se opuso. En su mensaje de veto, el gobernador expresó su preocupación por imponer límites amplios a la IA, lo que ha provocado un enorme auge de inversiones y ha creado nuevos multimillonarios de la noche a la mañana en el Área de la Bahía de San Francisco.
El Proyecto de Ley 1064 de la Asamblea habría prohibido a los operadores de chatbots complementarios poner dichos sistemas de inteligencia artificial a disposición de menores a menos que los chatbots fueran “previsiblemente capaces” de cierta conducta, incluido alentar a un niño a autolesionarse. Newsom dijo que apoyaba el objetivo, pero temía que, sin darse cuenta, impidiera que los menores utilizaran herramientas de inteligencia artificial y aprendieran a utilizar la tecnología de forma segura.
“No podemos preparar a nuestros jóvenes para un futuro en el que la IA sea omnipresente impidiéndoles por completo utilizar estas herramientas”, escribió en su mensaje de veto.
El veto del proyecto de ley fue un golpe para los defensores de la seguridad infantil que lo habían impulsado en la legislatura estatal y una victoria para los grupos de la industria tecnológica que lo combatieron. En anuncios en las redes sociales, grupos como TechNet habían pedido al público que le dijera al gobernador que vetara el proyecto de ley porque perjudicaría la innovación y provocaría que los estudiantes se retrasaran en la escuela.
Las organizaciones que intentan frenar a las empresas tecnológicas más grandes del mundo mientras avanzan en tecnología poderosa dicen que la industria tecnológica se ha fortalecido a nivel nacional y estatal.
Meta, Google, OpenAI, Apple y otras grandes empresas tecnológicas han fortalecido sus relaciones con la administración Trump. Las empresas están financiando nuevas organizaciones y comités de acción política para frenar la política estatal de IA mientras invierten dinero en lobby.
En Sacramento, las empresas de inteligencia artificial han presionado entre bastidores para obtener más libertad. La riqueza de California en talento en ingeniería, inversores en tecnología y empresas la convierten en un lugar atractivo para la industria tecnológica, pero las empresas están haciendo saber a los formuladores de políticas que otros estados también están interesados en atraer esas inversiones y empleos. Las grandes empresas tecnológicas son especialmente sensibles a las regulaciones del Estado Dorado porque muchas empresas tienen su sede allí y deben cumplir con sus reglas.
“Creemos que California puede lograr un mejor equilibrio entre la protección del consumidor y el crecimiento tecnológico responsable”, dijo en un comunicado Robert Boykin, director ejecutivo de TechNet para California y el suroeste.
El fundador y director ejecutivo de Common Sense Media, Jim Steyer, dijo que los cabilderos tecnológicos ejercieron una enorme presión sobre Newsom para que vetara el AB 1064. Common Sense Media, una organización sin fines de lucro que califica y revisa la tecnología y el entretenimiento para familias, patrocinó el proyecto de ley.
“Amenazan con dañar la economía de California”, dijo. “Ese es el mensaje central de las empresas de tecnología”.
La publicidad es una de las tácticas que utilizan las empresas de tecnología con mucho dinero para convencer a los políticos de que eliminen o debiliten la legislación. Incluso si el gobernador promulga un proyecto de ley, las empresas a veces han presentado demandas para impedir que las nuevas leyes entren en vigor.
“Si realmente estás tratando de hacer algo audaz con la política tecnológica, tienes que superar muchos obstáculos”, dijo David Evan Harris, asesor político principal de la Iniciativa de California para la Tecnología y la Democracia, que apoyó la AB 1064. El grupo se centra en encontrar soluciones a nivel estatal a las amenazas que la IA, la desinformación y las tecnologías emergentes representan para la democracia.
Las empresas tecnológicas han amenazado con trasladar sus sedes y puestos de trabajo a otros estados o países, un riesgo que está afectando a políticos y reguladores.
La Cámara de Comercio de California, un grupo de defensa empresarial de amplia base que incluye a gigantes tecnológicos, lanzó una campaña este año en la que advirtió que una regulación excesiva podría sofocar la innovación y obstaculizar a California.
“Hacer más difícil la competencia podría hacer que las empresas de California se expandan a otros lugares, costando miles de millones a la economía del estado”, dijo el grupo en su informe. sitio web
De enero a septiembre, la Cámara de Comercio de California gastó 11,48 millones de dólares cabildeando a los legisladores y reguladores de California en una variedad de proyectos de ley, presentados ante la Secretaría de Estado de California. Durante ese período, Meta gastó 4,13 millones de dólares. Un informe de divulgación de lobby muestra que Meta pagó a la Cámara de Comercio de California 3,1 millones de dólares, lo que representa la mayor parte de su gasto. Google, que también pagó a TechNet y a la Cámara de Comercio de California, gastó 2,39 millones de dólares.
Amazon, Uber, DoorDash y otras empresas tecnológicas gastaron más de 1 millón de dólares cada una. TechNet gastó alrededor de 800.000 dólares.
La amenaza de que las empresas de California puedan mudarse ha llamado la atención de algunos políticos.
Abogado de California. El general Rob Bonta, que ha investigado a empresas de tecnología por cuestiones de seguridad infantil, indicó que a pesar de la preocupación inicial, su oficina no se opondría a los planes de reestructurar el fabricante de ChatGPT, OpenAI. La nueva estructura otorga a la empresa matriz sin fines de lucro de OpenAI una participación en su corporación de beneficio público con fines de lucro y allana el camino para que OpenAI se haga pública.
Bonta bendijo la reestructuración en parte debido al compromiso de OpenAI de permanecer en el estado.
“Se dará prioridad a la seguridad, al igual que el compromiso de que OpenAI permanecerá aquí en California”, dijo en un comunicado la semana pasada. La oficina del fiscal general, que supervisa los fideicomisos benéficos y garantiza que estos activos se utilicen para el bien público, había estado investigando el plan de reestructuración de OpenAI durante el último año y medio.
El director ejecutivo de OpenAI, Sam Altman, dijo que está feliz de quedarse en California.
“California es mi hogar y me encanta estar aquí, y cuando hablé con el Fiscal General Bonta hace dos semanas dejé en claro que no haremos lo que están haciendo estas otras empresas y amenazamos con irnos si las demandan”, publicó en X.
Los críticos, entre los que se encuentran algunos líderes tecnológicos como Elon Musk, Meta y ex ejecutivos de OpenAI, así como fundaciones y organizaciones sin fines de lucro, han expresado su preocupación sobre el plan de reestructuración de OpenAI. Algunos advirtieron que permitiría a las nuevas empresas aprovechar las exenciones fiscales para organizaciones benéficas y que OpenAI priorizaría las ganancias financieras sobre el bien público.
Los legisladores y los grupos de defensa dicen que ha sido un año mixto para la regulación tecnológica. El gobernador promulgó el Proyecto de Ley 56 de la Asamblea, que exige que las plataformas muestren etiquetas a los menores advirtiendo sobre los daños a la salud mental de las redes sociales. Otra ley firmada, el Proyecto de Ley Senatorial 53, tiene como objetivo hacer que los desarrolladores de IA sean más transparentes sobre los riesgos de seguridad y ofrece más protección para los denunciantes.
El gobernador también firmó un proyecto de ley que exige que los operadores de chatbots cuenten con procedimientos para prevenir la producción de contenido suicida o autodestructivo. Pero los grupos de defensa, incluido Common Sense Media, retiraron su apoyo al Proyecto de Ley del Senado 243 porque dijeron que la industria tecnológica presionaba para lograr cambios que debilitarían sus protecciones.
Newsom vetó otras leyes a las que se opone la industria tecnológica, incluido el Proyecto de Ley Senatorial 7, que requiere que los empleadores notifiquen a los trabajadores antes de implementar un “sistema de decisión automatizado” en la contratación, ascensos y otras decisiones laborales.
La legislación, denominada “Ley contra los jefes robóticos”, no aclaró al gobernador, quien la consideró demasiado amplia.
“El proceso legislativo demostró muchos matices sobre el equilibrio entre garantizar protecciones significativas y al mismo tiempo fomentar la innovación”, dijo Julia Powles, profesora y directora ejecutiva del Instituto de Tecnología, Derecho y Política de UCLA.
La batalla por la seguridad de la IA está lejos de terminar. La asambleísta Rebecca Bauer-Kahan (demócrata por Orinda), coautora del proyecto AB 1064, dijo que planea reactivar la legislación.
La seguridad infantil es un tema que tanto demócratas como republicanos están analizando después de que los padres demandaran a empresas de inteligencia artificial como OpenAI y Character.AI por supuestamente contribuir al suicidio de sus hijos.
“El daño que estos chatbots están causando se siente tan rápido, furioso, público y real que pensé que tendríamos un resultado diferente”, dijo Bauer-Kahan. “Siempre me resulta fascinante cuando el resultado de la política parece desconectado de lo que creo que quiere el público”.
Steyer, de Common Sense Media, dijo que una nueva iniciativa electoral incluye protecciones de seguridad de IA que Newsom vetó.
“Esto fue un revés, pero no una derrota total”, dijo sobre el veto de la AB 1064. “Esta es una situación de David y Goliat, y nosotros somos David”.
