El director ejecutivo de OpenAI, Sam Altman, pidió disculpas a una comunidad canadiense por no haber alertado a la policía sobre las conversaciones de un sospechoso de un tiroteo masivo con su chatbot.
Las autoridades dijeron que Jesse Van Rootselaar, de 18 años, mató a ocho personas, entre ellos escolares, en Tumbler Ridge, Columbia Británica, antes de suicidarse en febrero.
“Me sabe muy mal que no hayamos alertado a las fuerzas de la orden de la cuenta que se prohibió en junio”, dijo Altman en una carta el jueves. “Aunque sé que las palabras nunca pueden ser suficientes, creo que hay que pedir disculpas para reconocer el daño y la pérdida irreversible que ha sufrido su comunidad”.
El viernes, el primer ministro de la Columbia Británica, David Eby, publicó la carta en las redes sociales.
La carta vino después el Wall Street Journalcitando a personas familiarizadas con el asunto, informó este año que Van Rootselaar conversó con ChatGPT sobre la violencia armada, lo que provocó que los empleados de OpenAI debatieran si alertaban a las fuerzas del orden canadiense.
OpenAI prohibió la cuenta del usuario, pero decidió no avisar a la policía después de mirar si la actividad se consideraría un riesgo inminente y grave de daño físico para otras personas.
Las empresas tecnológicas se han enfrentado a más escrutinio a raíz de los tiroteos masivos sobre cómo los delincuentes utilizan sus herramientas para planificar ataques o transmitir asesinatos. Pero el aumento de los chatbots de inteligencia artificial que responden rápidamente a preguntas y generan contenido también significa que la gente está vertiendo sus pensamientos más oscuros online. Las empresas de IA cuentan ahora con los debates sobre el equilibrio entre la seguridad pública y la privacidad a la vez que se enfrentan a nuevas demandas e investigaciones.
En marzo, la familia de una víctima de un tiroteo en Tumbler Ridge, que estaba hospitalizada, demandó a OpenAI, alegando que la compañía sabía que el tirador estaba planeando un ataque masivo, pero no alertó a las fuerzas del orden.
En una publicación el viernes en X, Eby dijo que la disculpa era “necesaria y, sin embargo, muy insuficiente por la devastación hecha a las familias de Tumbler Ridge”.
En la carta, Altman dijo que habló con el alcalde de Tumbler Ridge, Darryl Krakowka, y Eby sobre el tiroteo y acordaron una disculpa pública. Altman dijo estar comprometido a encontrar maneras de evitar estas tragedias.
“En el futuro, nuestro enfoque seguirá centrándose en trabajar con todos los niveles de gobierno para ayudar a garantizar que algo así no vuelva a ocurrir nunca más”, dijo Altman en la carta.
OpenAI también se enfrenta a una reacción negativa sobre si está haciendo lo suficiente para proteger la seguridad pública en Estados Unidos.
La semana pasada, el fiscal general de Florida inició una investigación criminal sobre ChatGPT y OpenAI para determinar si la compañía de IA de San Francisco “es responsable penal” de las acciones del chatbot en un tiroteo de la Universidad Estatal de Florida el pasado año que dejó a dos personas fallecidas. Los fiscales habían estado revisando las conversaciones entre el sospechoso, Phoenix Ikner y ChatGPT.
