Un adolescente estadounidense fue esposado por policías armados después de que un sistema de inteligencia artificial (IA) dijera erróneamente que portaba un arma, cuando en realidad tenía una billetera impecable.
“La policía entró como ocho coches de policía y luego todos salieron apuntándome con armas y hablando de tirarme al suelo”, dijo Taki Allen, estudiante de Baltimore de 16 años. El medio local WMAR-2 News dijo.
El Departamento de Policía del condado de Baltimore dijo que sus agentes “respondieron de manera apropiada y proporcional según la información proporcionada en ese momento”.
Dijo que se envió una alerta de IA a los revisores humanos que no encontraron ninguna amenaza, pero el director pasó por alto esto y contactó al equipo de seguridad de la escuela, quien finalmente llamó a la policía.
Pero el incidente ha llevado a algunos a pedir una revisión de las prácticas de las escuelas en torno al uso de dicha tecnología.
Allen dijo a las noticias locales que terminó la bolsa de Doritos después de la práctica de fútbol y se guardó el paquete vacío en el bolsillo.
Dijo que después de 20 minutos llegó la policía armada.
“Me pidió que me arrodillara, me arrestó y me esposaron”, dijo.
El Departamento de Policía del condado de Baltimore le dijo a BBC News que Allen fue esposado pero no arrestado.
“El incidente se resolvió de forma segura después de que se determinó que no había ninguna amenaza”, dijo en un comunicado.
Allen dijo que ahora espera adentro después de la práctica de fútbol, porque no cree que sea “lo suficientemente seguro como para salir, especialmente para comer una bolsa de papas fritas o beber algo”.
En una carta a los padres, la directora de la escuela, Kate Smith, dijo que el equipo de seguridad de la escuela “revisó y canceló rápidamente la alerta inicial después de confirmar que no había armas”.
“Me comuniqué con nuestro oficial de recursos escolares (SRO) y les informé sobre este asunto, y ellos se comunicaron con el distrito local para obtener apoyo adicional”, dijo.
“Los agentes de policía acudieron a la escuela, localizaron al individuo y rápidamente confirmaron que no tenía armas”.
Sin embargo, los políticos locales han exigido una mayor investigación sobre el incidente.
“Hago un llamado a las escuelas públicas del condado de Baltimore para que revisen los procedimientos relacionados con su sistema de detección de armas impulsado por inteligencia artificial”, dijo Izzy Pakota, miembro del consejo local del condado de Baltimore. Escribió en Facebook.
La BBC se ha puesto en contacto con el proveedor de informes de herramientas de inteligencia artificial Omnilert para solicitar comentarios.
Omnilert dice que es un “proveedor líder” de detección de armas de IA, citando varias escuelas de EE. UU. en sus estudios de caso. en su sitio web.
La compañía afirma que su tecnología utiliza datos reales y diversos, lo que genera “detecciones más confiables, menos falsos positivos y un sistema que realmente funciona donde más importa”.
“La detección de armas en el mundo real es complicada”, decía. “La luz cambia, las armas vienen en todas las formas y la atmósfera está llena de sonido y movimiento.
“Nuestra metodología centrada en datos entrena a la IA para tener éxito en estas situaciones exactas, porque utilizamos datos reales de situaciones reales, no simulaciones”.
Pero Allen dijo: “No creo que ninguna bolsa de chips deba confundirse con un arma”.
La idoneidad de la IA para identificar armas con precisión está sujeta a escrutinio.
El año pasado, la empresa estadounidense de escaneo de armas Evolve Technology Estaba prohibido hacer afirmaciones sin fundamento sobre sus productos. Después de todo, los escáneres de IA utilizados en las entradas de miles de escuelas, hospitales y estadios estadounidenses pueden detectar todas las armas.
Una investigación de noticias de la BBC Se demostró que estas afirmaciones eran falsas..
