La policía armada esposó y registró a un estudiante en el condado de Baltimore, Maryland, esta semana después de que el sistema de seguridad de Ai señalara una bolsa vacía con chips de adolescente como una posible herramienta para disparar.
Los funcionarios del condado de Baltimore ahora están pidiendo una revisión de cómo Kenwood High School está utilizando el sistema de detección de armas de inteligencia artificial y por qué los adolescentes aparecieron esposados, aunque los oficiales de seguridad de la escuela decidieron rápidamente que no había ningún arma.
“Me hicieron arrodillarme, ponerme las manos detrás de la espalda y esposarme”, dijo Taki Allen, estudiante de Kenwood. CONTACTO DE CNN WBAL, describe lo que sucedió el lunes por la noche cuando la policía llegó a la escuela mientras se quedaba con amigos para regresar a casa después de un ensayo de fútbol.
“Me registraron y descubrieron que no tenía nada. Luego fueron al lugar donde estaba y encontraron una bolsa de patatas fritas en el suelo”, dijo Allen.
Describió una escena angustiosa con una fuerte respuesta de la policía.
“Lo primero que me pregunté fue: ¿estaba a punto de morir? Porque me apuntaban con un arma”, le dijo Allen a Wbal, refiriéndose a los “ocho coches de policía” que se detenían en la escuela.
CNN llegó a la policía del condado de Baltimore para hacer comentarios. El Departamento dijo a los funcionarios de Wbal que respondieran a un “informe de una persona sospechosa con un arma”, pero se decidió que la persona no estaba armada después de una búsqueda.
La directora de Kate Smith, Kate Smith, dijo que el departamento de seguridad del área escolar había revisado y cancelado la advertencia de detección de armas después de confirmar que no había ningún arma, según un comunicado enviado a los padres compartido con CNN. Smith dijo que informó el asunto al oficial de recursos escolares de Kenwood, quien llamó a la policía local para pedir ayuda.
El director no se dio cuenta de que la advertencia había sido cancelada, dijo a Wbal un portavoz de las escuelas públicas de Baltimoreshire.
“Entendemos lo angustiante que fue esto para la persona que fue buscada, así como para los otros estudiantes que vieron el evento”, dijo Smith en el comunicado. “Ustedes saben que garantizar la seguridad de nuestros estudiantes y la comunidad escolar es una de nuestras principales prioridades”.
Omnilert, la empresa que opera el sistema de detección de armas AIExpresó su angustia por el incidente y enfatizó que su sistema fue diseñado para identificar una amenaza potencial y elevarla a una revisión humana.
“Lamentamos que este evento haya tenido lugar y deseamos transmitir nuestra preocupación a los estudiantes y a la comunidad en general afectada por los incidentes que siguieron”, dijo la compañía a CNN.
“Aunque luego se decidió que el objeto no era un arma de fuego, el proceso estaba actuando según lo previsto: priorizando la seguridad y la concientización a través de una rápida verificación humana”, agregó la empresa.
El sistema de detección de armas de IA se ha utilizado en las escuelas públicas del condado de Baltimore desde 2023, analizando un video de las cámaras de seguridad existentes en la escuela, dijo la superintendente Myriam Rogers durante una conferencia de prensa el miércoles.
Rogers calificó el evento del lunes como “realmente desafortunado” y dijo que el área nunca quiere poner a ninguno de sus estudiantes en una situación tan desalentadora.
La respuesta de mano dura a los errores ha provocado la ira en la comunidad, y el abuelo de Allen, Lamont Davis, exige responsabilidad.
“Hay que hacer algo”, dijo a Wbal. “Se deben hacer cambios y la gente tiene que rendir cuentas”.
Los funcionarios de Baltimoreshire dicen que quieren una revisión del proceso que llevó a la respuesta policial el lunes.
“Ningún niño en nuestro sistema escolar debería ser reconocido por la policía por comerse una bolsa de doritos”, dijo el concejal del condado de Baltimore, Izzy Patoka. declaración En las redes sociales, se pide al área escolar “que revise los procedimientos en torno a su sistema de detección de armas impulsado por IA”.
El concejal del condado de Baltimore, Julian Jones, también pidió una revisión del uso del sistema de inteligencia artificial “para garantizar que existan salvaguardas, de modo que este tipo de error no vuelva a ocurrir”, según Wbal.
El superintendente Rogers dijo que revisar el sistema y las prácticas de seguridad en las escuelas del condado de Baltimore era “parte de nuestras prácticas habituales”.
Para obtener más noticias y boletines informativos CNN Cree una cuenta en CNN.com
