Australia está a años de convertirse en una distopía orwelliana, con IA integrada en sistemas de vigilancia para monitorear cada movimiento, advirtió un experto.
El Dr. Raphael Ciriello, profesor titular de la Universidad de Sydney, dijo al Daily Mail que las cámaras de vigilancia ya están “en todas partes” y que la IA “añadirá una capa adicional”.
“En gran medida ya está aquí, pero tal vez en los próximos tres a cinco años, diez años como máximo, supongo que la vigilancia será la norma”, afirmó.
El Dr. Ciriello añadió que Australia había implementado sistemas de vigilancia similares a los de China, aunque destacó que ninguno de los países tenía una estrategia nacional.
“Lo que tenemos no es diferente de lo que existe en China”, afirmó.
‘Tienen diferentes marcos legales (que utilizan la supervisión) que prevén diferentes sanciones para las personas que infringen la ley, a diferencia de nuestros países occidentales. Pero es más a nivel regional-estatal. No es uniforme a nivel nacional.”
Un informe de la Oficina de Auditoría de Queensland publicado en septiembre encontró que el gobierno estatal tenía una supervisión limitada del uso ético de la IA.
Al observar la implementación de la tecnología de reconocimiento de imágenes de IA que detecta delitos cometidos con teléfonos y cinturones de seguridad en automóviles, las autoridades descubrieron que había “visibilidad limitada sobre el uso de la IA y los riesgos éticos”.
Más autoridades en Australia están explorando el uso de la vigilancia mediante IA en la vida cotidiana
El informe también sugirió que el plan infringía la privacidad de los habitantes de Queensland.
El Ayuntamiento de Melbourne también ha discutido planes para introducir una cámara privada y un sistema de sensores de mapeo 3D para monitorear las multitudes en la víspera de Año Nuevo este año, y está buscando que la tecnología sea permanente.
Ambas políticas han planteado preguntas más amplias sobre los riesgos de la vigilancia con tecnología impulsada por IA y cómo podría extenderse por toda Australia.
El Dr. Ciriello hizo una predicción sombría para el futuro de Australia si la tendencia continúa.
“Parece una especie de distopía orwelliana en la que tenemos esa enorme cantidad de tecnología en todas las esferas públicas”, afirmó.
“La gente simplemente se acostumbra, pero debido a la forma en que estos sistemas de IA están inherentemente sesgados, probablemente se dirigirán de manera desproporcionada a las minorías y a las poblaciones minoritarias.
‘Conducirá a un mayor escrutinio de las minorías étnicas y raciales. Se verán especialmente afectados”.
El Dr. Ciriello planteó un punto diferente sobre cómo reaccionan algunas personas al saber que están siendo vigiladas, citando observaciones hechas por un colega especializado en crimen organizado.
La vigilancia será la norma para los australianos en los próximos tres a cinco años, advierte el doctor Rafael Ciriello.
“Aparentemente, hay una gran tendencia en Nueva Gales del Sur en la que los adolescentes se filman deliberadamente usando cámaras de vigilancia y luego lo suben a TikTok como una competencia para llamar la atención”, dijo.
‘Algunas personas se aprovechan de esa atención y cometen delitos a propósito. Otros trasladan la actividad a otra parte, donde es menos transparente.
‘En cada calle por la que caminas, te observan y siguen, y eso cambia todo tu comportamiento.
“Ya no existe un verdadero espacio público ni un verdadero espacio privado porque en todas partes hay alguien mirando y algo está siendo rastreado”.
Si bien el gobierno de Queensland y el Ayuntamiento de Melbourne no son los primeros en implementar vigilancia mediante IA, el Dr. Ciriello dijo que grandes minoristas como Kmart y Bunnings habían implementado la tecnología para detectar robos.
“Hemos utilizado la tecnología de reconocimiento facial en el Abierto de Australia y ahora estamos utilizando el reconocimiento de imágenes en el tráfico rodado”, afirmó.
Pero, cuando se le preguntó si existía riesgo de exceso de seguimiento, confirmó que, desde su perspectiva, se trataba de un problema grave.
“Siendo de origen europeo, siempre me ha sorprendido lo que sucede aquí (Australia), porque causaría una gran protesta en Europa”, dijo.
El Dr. Ciriello dijo que el nivel de vigilancia en Australia era similar al de China (imagen de un visitante capturada por una cámara de IA con tecnología de reconocimiento facial en Beijing en 2018)
El Dr. Ciriello dijo que pasó los primeros 20 años de su vida en Alemania, donde “la gente tiene una gran preocupación por la privacidad por razones históricas”.
‘Tienen experiencia en Alemania Oriental, primero durante el régimen nazi y luego como parte de la Unión Soviética, una historia que hace que los alemanes hoy estén muy preocupados por la privacidad.
“Crecí en ese ambiente y la infraestructura de vigilancia aquí (en Australia) es ciertamente muy avanzada”.
Añadió que la vigilancia mediante IA también era común debido a las políticas del gobierno albanés, como la prohibición de las redes sociales para niños menores de 16 años.
La prohibición se lanzó el 10 de diciembre, y las plataformas y los padres se conectaron para mantener alejados a los niños.
Pero el Dr. Ciriello explicó que las plataformas se basarán en algoritmos de inteligencia artificial para comprobar si un usuario es menor de edad consultando su historial de búsqueda.
“Creo que la mayoría de la gente ya se ha resignado al hecho de que vivimos en una sociedad completamente vigilada”, afirmó.
‘La vigilancia proviene no sólo del Estado sino también de proveedores comerciales en varios niveles (como las plataformas de redes sociales).
El Dr. Ciriello (en la foto) advirtió que una mayor vigilancia podría afectar a las minorías en Australia
‘Los datos a menudo se reenvasan y venden. La infraestructura técnica existe, pero en Australia faltan mecanismos de supervisión democrática.’
Cuando se le preguntó si el mayor uso de la vigilancia mediante IA podría invadir las libertades de los australianos, el Dr. Ciriello preguntó: “¿Qué libertades?”
“No sólo estamos en peligro de perderlo, sino que ya lo hemos perdido”, afirmó.
‘Ya no existe la privacidad. Todo está siendo monitoreado. Todo está en línea.
“Ya hemos renunciado a demasiado y la tendencia general es hacia una mayor erosión de la privacidad”.
