Un músico galardonado erróneamente etiquetado como delincuente sexual por un resumen de Google generado por IA dice que está considerando demandar al gigante de las búsquedas después de cancelar conciertos a raíz de las acusaciones.
La cantautora de folk canadiense Ashley MacIsaac estaba programada para dar un concierto en Nueva Escocia cuando se enteró de que los organizadores habían cancelado el evento. La prensa canadiense informó.
MacIsaac dijo que la revisión de Google AI, corregida por el gigante tecnológico, afirmaba falsamente que el músico ganador del premio Juno, de 50 años, había sido condenado por múltiples delitos sexuales, incluyendo agresión sexual, hostigamiento en Internet, agresión a una mujer e intento de agresión a un menor.
Decía falsamente que el virtuoso violinista figuraba en el registro nacional de delincuentes sexuales de Canadá.
“Podría estar en la frontera y encarcelar. Así que tenemos que descubrir de qué son responsables las empresas de inteligencia artificial y qué pueden prevenir”, dijo McIsaac a The Canadian Press.
Un concierto planeado para el 19 de diciembre por una Primera Nación al norte de Halifax fue cancelado después de ver un resumen generado por IA.
Dijo que las afirmaciones falsas se compilaron a partir de artículos en línea sobre una persona con el mismo apellido en Canadá.
“Te están poniendo en una situación menos segura debido a una empresa de medios; eso es difamación”, dijo MacIsaac.
“Si un abogado quiere tomar esto (gratis), me pondré de pie porque no soy el primero y estoy seguro de que no seré el último”, dijo.
McIsaac, que irrumpió en la escena de la música folclórica canadiense cuando era adolescente en la década de 1990, mezclando música celta tradicional con rock, especuló si un resumen falso de AI había cancelado un concierto anterior en México el año pasado.
El cantante no es ajeno a la controversia, ya que previamente mostró sus genitales a una audiencia de estudio durante una aparición en “Late Night with Conan O’Brien” en 1997.
Google no respondió de inmediato a las solicitudes de comentarios, pero un portavoz de Google Canadá dijo en el pasado que las observaciones de IA de la compañía a menudo cambian para mostrar información más útil.
“Cuando surgen problemas, si nuestras funciones malinterpretan el contenido web o pasan por alto ciertos contextos, utilizamos esos ejemplos para mejorar nuestros sistemas y podemos tomar medidas según nuestras políticas”, dijo la portavoz Wendy Manton a The Canadian Press.
La Primera Nación Sipekne’Katik, que canceló el concierto de McIsaac, se disculpó públicamente con el cantante.
“Lamentamos profundamente el daño a su reputación y sustento. Los jefes y el consejo respetan su arte, su contribución a la vida cultural de la playa y su compromiso con la reconciliación”, se lee en un comunicado dirigido a McIsaac.
McIsaac dijo que espera reprogramar el concierto cancelado, pero quiere esperar hasta que las cosas se calmen antes de acordar una fecha.
“No me siento cómodo yendo allí ahora porque no creo que se pueda difundir la información correcta en una semana. Se ha compartido mucho. No quiero atraer ninguna atención negativa a la comunidad”, dijo.
