El asistente de inteligencia artificial de una cadena de supermercados le cortó las alas digitales, dejando a algunos clientes profundamente incómodos al pretender ser humanos y responder a las solicitudes con anécdotas personales.
El chatbot, llamado Olive, brinda un servicio de 24 horas para responder llamadas telefónicas de los clientes de Woolworths en Australia, ayudándolos con todo, desde rastrear pedidos hasta encontrar sus productos favoritos.
Si bien algunos han elogiado anteriormente la IA “increíblemente amigable”, los usuarios han expresado recientemente su preocupación en las redes sociales por su tendencia a irrumpir en interacciones rutinarias con los clientes con detalles ficticios sobre la vida y la familia.
“Me preguntó mi fecha de nacimiento y cuando se la di, empezó a confundirme con cómo nació su madre en el mismo año”, escribió un usuario en Reddit.
Otro usuario describió una experiencia en la que Olive afirmó ser una persona real cuando empezó a hablar de los recuerdos de su madre.
“AI Olive respondió y comenzó a fingir ser una persona real y a hablar sobre los recuerdos de su madre y su voz enojada”, le dijo la persona a X.
Otro usuario dijo que la herramienta crea “sonidos de escritura falsos” para imitar a un humano, y agregó que “da miedo cuando no puedes saber si es un humano o un robot”.
En un comunicado, Woolworths dijo que las respuestas de Olive a los cumpleaños no estaban impulsadas por IA sino que estaban escritas por humanos.
“Hace varios años, un miembro del equipo escribió varias respuestas sobre cumpleaños para Olive como una forma más personal para que Olive se conectara con los clientes”, dijo un portavoz de Woolworths a NBC News en una respuesta enviada por correo electrónico.
“Como resultado de los comentarios de los clientes, recientemente eliminamos este script en particular”, añadió el portavoz.
