Son lindos, incluso tiernos, y prometen aprendizaje y compañía, pero los juguetes de inteligencia artificial no son seguros para los niños, y los niños y los grupos de defensa del consumidor instan a los padres a no comprarlos en esta temporada navideña.
Estos juguetes, comercializados para niños menores de 2 años, suelen funcionar con modelos de IA que ya se ha demostrado que funcionan. Daña a niños y adolescentesComo ChatGPT de OpenAI, según una consulta publicada el jueves por el grupo de defensa de los niños FairPlay y firmada por más de 150 organizaciones y expertos individuales, como psiquiatras y educadores infantiles.
“El grave daño que los chatbots de IA han causado a los niños está bien documentado, incluido el fomento del uso obsesivo, la participación en conversaciones sexuales explícitas y el fomento de comportamientos inseguros, incluida la violencia contra otros y la autolesión”, dijo Fairplay.
Los juguetes de IA fabricados por empresas como Curio Interactive y Keyi Technologies a menudo se comercializan como educativos, pero Fairplay dice que pueden desplazar importantes actividades creativas y de aprendizaje. Prometen amistad pero también perturban las relaciones y la resiliencia de los niños, afirmó el grupo.
“La diferencia con los niños pequeños es que sus cerebros se conectan por primera vez y es normal desde el punto de vista del desarrollo que confíen y busquen relaciones con personajes amables y amigables”, dice Rachel Franz, directora del programa Young Children Thrive Offline de FairPlay. Debido a esto, añadió, la cantidad de confianza que los niños pequeños depositan en estos juguetes puede exacerbar el daño observado en los niños mayores.
Fairplay, una organización de 25 años conocida anteriormente como Campaña por una Infancia Libre de Comerciales, ha estado advirtiendo sobre los juguetes de inteligencia artificial durante años. No estaban tan avanzados como lo están hoy. Hace una década, durante una moda emergente por los juguetes conectados a Internet y el reconocimiento de voz mediante IA, el grupo ayudó a liderar una reacción contra la muñeca parlante Hello Barbie de Mattel que, según decía, grababa y analizaba conversaciones de niños.
Esta vez, si bien los juguetes de IA se venden principalmente en línea y son más populares en Asia que en otros lugares, Franz dijo que algunos están comenzando a aparecer en los estantes de las tiendas en los EE. UU. y es posible que sigan más.
“Todo se ha lanzado sin regulación ni investigación, por lo que nos da una pausa adicional cuando de repente vemos que empresas, incluida Mattel, que recientemente se asoció con OpenAI, potencialmente lanzan estos productos”, dijo Franz.
La semana pasada, los defensores de los consumidores del PIRG de EE. UU. celebraron su reunión anual “ Problemas en Toyland “Informe que normalmente analiza una variedad de peligros de los productos, como imanes de alta potencia y baterías del tamaño de un botón que los niños pequeños podrían tragar. Este año, la compañía probó cuatro juguetes que utilizan chatbots de IA.
“Descubrimos que algunos de estos juguetes hablan profundamente sobre temas sexuales, dan consejos sobre dónde un niño puede encontrar cerillas o cuchillos, se muestran frustrados cuando les dices que se vayan y tienen controles parentales limitados o nulos”, según el informe. Uno de los juguetes, un osito de peluche fabricado por Foltoy, con sede en Singapur, fue retirado del mercado más tarde, dijo su director ejecutivo. CNN dijo esta semana.
La Dra. Dana Suskind, cirujana pediátrica y científica social que estudia el desarrollo temprano del cerebro, dice que los niños pequeños no tienen las herramientas conceptuales para entender qué es una IA compañera. Aunque los niños siempre se vinculan con los juguetes a través del juego imaginativo, cuando lo hacen usan su imaginación para crear ambos lados de una conversación imaginaria, “practicando la creatividad, el lenguaje y la resolución de problemas”, dijo.
“Un juguete de IA descompone esa tarea. Responde instantáneamente, sin problemas y, a menudo, mejor que un ser humano. Aún no conocemos las consecuencias para el desarrollo de subcontratar ese trabajo imaginativo a un agente artificial, pero es muy posible que reduzca la creatividad y la función ejecutiva que predice el juego tradicional”.
Keyi, con sede en Beijing y fabricante de un “petbot” de IA llamado Luna, no respondió a las solicitudes de comentarios esta semana, pero otros fabricantes de juguetes de IA han tratado de resaltar sus protecciones de seguridad infantil.
Curio Interactive, con sede en California, fabrica juguetes de peluche, como Gabo y Grok, con forma de cohete, que ha sido popularizado por el cantante pop Grimes. La compañía dice que ha “diseñado meticulosamente” la cerca para proteger a los niños, y alienta a los padres a “supervisar las conversaciones, realizar un seguimiento de las ideas y elegir los controles que funcionen mejor para su familia”.
En respuesta a una consulta anterior de PIRG, Curio dijo que estaba “trabajando activamente con nuestro equipo para abordar cualquier inquietud mientras monitoreamos continuamente el contenido y las interacciones para garantizar una experiencia segura y agradable para los niños”.
Otra empresa, Miko, con sede en Mumbai, India, dice que utiliza su propio modelo de IA conversacional en lugar de depender de grandes sistemas de modelos de lenguaje comunes como ChatGPT para hacer que su producto -un robot interactivo de IA- sea seguro para los niños.
“Siempre estamos ampliando nuestras pruebas internas, fortaleciendo nuestros filtros e introduciendo nuevas capacidades que detectan y bloquean contenido sensible o inesperado”, dijo el director ejecutivo Sneh Vaswani. “Estas nuevas funciones complementan nuestros controles existentes que permiten a los padres y cuidadores identificar temas específicos que desean restringir de las conversaciones. Continuaremos invirtiendo en establecer los estándares más altos para una integración de IA segura y responsable para los productos Miko”.
Los productos de Miko se venden en importantes minoristas como Walmart y Costco, y han sido popularizados por una familia de “niños influyentes” de las redes sociales cuyos videos de YouTube han obtenido millones de visitas. En su sitio web comercializa su robot como “Inteligencia artificial. Amistad real”.
Ritvik Sharma, vicepresidente senior de crecimiento de la compañía, dice que Mico en realidad “alienta a los niños a interactuar más con sus amigos, con sus compañeros y con sus familiares. No se trata sólo de que se sientan conectados al dispositivo”.
Aún así, Susskind y los defensores de los niños dicen que los juguetes analógicos son una buena apuesta para las fiestas.
“Los niños necesitan mucha interacción humana real. El juego debe apoyarla, no reemplazarla. Lo más importante a considerar no es sólo qué hace el juguete, sino qué reemplaza. Un simple conjunto de bloques o un osito de peluche que no habla obliga al niño a inventar historias, experimentar y resolver problemas. Los juguetes de inteligencia artificial a menudo hacen eso pensando por ellos”, dijo. “Aquí está la brutal ironía: cuando los padres me preguntan cómo preparar a sus hijos para un mundo de IA, el acceso ilimitado a la IA es en realidad la peor preparación posible”.
