línea superior
Character.ai prohibirá a los menores de 18 años tener “chats abiertos” con sus chatbots, dijo la compañía en un entrada de blog el miércoles, un cambio que se produce cuando la empresa de inteligencia artificial enfrenta presión regulatoria bipartidista y múltiples demandas de padres de adolescentes que murieron o intentaron suicidarse después de usar el chatbot.
El cambio se produce cuando la empresa enfrenta demandas de varias familias de niños que murieron o intentaron suicidarse.
Imágenes SOPA/LightRocket vía Getty Images
Hechos clave
La prohibición entrará en vigor el 25 de noviembre, dijo la compañía, y en las semanas previas limitará a los usuarios menores de edad a dos horas al día en la plataforma.
La compañía dijo que estaba creando una nueva experiencia para los niños, que aún les permitiría usar Character.ai para crear “videos, historias y transmisiones” en la plataforma, pero no interactuar con ellos en un chat abierto.
Character.ai dijo que estaba tomando la medida después de evaluar las preguntas planteadas por los informes de noticias y los reguladores, insistiendo en que “es lo correcto” y al mismo tiempo se disculpó con su base de usuarios menores de 18 años.
Character.ai dice que tiene más de 20 millones de usuarios activos, pero el director ejecutivo Karandeep Anand dijo CNBC sólo el 10% de ellos son menores de 18 años.
¿Qué es Character.ai?
Character.ai es una empresa de inteligencia artificial que utiliza grandes modelos de lenguaje para ofrecer chatbots individuales con personalidades basadas en “personajes” específicos. La compañía dice que ofrece “millones” de estos chatbots a los usuarios, incluidos personajes históricos y de ficción. Fue fundada por dos ex ingenieros de Google, Noam Shazeer y Daniel de Freitas, ambos regresó a Google el año pasado después de firmar un acuerdo para licenciar los grandes modelos de lenguaje de Character.ai.
fondo clave
El personaje.ai es enfrentando múltiples demandas de familias de niños que murieron o intentaron suicidarse después de usar sus chatbots. La primera fue una demanda por muerte por negligencia presentada el año pasado por los padres de un adolescente que murió en Florida y demandaron a la compañía después de que su hijo de 14 años se suicidara. El niño estuvo utilizando durante horas el chatbot de la compañía para comunicarse con un chatbot basado en el personaje de “Juego de Tronos”, Daenerys Targaryen, la New York Times informados Los abogados de la empresa han argumentado que las conversaciones que el adolescente tuvo con el chatbot son discurso protegido por la Primera Enmiendapero inicialmente un juez federal rechazó el argumento cuando la empresa intentó desestimar la demanda a principios de este año. El caso irá a juicio en noviembre. Character.ai no mencionó las demandas en la publicación del blog del miércoles. Character.ai no respondió de inmediato a una solicitud de comentarios sobre el asunto de Forbes.
¿Están involucrados los legisladores?
Character.ai dijo que los nuevos cambios fueron en parte una respuesta a las preguntas de los reguladores y que la empresa es una de las muchas que se encuentran actualmente bajo escrutinio. Character Technologies, la empresa matriz de Character.ai, fue una de varias empresas de inteligencia artificial, incluidas OpenAI, xAI, Meta y Alphabet, que se enfrentaron a una investigación de la Comisión Federal de Comercio sobre cómo sus chatbots interactúan con los niños. El martes, un grupo de senadores presentó una nueva legislación que prohibiría a las empresas ofrecer “compañeros de IA” a menores. El proyecto de ley fue redactado por un grupo bipartidista de legisladores, incluidos los senadores Richard Blumenthal, demócrata por Connecticut, Chris Murphy, demócrata por Connecticut, Mark Warner, demócrata por Virginia, Josh Hawley, republicano por Missouri, y Katie Britt, republicana por Alabama, y también requeriría que los chatbots reconozcan a su “usuario no humano, independientemente de su edad” y sus credenciales.
