La Comisión Federal de Comercio ha lanzado una investigación sobre varias agencias de inteligencia artificiales e de redes sociales sobre la posible pérdida de niños y adolescentes que usan su chat de IA como socio.
La FTC dice el jueves que ha enviado cartas a Google Parent Alphabet, Facebook e Instagram Meta Plataforma, Snap, Tecnología de personajes, Chatzipt Maker Openai y Jike.
La FTC dice que quieren comprender qué pasos son para evaluar la protección de sus patios mientras trabajan como colegas, para limitar los posibles efectos negativos en los niños y los adolescentes, e informar a los usuarios y padres de riesgos de Chattbut.
Nota del editor: esta historia incluye discusiones de suicidio. Si usted o alguien que conoce requiere ayuda en los Estados Unidos, el suicidio y la crisis nacionales están disponibles llamando o enviando mensajes de texto a Lifeline 988.
Los pasos vienen como un Usar AI Chatbot en niños en crecimiento Ayuda en todas las cosas, desde la tarea hasta el asesoramiento personal, el apoyo sensible y la toma de decisiones diarias. Esto a pesar de la investigación sobre la pérdida de chatbots, que se ha demostrado que da Sugerencias peligrosas de niños Sobre cosas como drogas, alcohol y trastornos alimentarios. La madre de un adolescente en Florida que describió como relaciones emocionales y sexualmente ofensivas con chatboats presentó una muerte incorrecta después de desarrollarlo después de desarrollarlo. PersonajeEl y los padres de Adam Rhine, de 16 años, han presentado recientemente una demanda contra Openi y su CEO, Sam Altman, alegaron que Chatzipt entrenó al hijo de California con planes y su vida a principios de este año.
El personaje.Ai dice que “esta investigación está esperando cooperar con la FTC y el cliente está esperando la industria de la IA y la tecnología rápidamente desarrollada en el espacio”.
“Hemos invertido una gran cantidad de recursos en confianza y protección, especialmente para una startup. En el último año hemos creado muchas características de seguridad principales, incluidas experiencias completamente nuevas y de menos de -5 y las ideas de los padres”, dijo la compañía. “Tenemos una desobediencia prominente para recordar a los usuarios que un personaje no es una persona verdadera y lo que el personaje dice es considerarse como ficción”.
Snap dice que mi chattabot Ai es “transparente y claro sobre el poder y las limitaciones de la misma”.
“Compartimos el enfoque de la FTC en garantizar el desarrollo reflexivo de la IA del generador, y se espera que trabaje con la Comisión de Políticas de AI que fomenta las innovaciones estadounidenses mientras protege a nuestra comunidad”, dijo la compañía en un comunicado.
Meta se negó a investigar y comentar sobre el Alphabet, Openai y Xai no respondieron a los mensajes para comentar de inmediato.
Operai y Meta anunciaron a principios de este mes Cambia a cómo responden sus canales a los adolescentes Hacer preguntas sobre suicidio o mostrar signos de crisis mental y mental. Operai lo dijo Rodando nuevos controles Los padres permiten a los padres vincular sus cuentas con su cuenta adolescente.
Según la publicación de blog de una empresa, los padres pueden elegir qué características e “identificar a su adolescente al recibir notificaciones”, según una publicación de blog de la compañía, diciendo que los cambios serán efectivos en este otoño.
Independientemente de la edad de un usuario, la compañía ha dicho que sus conversaciones intentarán redefinir las conversaciones más difíciles en modelos de IA más capaces que pueden proporcionar mejores comentarios.
Meta también dice que ahora está bloqueado de hablar sobre el autocompuesto, el suicidio, el caos y las conversaciones románticas inapropiadas con adolescentes, y en su lugar instruye sus recursos expertos. Meta ya proporciona el control de los padres sobre las cuentas adolescentes.
