Un regulador estadounidense está buscando en siete compañías de tecnología en la forma en que interactúan con los niños en los niños de Chatbotts.
Las compañías de la Comisión Federal de Comercio (FTC) están instando a estos productos a la información sobre cómo concentrarse y si tienen medidas de seguridad.
El impacto de las chattabs de IA a los niños es un problema acalorado, con la ansiedad de que la IA puede imitar las conversaciones y emociones de las personas a menudo con ansiedad que se presenta como amigos o compañeros.
Se han contactado siete compañías, Alphabet, Open, personaje.AE, Snap, Jai, Meta y su compañía auxiliar de Instagram.
El presidente de la FTC, Andrew Ferguson, dijo que la investigación “las compañías de IA nos ayudarán a comprender cómo se están desarrollando sus productos y los pasos que están tomando para proteger a los niños”.
Sin embargo, agregó que el controlador confirmará que “Estados Unidos de América mantiene su papel como líder mundial en esta nueva y emocionante industria”.
Se le dijo al personaje a Reuters que dio la bienvenida a la oportunidad de compartir ideas con los controladores, y Snap dijo que apoyó el “desarrollo de pensamiento” de AI que equilibró la innovación con protección.
Reconoció abiertamente las debilidades en su protección, se refieren a la larga conversación de que son menos confiables.
Este paso es seguir el caso contra las empresas de IA por parte de familias que dicen que sus hijos adolescentes murieron después de una conversación prolongada con Chattabots.
En California, los padres de Adam Rhine de 16 años se convirtieron en Abierto Después de su muerte, su chatbot, quejándose ante Chatzipt, lo alentó a quitarse la vida.
Argumentan que el Chatzept ha legalizado sus “pensamientos más dañinos y autodestructivos”.
Opena dijo en agosto que estaba revisando la presentación.
“Extendemos nuestra profunda simpatía por la familia Rhine en este momento difícil”, dijo la compañía.
Meta también enfrentó críticas después de que se publicaron las directrices internas, una vez permitió que la IA permita a los discípulos Conversación “romántica o sensual” Con menores.
El FTC Solicitar a las agencias, incluida la forma en que desarrollan y aprueban los personajes, miden sus efectos en los niños y aplican restricciones de edad.
Su autoridad permite una amplia investigación de hechos sin introducir la acción de implementación.
El regulador dice que también quiere comprender cómo las empresas equilibran las ganancias de las ganancias con protección, cómo se notifica a los padres y los usuarios débiles están suficientemente protegidos.
Los riesgos con los chatbots de IA se extienden de los niños.
En agosto, REUTERS informado Un hombre de 76 años con vulnerabilidad cognitiva, que modela el Kendall Jenner, murió después de conocer al bot Ai de Facebook Messenger, que le prometió que enfrentara un “real” en Nueva York.
Los médicos también advirtieron “AI Piosis” – Donde alguien pierde el contacto con la realidad después del uso intenso de chattabots.
Los expertos dicen que los halagadores y los contratos basados en modelos de idiomas grandes pueden aumentar esta confusión nacional.
Abierto Ha cambiado recientemente En el Chattjip, en un intento por promover relaciones saludables entre Chattabot y sus usuarios.
