Por un trin nguyan llamado Associated Press
Sacramento – El gobernador de California, Gavin Newsum, firmó el lunes una legislación para controlar los chatbots de inteligencia artificial y proteger a niños y adolescentes de los posibles riesgos tecnológicos.
Es necesario por ley recordar a los usuarios que se están comunicando con un Chatbot y no son humanos. La notificación aparece cada tres horas para los menores. Las empresas deben gestionar un protocolo para evitar la autodonación de contenidos y remitir a un proveedor de servicios de crisis si los usuarios expresan la idea de suicidarse.
Relacionado: Los sueños de los chatbots producen pesadillas de IA para los defensores del Área de la Bahía
Newsum, que tiene cuatro hijos menores de 18 años, es responsable de proteger a los niños y adolescentes, quienes recurren a AI Chatbots para todo, desde tareas hasta apoyo emocional y consejos personales.
“Las tecnologías emergentes, como los chatbots y las redes sociales, pueden inspirar, educar y conectar, pero sin guardias reales, la tecnología puede utilizar a nuestros niños, engañarlos y ponerlos en riesgo”, dijo el demócrata. “Hemos visto algunos ejemplos terribles y trágicos de jóvenes dañados por la tecnología incontrolada, y no nos detendremos cuando las empresas continúen sin limitaciones ni responsabilidades”.
California también se incluye en varios estados este año para abordar las preocupaciones sobre los chatbots infantiles para su asociación. Los chatbots creados por Meta, OpenAI y otros se han disparado en torno a la tecnología después de informes y demandas relacionadas con usuarios jóvenes. Más conversaciones sexuales Y, en algunos casos, Los entrenó para quitarse la vida..
Esta inscripción está en los proyectos de ley sobre IA presentados este año a los legisladores de California para controlar la industria nacional, que está evolucionando rápidamente con poca supervisión. En respuesta a las empresas tecnológicas y sus sindicatos, un grupo de abogados de supervisión tecnológica de California afirmó que se gastaron al menos 2,5 millones de dólares para cabildear contra estas medidas en los primeros seis meses de la sesión. En los últimos meses, empresas y líderes de tecnología han anunciado que lanzarán un Super PACS pro-Super PACS para luchar contra la supervisión estatal y federal.
En septiembre, el fiscal general de California, Rob Bonta, dijo que OpenII tenía una “seria preocupación” por su principal chatbot, Openi, los niños y adolescentes. La Comisión Federal de Comercio inició el mes pasado una investigación sobre los riesgos del uso de chatbots infantiles en varias empresas de inteligencia artificial.
Se dice que la investigación del grupo de vigilancia brinda a los Chatbots Los niños son un consejo peligroso. Respecto a cosas como drogas, alcohol y trastornos alimentarios. La madre del adolescente de Florida se suicidó después de desarrollar una relación de abuso emocional y sexual con Chatbot. contra letras. Y los padres de Adam Rain, de 16 años, presentaron recientemente una demanda contra OpenI y su director ejecutivo, Sam Altman, alegando que el chico de ChatgipT California fue entrenado para planificar y quitarse la vida a principios de este año.
Openi y Meta publicados el mes pasado Cambios en la forma en que sus chatbots responden a los adolescentes Hacer preguntas sobre el suicidio o mostrar signos de angustia mental y emocional. OpenI ha dicho que está incorporando nuevos controles que permitirán a los padres vincular sus cuentas a la cuenta de su adolescente.
Meta dijo que estaba impidiendo que sus chatbots hablaran sobre donación propia, suicidio, comida caótica y conversaciones románticas inapropiadas con adolescentes y, en cambio, dirigiéndolos a los recursos de los expertos. Meta ya ofrece controles parentales en cuentas de adolescentes.
Si usted o alguien que lo conoce está luchando contra sentimientos de depresión o pensamientos suicidas, 988 Suicide and Crisis Life es apoyo, recursos de información y ayuda gratuitos las 24 horas del día. Llame o envíe un mensaje de texto a Lifeline al 988, o consulte 988lifeline.org Sitio web, Chat disponible.
