línea superior
Instagram anunció el viernes un conjunto de características de seguridad para usuarios adolescentes que usan chatbots de IA en la aplicación de redes sociales que incluyen controles parentales ampliados, en medio de preocupaciones sobre el impacto de dichos chatbots en la salud mental de los usuarios jóvenes luego de la muerte de un adolescente de California que supuestamente fue alentado por ChatGPT de OpenAI a quitarse la vida.
Las próximas funciones de control parental permitirán a los padres elegir cómo interactúan sus hijos adolescentes con los personajes de IA personalizados de Instagram.
NurPhoto a través de Getty Images
Hechos clave
en un entrada de blogLa compañía dijo que sus nuevas características de seguridad brindarán a los padres más control sobre cómo sus hijos adolescentes interactúan con las “personas de IA” de Instagram, que son chatbots de IA personalizados que los usuarios pueden crear utilizando el estudio de IA de Meta.
Las funciones de control parental se implementarán en la aplicación “a principios del próximo año” y permitirán a los padres “deshabilitar completamente el acceso de sus hijos a chats individuales con personajes de IA”.
Los padres también pueden bloquear “personajes de IA específicos” y recibir “información sobre de qué hablan sus hijos adolescentes con los personajes de IA”.
Los usuarios adolescentes aún podrán acceder al asistente de inteligencia artificial de Meta, que tendrá “protecciones apropiadas para su edad” y los padres también podrán acceder a los detalles de esas conversaciones.
La compañía dijo que ha comenzado a implementar protecciones adicionales, incluidas restricciones a los personajes de IA que participan en “discusiones inapropiadas para su edad sobre autolesiones, suicidio o trastornos alimentarios con adolescentes, o conversaciones que fomenten, promuevan o permitan estos temas”.
Esta es una historia en desarrollo.
