China planea reglas de IA más estrictas para proteger a los niños y combatir el riesgo de suicidio

China ha propuesto nuevas reglas estrictas para la inteligencia artificial (IA) que brinden seguridad a los niños y eviten que los chatbots avisen que podrían causar autolesiones o violencia.

Según las reglas previstas, los desarrolladores también deberán asegurarse de que sus modelos de IA no creen contenido que promueva los juegos de azar.

El anuncio se produce después de un aumento en el número de chatbots en China y en todo el mundo.

Una vez finalizadas, las reglas se aplicarán a los productos y servicios de inteligencia artificial en China, lo que se considera un paso importante en la regulación de la tecnología de rápido crecimiento que ha sido objeto de un intenso escrutinio este año por preocupaciones de seguridad.

Proyecto de reglasque fue publicado durante el fin de semana por la Administración del Ciberespacio de China (CAC), incluye medidas para proteger a los niños. Requiere que las empresas de inteligencia artificial ofrezcan configuraciones personalizadas, tengan límites de tiempo para su uso y obtengan el consentimiento de los padres antes de brindar servicios de acompañamiento emocional.

Los operadores de chatbot deben interceptar cualquier conversación relacionada con el suicidio o la autolesión y notificar inmediatamente a los padres del usuario o al contacto de emergencia, dijo la administración.

Los proveedores de IA deben garantizar que sus servicios “no generen ni compartan contenido que amenace la seguridad nacional, dañe el honor y los intereses nacionales (o) socave la integración nacional”, dice el comunicado.

El CAC dijo que fomenta la adopción de la IA, como la promoción de la cultura local y la creación de herramientas para acompañar a las personas mayores, siempre que la tecnología sea segura y confiable. También se ha buscado la opinión del público.

La empresa china de inteligencia artificial DeepSeek fue noticia en todo el mundo este año después de encabezar las listas de descargas de aplicaciones.

Este mes, dos nuevas empresas chinas, Z.ai y Minimax, que juntas tienen millones de usuarios, anunciaron planes de cotizar en bolsa.

La tecnología ha ganado rápidamente un gran número de clientes y algunos la utilizan como compañía o terapia.

El impacto de la IA en el comportamiento humano ha sido objeto de un mayor escrutinio en los últimos meses.

Sam Altman, director de OpenAI, fabricante de ChatGPT, dijo este año que la forma en que los chatbots responden a las conversaciones relacionadas con la autolesión es uno de los problemas más difíciles de la empresa.

En agosto, una familia de California demandó a OpenAI por la muerte de su hijo de 16 años, alegando que ChatGPT lo animó a quitarse la vida. La demanda fue la primera acción legal por muerte por negligencia contra OpenAI.

Este mes, la compañía anunció la contratación de un “jefe de preparación” que será responsable de proteger contra los riesgos para la salud mental humana y la ciberseguridad de los modelos de IA.

El candidato seleccionado será responsable de rastrear los riesgos de la IA que podrían dañar a las personas. El señor Altman dijo: “Va a ser un trabajo estresante y vas a estar en el fondo de inmediato”.

Si siente angustia o depresión y necesita apoyo, puede hablar con un profesional de la salud o una organización de apoyo. Los detalles del soporte disponible en muchos países se pueden encontrar en Befrienders Worldwide: www.befrienders.org.

En el Reino Unido, hay una lista de organizaciones que pueden ayudar disponible aquí bbc.co.uk/actionline. Los lectores de EE. UU. y Canadá pueden llamar a la línea de ayuda para suicidas 988 o Visita su sitio web.