Meta, TikTok y Snap serán valorados por sus esfuerzos de seguridad para adolescentes en medio de la creciente preocupación sobre si las mayores plataformas de redes sociales del mundo están haciendo lo suficiente para proteger la salud mental de los jóvenes.
La Coalición para la Salud Mental, un colectivo de organizaciones centradas en desestigmatizar los problemas de salud mental, dijo el martes que está lanzando estándares y un nuevo sistema de calificación para plataformas online. Para el Estándares seguros online (SOS), un grupo independiente de expertos globales evaluará a las empresas en parámetros tales como normas de seguridad, diseño, moderación y recursos de salud mental.
TikTok, Snap y Meta, la empresa matriz de Facebook e Instagram, serán las primeras empresas en ser calificadas. Discord, YouTube, Pinterest, Roblox y Twitch también han aceptado participar, dijo la coalición en un comunicado de prensa.
“Estos estándares ofrecen al público una forma significativa de evaluar las protecciones de la plataforma y responsabilizar a las empresas, y esperamos que más empresas tecnológicas se inscriban a las evaluaciones”, dijo Antigone Davis, vicepresidenta y responsable global de seguridad de Meta, en un comunicado.
Los ejecutivos de TikTok y Snap también expresaron su compromiso con la seguridad online.
Los padres, los legisladores y los grupos de defensa han criticado las plataformas online durante años sobre si están protegiendo la seguridad de miles de millones de usuarios. A pesar de tener reglas sobre el contenido que los usuarios no pueden publicar, han luchado con la moderación de contenido nocivo sobre la autolesión, los trastornos alimenticios, las drogas y mucho más.
Mientras, la tecnología sigue jugando un papel más importante en la vida de las personas.
El aumento de los chatbots impulsados por la inteligencia artificial ha aumentado los problemas de salud mental, ya que algunos adolescentes recurren a la tecnología para hacer compañerismo. Las empresas también se han enfrentado a una serie de demandas por seguridad online.
Esta semana, se ha iniciado en Los Ángeles un juicio muy seguido sobre si empresas tecnológicas como Instagram y YouTube pueden ser consideradas responsables por presuntamente promocionar un producto nocivo y adictar a los usuarios a sus plataformas.
TikTok y Snap, la empresa matriz de la aplicación Snapchat de mensajes que desaparecen, se conformaron con sumas no reveladas para evitar el juicio.
En declaraciones iniciales, uno de los abogados que representa a la mujer de California que alega que se convirtió en adicto a YouTube e Instagram cuando era pequeña dijo que los productos estaban diseñados para ser adictivos.
Las empresas tecnológicas han negado las denuncias formuladas a la demanda y dicen que se están torciendo los documentos internos para retratarlos como malos cuando existen otros factores, como traumas infantiles, que provocan problemas de salud mental de algunos de sus usuarios.
Se espera que el director ejecutivo de Meta, Mark Zuckerberg, declare en el juicio de Los Ángeles. Esta semana también empezó otro juicio por una demanda que alega que Meta no protegió a los niños de la explotación sexual y violó las leyes de protección del consumidor de Nuevo México.
Las nuevas clasificaciones también se anunciaron este martes en el Día de Internet Segura, una campaña global que promueve el uso responsable de la tecnología, especialmente entre los jóvenes. Empresas el martes, como Google, describieron algunos de los trabajos que han realizado en torno a la seguridad, incluidos los controles parentales para establecer límites de tiempo para desplazarse por los vídeos breves.
Las clasificaciones estarán codificadas por colores y las empresas que tengan un buen rendimiento en las pruebas recibirán una insignia de escudo azul que indica que ayudan a reducir el contenido nocivo en la plataforma y sus reglas son claras. Aquellos que se queden cortos recibirán una calificación roja, que indica que no están bloqueando de forma fiable contenido nocivo o que carecen de reglas adecuadas. Las valoraciones en otros colores indican si las plataformas tienen protección parcial o sus evaluaciones todavía no se han completado.
“Al crear un marco compartido de responsabilidad, SOS nos ayuda a movernos hacia espacios online que dan mejor apoyo a la salud mental y el bienestar”, dijo Kenneth Cole, el diseñador de moda que fundó la Coalición para la salud mental, en un comunicado.
Un sitio web de SOS afirma que las empresas tecnológicas no influyeron en el desarrollo de los nuevos estándares y que no están financiando el proyecto. Sin embargo, la Coalición de Salud Mental se ha asociado con Meta en el pasado en otras iniciativas. Meta y Google también aparecen como “socios creativos” en el sitio web de la coalición.
La coalición, que tiene su sede en Nueva York, no respondió de inmediato a un correo electrónico preguntando sobre su financiación.
Las empresas han publicado sus normas online y datos sobre moderación de contenidos. Las personas interesadas en participar en el proyecto entregarán voluntariamente documentos sobre políticas, herramientas y características del producto.
