Conocer la cara oscura de las plataformas digitales

Las redes sociales presentan un gran número de peligros y aspectos negativos que debemos conocer para realizar un buen uso de las mismas, y sobre todo, para concienciar y prevenir de los mismos a los más pequeños.

En diciembre de 2019, el blog alemán de investigación Netzpolitik destapaba el escándalo de la red social musical TikTok que, según indicaban documentos internos, formaba a sus moderadores de contenido para que descartaran la difusión de determinados usuarios; personas con discapacidades visibles, sobrepeso o pertenecientes a la comunidad Lgtbi.

Los documentos también mostraban obligación de censura a los vídeos en directo de contenido político, castigando así a aquellos que “dañan el honor nacional” y atacan a “órganos del estado y a la seguridad nacional”. Los vídeos en los que aparecían barrios marginales, zonas pobres y espacios cerrados con “decoraciones desagradables” tampoco eran considerados no aptos para su publicación.

Desde la aplicación aseguran que las medidas, ya eliminadas, fueron tomadas para “prevenir el bullying a colectivos altamente vulnerables”. Sin embargo, no incluían ningún apartado en el que se mencionase el acoso, por lo que todo parece indicar que estas medidas irracionales fueron tomadas con el fin de retener nuevos usuarios y que la aplicación creciese.

Este no es el único escándalo al que ha tenido que hacer frente la aplicación. En abril la plataforma fue multada con 5,7 millones de dólares por recopilar datos de niños, la sanción civil más elevada jamás impuesta por la Comisión Federal de Comercio (EEUU) en un caso de privacidad de menores.

Según datos de Digiday, el 60% de los usuarios que utiliza TikTok tiene entre 16 y 24 años, convirtiéndose así en la aplicación más utilizada por los menores superando Instagram.

Resulta muy difícil saber la edad exacta de los usuarios, que una vez inician sesión pueden comenzar a subir contenido sin límite. Si el perfil está abierto públicamente, cualquier persona podrá enviar un mensaje al autor del vídeo directamente, lo que puede ocasionar casos de grooming, una serie de actitudes y actuaciones engañosas por parte de un adulto para obtener la confianza de un menor de edad y conseguir favores sexuales.

«En TikTok confluyen con facilidad, en un mismo ciberespacio, agresores y víctimas», afirma Marc Balcells, profesor del programa de Criminología de la UOC. La Policía Nacional ha lanzado un manual de uso para reducir los riesgos y advierte que son muchos los casos de menores que han sido acosados por adultos.

Con el fin de conseguir una experiencia recomendable por parte de todos los usuarios, el pasado mes de septiembre, TikTok se unió al Código de Conducta de la Comisión Europea para la lucha contra la incitación ilegal al odio en internet.

Desde la aplicación aseguran que nunca han permitido el odio y consideran de especial importancia que las plataformas de internet se responsabilicen de un tema tan crucial como lo es la seguridad.

Las normas y los estándares a los cuales piden que la comunidad de TikTok se adapte, prohíben cualquier forma de discurso o ideología de odio y las cuentas que difunden o están vinculadas a la supremacía blanca, el nacionalismo, la supremacía masculina, el antisemitismo y otras ideologías basadas en el odio.

Recientemente la red social se vio obligada a eliminar más de 20 cuentas relacionadas con el grupo terrorista ISIS que consiguieron llegar a miles de usuarios debido a la combinación perfecta de TikTok: rapidez de difusión y un público joven muy permeable.

Con estas nuevas medidas, desde la aplicación esperan que situaciones tan desagradables como la ocurrida no vuelvan a repetirse.