Una encuesta realizada por el Centro para la Lucha contra el Odio Digital (CCDH en inglés), una organización sin fines de lucro que opera en el Reino Unido y Estados Unidos, mostró que las cinco redes sociales más grandes del mundo tienen grandes fracasos en la lucha contra el racismo. Según datos de esta investigación, de cada seis publicaciones racistas denunciadas, solo se elimina una, lo que da un porcentaje del 84% de impunidad para los contenidos de odio.
Para realizar el estudio se analizaron publicaciones con contenido antisemita, neonazi y supremacista blanco en Facebook, Instagram, Twitter, TikTok y Youtube. Las publicaciones, que tuvieron 7,3 millones de reacciones, fueron monitoreadas durante un período de seis semanas. En total, se reportaron 714 publicaciones racistas y antisemitas que violaban claramente las políticas de seguridad de las redes sociales, pero pocas publicaciones fueron eliminadas o sus autores fueron prohibidos después de las denuncias.
Entre los contenidos evaluados por el CCDH se encontraban publicaciones que asociaban a los judíos con la pandemia, negando la existencia del Holocausto e incluso memes con imágenes de supremacistas blancos satirizando la realidad de Auschwitz. También se siguieron algunos hashtags que promueven teorías conspirativas y racistas.
Rendimiento de la red
La plataforma que mejor se desempeñó en acciones contra el discurso de odio, aunque las cifras aún eran bajas, fue YouTube. La herramienta de vídeo Google alcanzó la marca del 20% de efectividad en la eliminación de contenido racista. Sin embargo, los investigadores aún encontraron algunos videos racistas que tienen 2,3 millones de visitas y permanecen en la plataforma. Teniendo en cuenta la Historia de la Compañía, este resultado era de esperar.
TikTok e Instagram comparten el segundo lugar en desempeño, logrando un 18% de efectividad en el combate a publicaciones criminales. La aplicación china se limitó a eliminar comentarios que contenían insultos, ya que sólo el 5% de las cuentas denunciadas fueron prohibidas. Por otro lado, Instagram no pudo frenar algunos hashtags racistas o algunos Reels con el mismo contenido.
Finalmente, los peores resultados fueron Twitter (11%) y Facebook (10%). La red social del pájaro azul incluso eliminó cuentas y tuits criminales, pero no detuvo hashtags como #holohoax (holofarce) y #JewWorldOrder que se utilizaban para difundir teorías negacionistas y conspirativas. La red de Zuckerberg tampoco eliminó grupos que circulan este tipo de contenido, incluso después de un cambio en su política de seguridad (criticado por expertos).
Lugar seguro para los crímenes
Algunas personas pueden incluso intentar afirmar que se trata de un problema de algoritmo, como fue el caso de imágenes recortadas en Twitter, pero no es así. Algunas publicaciones fueron reportadas por investigadores directamente a moderadores humanos que trabajan en las empresas. Aun así, las publicaciones racistas no fueron eliminadas.
Estos bajos índices en la lucha contra el discurso de odio acaban por normalizar la práctica de este tipo de delitos en las redes sociales, que acaban convirtiéndose en lugares seguros para racistas y otros grupos extremistas. No en vano, las redes sociales ya se han asociado con crecimiento del fascismo en los últimos años. Imran Ahmed, director ejecutivo de CCDH, comentó al periódico inglés The Guardian que “las redes sociales se están volviendo cada vez más peligrosas para las personas negras, LGBTI+, mujeres y judíos”.
Vía The Guardian
Imagen: Resorte de luz/ShutterStock