Des experts critiquent Facebook pour son « changement minimal » face aux groupes de discours de haine
Des experts interrogés par le journal britannique The Guardian ont critiqué Facebook pour un « changement minimal » visant à freiner les discours de haine. La semaine dernière, le PDG Mark Zuckerberg a annoncé que le réseau social n'utiliserait plus ses algorithmes pour recommander des groupes politiques à ses utilisateurs, afin de « détendre l'atmosphère » des discussions politiques sur la plateforme.
« Un pansement sur une coupure profonde »
« C'est comme mettre un pansement sur une plaie profonde », a déclaré Jessica J. González, cofondatrice du groupe de lutte contre les discours de haine Change the Terms. « Cela ne résout en rien la longue histoire d'abus tolérés sur Facebook. »
Les réseaux sociaux ont été le théâtre d'explosions de haine envers les minorités, mais les experts affirment que ce n'est pas nouveau (Image : Lukasz Stefanski/Shutterstock)
Les groupes Facebook ont été lancés en 2010, permettant aux utilisateurs partageant des goûts et des opinions similaires de partager leurs idées. Cependant, ces derniers temps, la polarisation politique observée dans plusieurs pays, notamment aux États-Unis et au Brésil, a transformé une fonctionnalité Facebook visant à connecter les gens en un outil de haine contre les opinions divergentes.
Un « héritage toxique » qui restera actif
En changeant l'algorithme, l'entreprise voudrait réduire la chaleur de ces discussions, mais les experts critiquent Facebook, convenant que cela serait difficile à surveiller et à quantifier, sans compter que l'héritage toxique des Groupes ne serait pas effacé ou oublié avec ce type de mesure.
Par « héritage toxique », ils désignent les groupes qui diffusent de la désinformation, des fake news et des théories du complot, ainsi que ceux qui exploitent la confidentialité de cette fonctionnalité pour attaquer les minorités de toutes sortes. Pendant des années, Facebook a gardé secret le fonctionnement réel de ses algorithmes, ce qui, combiné à la protection accrue de la vie privée des groupes, a compliqué la tâche de ceux qui surveillent les discours de haine sur la plateforme.
Les groupes Facebook ont été créés pour rassembler des personnes partageant les mêmes idées, mais ont cédé la place à de nombreux groupes haineux qui promeuvent la désinformation et les complots (Image : kovop58/Shutterstock)
« C'est une boîte noire », a déclaré González. « C'est pourquoi nous sommes nombreux à réclamer depuis des années une plus grande transparence sur la modération des contenus et l'application de ses règles. » Cependant, ce que nous savons de ces mécanismes ne dresse pas un tableau très positif : Facebook lui-même a admis dans une enquête de 2016 que plus de 60 % des groupes extrémistes sont créés grâce à des recommandations algorithmiques.
En d’autres termes : si une personne s’identifie à des groupes de rock néonazis, il est très probable que Facebook lui recommandera – par le biais de mots-clés, de l’historique de navigation sur la plateforme et d’autres détails – des groupes extrémistes qui discutent de conspirations politiques et de préjugés contre les minorités.
« Facebook a permis aux suprémacistes blancs de s'organiser et aux conspirationnistes de se rassembler sur sa plateforme, et n'a pas réussi à endiguer ce problème », a déclaré González. « En réalité, il a largement contribué à sa propagation par son système de recommandations. »
FB a été averti des risques liés aux comportements en groupe
Selon un article paru dans Wall Street JournalDes documents internes ont révélé que des chercheurs avaient alerté Facebook des risques liés aux comportements liés aux groupes. Selon une présentation d'août 2020, « environ 70 % des 100 groupes non civiques les plus actifs sont considérés comme indésirables en raison de problèmes tels que la haine, la désinformation, l'intimidation et le harcèlement ».
Juste avant novembre, Facebook a temporairement cessé de recommander des groupes politiques afin de réduire la volatilité du public avant l'élection du 3 novembre 2020, qui a élu Joe Biden comme nouveau président des États-Unis, battant Donald Trump (l'annonce de Zuckerberg la semaine dernière a simplement rendu permanent ce qui était auparavant temporaire).
Une attaque annoncée
Deux mois plus tard, le FBI a conclu que la mesure était l’un des déclencheurs qui ont conduit aux attaques terroristes contre le Capitole, à Washington, lors de la certification de la victoire de Biden. Selon les forces fédérales américaines, de nombreux envahisseurs du bâtiment fédéral se sont organisés via Facebook. Au moins cinq personnes sont mortes à cette occasion.
Envahisseurs du Capitole, à Washington, États-Unis, le 6 janvier : l'attaque contre le bâtiment fédéral a été en grande partie organisée par des groupes Facebook (Image : Sebastian Portillo/Shutterstock)
En réponse, Facebook a déclaré que la situation avait davantage à voir avec des « dangers émergents » qu’avec des « menaces à long terme » : « Si vous aviez examiné les groupes il y a plusieurs années, vous n’auriez probablement pas vu les mêmes comportements », a déclaré le vice-président de l’intégrité de Facebook, Guy Rosen.
Les chercheurs réfutent cependant cette perception, rappelant que les groupes Facebook ont été essentiels dans l’organisation de plusieurs actes terroristes : les manifestations « Unite the Right » à Charlottesville en 2019, ainsi que les manifestations contre et en faveur de l’État islamique et d’Al-Qaïda à la mi-2016, ou encore la croissance de groupes anti-vaccins impliqués plus tard dans des campagnes de harcèlement et de persécution contre des médecins recherchant des vaccins et des médicaments pour diverses maladies.
Territoire libre pour le mouvement QAnon
Mais l’exemple le plus fort – et le plus récent – en est probablement le mouvement des théoriciens du complot. QAnon:Ses origines ont été attribuées à une série de publications dans un groupe Facebook fermé en 2017. En 2020, des groupes portant le nom du mouvement rassemblent des millions d'utilisateurs convaincus que le monde est secrètement dirigé par un groupe obscur qui se livre à la traite des femmes, des enfants et à la pédophilie – et que Donald Trump serait le « héros » qui les combattrait. Sans surprise, de nombreux envahisseurs du Capitole le 6 janvier portaient des t-shirts et des drapeaux QAnon.
Jake Angeli, le « chaman QAnon », était l'une des figures centrales de l'invasion du Capitole des États-Unis le 6 janvier 1. Il a été arrêté avec d'autres intrus quelques jours après l'attaque (Image : Johnny Silvercloud/Shutterstock).
« Les groupes politiques sur Facebook ont toujours exploité les personnes marginalisées, les “outsiders” », explique Joan Donovan, chercheuse senior chez Data and Society, qui étudie la montée des discours haineux sur Facebook. « Il s'agit en réalité d'une situation de renforcement : les algorithmes apprennent sur quoi vous avez cliqué et ce que vous avez aimé, et tentent de renforcer ces comportements. Les groupes deviennent alors des pôles de coordination. »
Le Real Oversight Board souligne également que le problème persiste
« Je ne suis pas vraiment sûre qu’ils [Facebook] seront capables de distinguer ce qui est et ce qui n’est pas un groupe politique », a déclaré Heidi Beirich, directrice du Southern Poverty Law Center de Facebook. Conseil de surveillance réel, un groupe d'universitaires et d'experts critiques des pratiques de modération de contenu du réseau social. Ce groupe a été créé en contrepoint de Comité de surveillance Officiel FB.
« Ils ont laissé QAnon, les milices et d'autres groupes proliférer pendant si longtemps que des vestiges de ces mouvements persistent encore sur la plateforme », a-t-elle ajouté. « Je ne pense pas qu'ils puissent régler ce problème du jour au lendemain. Il n'est pas nécessaire d'avoir un mouvement de masse, ni une marée humaine, pour réaliser sur Internet le type de travail qui permet à des groupes plus restreints d'avoir un impact majeur sur l'opinion publique. C'est le calme avant la tempête. »
Via The Guardian
Image : Pathompong Thongsan (iStock)
