Des chercheurs démontrent à quel point il est facile de manipuler l'algorithme de Twitter

Des chercheurs de l'École polytechnique fédérale de Lausanne (EPFL) ont découvert une vulnérabilité dans l'algorithme de Twitter qui lui permet de manipuler les sujets d'actualité de la plateforme. La faille permet aux utilisateurs de placer artificiellement des sujets dans la liste des sujets actuellement discutés et ainsi de créer une fausse notion de pertinence concernant les sujets d'intérêt.

L’attaque, appelée «astroturf éphémère» (ou « astroturfing éphémère ») est une forme numérique de Astroturf — c'est à ce moment-là que les véritables personnes intéressées à diffuser un message sont cachées, ce qui donne l'impression qu'il provient de personnes et de groupes réels. La partie éphémère est due au fonctionnement de l’arnaque : en tweetant massivement un sujet puis en le supprimant, les algorithmes continuent de détecter le sujet, que le tweet ne soit plus à l’antenne ou non.

Les chercheurs ont détecté la présence d’attaques éphémères d’astroturfing entre juin 2015 et septembre 2019, notifiant à deux reprises à Twitter la possibilité de manipuler l’algorithme, toujours présent à ce jour. L'étude a révélé que, rien qu'en Turquie, au moins 49 % des cinq sujets les plus tendances ont été soulevés par cette arnaque. L’étude estime également que deux sujets d’actualité mondiale sur dix sur la plateforme ont été artificiellement considérés comme pertinents.

Pour utiliser ce stratagème, les escrocs utilisent à la fois des robots et des comptes réels victimes d'une attaque virtuelle pour générer de fausses tendances. Les sujets contenaient souvent des cibles nuisibles, telles que des applications de phishing, campagnes de désinformation, discours de haine, mais la recherche a même trouvé des discours viraux pour les demandes en mariage.

Guerre d'influence

Les risques liés aux attaques éphémères d’astroturf résident dans la manipulation de l’attention du public, car de nombreux médias et faiseurs d’opinion s’appuient sur les algorithmes de Twitter pour produire des informations. Les chercheurs ont détecté, par exemple, que l’un des hashtags des sujets d’actualité, qui encourageaient l’exclusion des Syriens, avait été créé à l’aide de cette technique et couvert ostensiblement par la presse de l’époque, ce qui a conduit à une fausse diffusion de l’idée.

Alerté en 2019 et 2020, Twitter a répondu qu'il était déjà conscient de la faille de ses algorithmes et qu'il était prêt à la résoudre. Toutefois, aucune mesure pratique n’a été prise à ce sujet. Considérant que la plateforme a présenté une série de mises à jour contre la désinformation Ces derniers temps, la position est pour le moins décevante.

Via The Next Web

Image : gguy44/iStock