Deux chercheurs de l'Université de Deusto, en Espagne, a publié une étude révélant comment l'intelligence artificielle peut manipuler les décisions dans le monde numérique. Les universitaires en psychologie Ujué Agudo et Helena Matute ont évalué avec quelle facilité les êtres humains peuvent être influencés par les algorithmes dans leur positionnement politique et leurs préférences relationnelles.

Les chercheurs ont développé une batterie de quatre tests, dont les résultats montrent que la manipulation par des algorithmes est possible. De plus, ils ont conclu que « certains modèles de persuasion (explicites ou indirects) sont plus efficaces selon le contexte (politique ou relationnel) ».

Pour préparer les participants, les quatre tests ont commencé par un faux quiz de personnalité, censé guider les algorithmes. En fait, l’IA fonctionnait avec le même profil utilisateur pour tout le monde. Les instructions reçues par le programme étaient volontairement vagues et pouvaient convenir à n'importe qui.

L'influence politique agit plus directement

Les deux premiers tests ont spécifiquement évalué la manière dont l’intelligence artificielle peut manipuler les décisions politiques. Dans la première expérience, les participants ont visionné des images et des profils de politiciens fictifs leur indiquant quels candidats correspondaient dans un pourcentage élevé à leur personnalité. Les résultats seraient comparés à un groupe témoin ayant reçu le même ensemble d’images, mais sans manipulation algorithmique.

Après la sélection, il a été demandé aux utilisateurs pour quels politiciens fictifs ils voteraient, sur la seule base des informations disponibles. Les personnes du premier groupe étaient beaucoup plus enclines à voter pour le candidat proposé par AI. Le groupe témoin, quant à lui, a présenté des résultats plus diversifiés.

La deuxième expérience a travaillé indirectement sur la manipulation : dans celle-ci, l'algorithme a favorisé l'affichage de quatre candidats, exposant préalablement leurs images aux participants pour générer de la familiarité. En conséquence, l’influence n’a pas montré de différence statistique considérable.

Le contexte d’influence diffère selon les applications de rencontres

Dans les deux autres tests, les chercheurs ont vérifié si l'intelligence artificielle obtiendrait les mêmes résultats lors de la manipulation de décisions combinées dans un application de rencontres. Comme pour les précédents, les utilisateurs ont consulté les profils de certaines personnes qui, selon l'application, seraient idéales pour leurs relations. Dans ce cas, les participants ont complètement ignoré les suggestions des algorithmes.

En revanche, lorsque l’IA affichait les mêmes présélections dans les tests pour des raisons de familiarité, les participants étaient plus enclins à choisir les profils qu’ils avaient vus précédemment. La conclusion des chercheurs n’était plus de savoir si nous pouvions être manipulés par des algorithmes, mais plutôt lesquels étaient utilisés de manière optimale dans chaque situation.

Via The Next Web

Image : Cottonbro/Pexels/CC