Twitter a annoncé ce vendredi (30/07) un concours destiné aux chercheurs et aux pirates informatiques pour détecter les problèmes dans son algorithme de recadrage d'images. L'année dernière, une enquête auprès des utilisateurs de la plateforme a montré que l'algorithme avait tendance à donner la priorité aux Blancs par rapport aux Noirs lors du recadrage de photos sur le réseau social.

Après la controverse, Twitter a mené des recherches utilisant l'apprentissage automatique pour enquêter sur le problème. Par ailleurs, dans Mai Cette année, la société a révélé qu'il existait effectivement une disparité démographique de 8 % en faveur des femmes par rapport aux hommes lors du montage des images, et une différence de 4 % en faveur des Blancs par rapport aux Noirs.

Résolution de problèmes d'externalisation

Avec le concours, Twitter récompensera les chercheurs qui aident à « identifier les dommages potentiels de cet algorithme au-delà de ce que nous pouvons identifier nous-mêmes ». Twitter a rendu public le code d'algorithme qui décide de la manière dont les images sont recadrées dans les flux des personnes.

Les participants au concours devront soumettre une description de ce qu’ils découvrent ainsi qu’un ensemble de données que l’algorithme exécutera pour démontrer le problème. Twitter attribuera ensuite des points en fonction du type de préjudice que le problème d'algorithme pourrait causer, comme le stéréotype ou le dénigrement d'un groupe de personnes, et du nombre de personnes qui pourraient être affectées par le problème.

Dans un article de blog société, Twitter a annoncé que le prix pour la première place du concours s'élèvera à 3.500 1 dollars américains, 1 XNUMX dollars américains pour la deuxième place et la moitié de ce montant pour la troisième place. Il existe également deux prix supplémentaires de XNUMX XNUMX $ pour la découverte la plus innovante et la découverte la plus généralisée (qui s'appliquent à davantage de types d'algorithmes).

En plus des prix en espèces, l'équipe gagnante du concours pourra présenter ses recherches lors d'un atelier Twitter à la Def Con 29, qui a lieu ce mois-ci à Las Vegas et est l'une des plus grandes conférences de hackers au monde. L'année dernière, l'événement a eu lieu forme virtuelle.

Via Reuters

Image : Akshar Dave/Unsplash