O Twitter anunciou nessa sexta-feira (30/07) uma competição para pesquisadores e hackers para detectar problemas em seu algoritmo de corte de imagem. Ano passado, uma investigação dos usuários da plataforma mostrou que o algoritmo tinha a tendência de priorizar pessoas brancas a negras na hora de cortar as fotos na rede social.

Depois da polêmica, o Twitter fez uma pesquisa usando aprendizado de máquina para investigar a questão. Além disso, em maio desse ano, a companhia revelou que realmente existia uma disparidade de demografia de 8% favorecendo mulheres a homens no corte de imagem, e uma diferença de 4% favorecendo pessoas brancas a negras.

Terceirizando a solução do problema

Com a competição, o Twitter vai premiar pesquisadores que ajudem a “identificar danos em potencial desse algoritmo além dos que conseguimos identificar nós mesmos”. O Twitter liberou para o público o código do algoritmo que decide como imagens são cortadas no feed das pessoas.

Os participantes da competição terão que enviar uma descrição do que descobrirem, e um conjunto de dados para ser rodado pelo algoritmo para demonstrar o problema. O Twitter então dará pontos com base no tipo de dano que o problema no algoritmo pode causar, como estereotipar ou denegrir um grupo de pessoas, e quantas pessoas podem ser afetadas pelo problema.

Em um post no blog da empresa, o Twitter anunciou que o prêmio para o primeiro lugar na competição será de US$ 3.500, US$ 1 mil para o segundo e metade desse valor para o terceiro lugar. Há também dois prêmios extras de US$ 1 mil para Descoberta Mais Inovadora e Descoberta Mais Generalizada (que se aplica a mais tipos de algoritmos).

Além dos prêmios em dinheiro, a equipe vencedora da competição poderá apresentar sua pesquisa em uma oficina do Twitter na Def Con 29, que acontece esse mês em Las Vegas, e é uma das maiores conferências de hackers do mundo. No ano passado, o evento aconteceu de forma virtual.

Via Reuters

Imagem: Akshar Dave/Unsplash