Segundo um relatório publicado esta semana, o Facebook recentemente fez uma grande operação para banir criadores de deepfake e uma fazenda de trolls de sua plataforma. Num esforço para combater o que eles chamam de Comportamento Inautêntico Coordenado (CIC), o Facebook investigou e deletou diversas contas e grupos usados para espalhar desinformação através da rede social.

As contas de deepfake banidas usavam inteligência artificial (IA) e redes adversárias generativas (GAN) para forjar imagens e se passar por meios de comunicação independentes e jornalistas investigativos. As redes de deepfake operavam da Espanha e El Salvador e, segundo pesquisa da empresa de cibersegurança FireEye, estavam spameando fake news sobre eleições locais. No total, o Facebook baniu sete operações de deepfakes usando IA e GAN para manipular imagens.

O que é uma fazenda de trolls

A fazenda de trolls banida, que segundo o Facebook agia há bastante tempo, ficava na Albânia, e supostamente tinha ligação com o grupo paramilitar Mojahedin-e Khalq (MEK) ou Povo Mujahedin do Irã. O MEK foi expulso do Irã nos anos 1980, e a fazenda de troll ligada ao grupo, formada tanto por contas verdadeiras quanto falsas, visava espalhar informação contra o governo do país e elogiando as ações do grupo. Segundo o Facebook, o MEK vinha tentando aumentar seu público com conteúdo inautêntico de 2017 a 2020, sem grande sucesso.

Como a companhia descreveu: “a maioria dessas contas eram comandadas por pessoas na Albânia que compartilhavam infraestrutura técnica. Isso significa que o mesmo operador podia comandar várias contas, e vários operadores comandavam uma conta. Essa é a marca registrada do que chamamos de ‘fazenda de trolls’ — um local físico onde um coletivo de operadores compartilham computadores e celulares para gerenciar um aglomerado de contas falsas como parte de uma operação de influência”.

Além de banir contas de deepfakes e a fazenda de trolls da Albânia, o Facebook derrubou 14 operações CIC de países como Argentina, Egito, Israel, México e Geórgia. A rede social deletou no total 1100 contas, 255 páginas e 34 grupos.

Via ZDNet

Imagem: Snag Eun Park (Pixabay)