Experter kritiserar Facebook för "minimal förändring" som svar på hatpropagandagrupper

Experter som intervjuats av den brittiska tidningen The Guardian kritiserade Facebook för en "minimal förändring" som gjorts för att begränsa hatpropaganda. Förra veckan meddelade VD:n Mark Zuckerberg att det sociala nätverket inte längre kommer att använda sina algoritmer för att rekommendera politiska grupper till sina användare, i ett försök att "sänka temperaturen" i politiska diskussioner på plattformen.

"Ett plåster på ett djupt sår"

”Det här är som att sätta ett plåster på ett djupt sår”, sa Jessica J. González, medgrundare av anti-hatpropagandagruppen Change the Terms. ”Det gör ingenting för att ta itu med den långa historia av övergrepp som har tillåtits äga rum på Facebook.”

Sociala medier har varit skådeplats för utbrott av hat mot minoriteter, men experter säger att detta inte är något nytt (Bild: Lukasz Stefanski/Shutterstock)

Facebookgrupper lanserades 2010, vilket gör det möjligt för användare med liknande smak och åsikter att dela sina idéer. Men på senare tid har den politiska polariseringen som setts i flera länder – särskilt USA och Brasilien – lett till att en Facebook-funktion som syftar till att sammankoppla människor har blivit ett verktyg för hat mot olika åsikter.

Ett "giftigt arv" som kommer att förbli aktivt

Genom att ändra algoritmen vill företaget minska hettan i dessa diskussioner, men experter kritiserar Facebook och håller med om att detta skulle vara svårt att övervaka och kvantifiera, för att inte tala om att det giftiga arvet från Grupper inte skulle raderas eller glömmas bort med den här typen av åtgärd.

Med ”giftigt arv” menar de grupper som sprider desinformation, falska nyheter och konspirationsteorier, samt personer som använder funktionens integritet för att attackera minoriteter av alla slag. I åratal har Facebook hållit hur sina algoritmer fungerar hemliga, och detta, i kombination med gruppernas ökade integritet, har gjort det svårt för dem som övervakar hatpropaganda på plattformen.

Facebookgrupper skapades för att sammanföra likasinnade, men har gett upphov till utbredda och många hatgrupper som främjar desinformation och konspirationsteorier (Bild: kovop58/Shutterstock)

”Det är en svart låda”, sa González. ”Det är därför många av oss under årens lopp har efterlyst större transparens kring hur innehåll modereras och hur det upprätthåller [sina regler].” Det vi vet om dessa mekanismer målar dock inte upp en särskilt positiv bild: Facebook medgav själva i en undersökning från 2016 att mer än 60 % av extremistgrupperna skapas genom algoritmiska rekommendationer.

Med andra ord: om en person identifierar sig med nynazistiska rockband är det mycket troligt att Facebook kommer att rekommendera – genom nyckelord, webbhistorik på plattformen och andra detaljer – extremistgrupper som diskuterar politiska konspirationer och fördomar mot minoriteter.

”Facebook har låtit vita maktförespråkare organisera sig och konspirationsteoretiker samlas över sin plattform, och de har misslyckats med att begränsa problemet”, sa González. ”Faktum är att de har bidragit avsevärt till spridningen av problemet genom sitt rekommendationssystem.”

FB varnades för risker med uppförande i grupp

Enligt en artikel i Wall Street JournalInterna dokument avslöjade att forskare varnade Facebook för beteenderisker från Grupper. Enligt en presentation i augusti 2020 anses "cirka 70 % av de 100 mest aktiva icke-medborgargrupperna vara oönskade på grund av problem som hat, desinformation, mobbning och trakasserier".

Strax före november slutade Facebook tillfälligt att rekommendera politiska grupper för att minska den allmänna volatiliteten inför valet den 3 november 2020, då Joe Biden valdes till USA:s nya president och därmed besegrade Donald Trump (Zuckerbergs tillkännagivande förra veckan gjorde bara det som tidigare var tillfälligt permanent).

En attack aviserad

Två månader senare drog FBI slutsatsen att åtgärden var en av de utlösande faktorerna som ledde till till terroristattackerna mot Kapitolium, i Washington, under certifieringen av Bidens seger. Enligt den amerikanska federala styrkan organiserade sig många av inkräktarna på den federala byggnaden via Facebook. Minst fem personer dog vid det tillfället.

Inkräktare av Kapitolium i Washington, USA, den 6 januari: attacken mot den federala byggnaden organiserades till stor del av Facebook-grupper (Bild: Sebastian Portillo/Shutterstock)

Som svar sa Facebook att situationen hade mer att göra med "framväxande faror" än "långsiktiga hot": "Om du tittade på Groups för flera år sedan skulle du förmodligen inte se samma beteenden", sa Facebooks vice vd för integritet, Guy Rosen.

Forskare motbevisar dock denna uppfattning och erinrar om att Facebookgrupper var avgörande för att organisera flera terroristhandlingar: "Unite the Right"-demonstrationerna i Charlottesville 2019, såväl som demonstrationer mot och till förmån för Islamiska staten och al-Qaida i mitten av 2016, eller till och med framväxten av antivaccingrupper som senare var inblandade i trakasserier och förföljelsekampanjer mot läkare som forskade på vacciner och läkemedel mot olika sjukdomar.

Fritt territorium för QAnon-rörelsen

Men det starkaste – och senaste – exemplet på detta är förmodligen konspirationsteoretikernas rörelse. QAnonDess ursprung har tillskrivits en serie inlägg i en sluten Facebook-grupp 2017. Snabbspola fram till 2020, grupper uppkallade efter rörelsen samlar miljontals användare som tror att världen i hemlighet styrs av en skum grupp som ägnar sig åt människohandel med kvinnor, barn och pedofili – och att Donald Trump skulle vara "hjälten" för att bekämpa dem. Inte överraskande bar många av inkräktarna på Kapitolium den 6 januari QAnon-t-shirts och flaggor.

”QAnon Shaman” Jake Angeli var en av huvudpersonerna i invasionen av Kapitolium den 6 januari 1. Han arresterades tillsammans med andra inkräktare dagar efter attacken (Bild: Johnny Silvercloud/Shutterstock)

”Politiska grupper på Facebook har alltid utnyttjat de marginaliserade, ’outsidern’”, säger Joan Donovan, seniorforskare vid Data and Society, som studerar ökningen av hatpropaganda på Facebook. ”Det är verkligen en förstärkningsdriven situation – algoritmerna lär sig vad du har klickat på och vad du har gillat, och försöker förstärka dessa beteenden. Grupperna blir sedan nav för samordning.”

Real Oversight Board förstärker också att problemet fortsätter

"Jag är inte riktigt säker på att de [Facebook] kommer att kunna separera vad som är och vad som inte är en politisk grupp", sa Heidi Beirich, chef för Facebooks Southern Poverty Law Center. Verklig tillsynsnämnd, en grupp akademiker och experter som är kritiska mot det sociala nätverkets innehållsmodereringsmetoder. Denna grupp skapades som en motvikt till Övervakningskommitté FB-tjänsteman.

”De har låtit QAnon, miliser och andra grupper växa fram så länge att rester av dessa rörelser fortfarande finns kvar på plattformen”, tillade hon. ”Jag tror inte att det här är något de kan fixa över en natt. Det krävs egentligen inte en massrörelse, eller ett hav av kroppar, för att göra den typ av arbete på internet som gör det möjligt för mindre grupper att ha en stor inverkan på den allmänna opinionen. Detta är lugnet före stormen.”

Via The Guardian

Bild: Pathompong Thongsan (iStock)