Experten kritisieren Facebook für „minimale Veränderungen“ als Reaktion auf Hassredengruppen

Experten, die von der britischen Zeitung The Guardian interviewt wurden, kritisierten Facebook für die „minimalen Änderungen“ zur Eindämmung von Hassreden. Letzte Woche kündigte CEO Mark Zuckerberg an, dass das soziale Netzwerk seine Algorithmen nicht mehr nutzen werde, um seinen Nutzern politische Gruppen zu empfehlen. Dies sei ein Versuch, die politische Diskussion auf der Plattform zu „entspannen“.

„Ein Pflaster auf einem tiefen Schnitt“

„Das ist, als würde man ein Pflaster auf einen tiefen Schnitt kleben“, sagte Jessica J. González, Mitbegründerin der Anti-Hassrede-Gruppe Change the Terms. „Es trägt nichts dazu bei, die lange Geschichte des Missbrauchs auf Facebook aufzuarbeiten.“

In den sozialen Medien kommt es immer wieder zu Hassausbrüchen gegenüber Minderheiten, doch Experten zufolge ist das nichts Neues (Bild: Lukasz Stefanski/Shutterstock)

Facebook-Gruppen wurden 2010 ins Leben gerufen und ermöglichten Nutzern mit ähnlichen Vorlieben und Meinungen den Austausch von Ideen. In jüngster Zeit hat die politische Polarisierung in mehreren Ländern – insbesondere den USA und Brasilien – jedoch dazu geführt, dass eine Facebook-Funktion, die Menschen verbinden sollte, zu einem Werkzeug des Hasses gegen abweichende Gedanken geworden ist.

Ein „toxisches Erbe“, das weiterhin wirksam bleiben wird

Durch die Änderung des Algorithmus möchte das Unternehmen die Hitze dieser Diskussionen abmildern. Experten kritisieren Facebook jedoch und stimmen darin überein, dass dies schwer zu überwachen und zu quantifizieren sei. Ganz zu schweigen davon, dass das toxische Erbe der Gruppen durch derartige Maßnahmen weder gelöscht noch vergessen würde.

Mit „toxischem Erbe“ meinen sie Gruppen, die Fehlinformationen, Fake News und Verschwörungstheorien verbreiten, sowie Menschen, die die Privatsphäre der Funktion nutzen, um Minderheiten aller Art anzugreifen. Jahrelang hat Facebook die tatsächliche Funktionsweise seiner Algorithmen geheim gehalten, was, zusammen mit der erhöhten Privatsphäre der Gruppen, es denjenigen, die Hassreden auf der Plattform überwachen, schwer macht.

Facebook-Gruppen wurden gegründet, um Gleichgesinnte zusammenzubringen. Doch sie haben zu zahlreichen Hassgruppen geführt, die Fehlinformationen und Verschwörungen verbreiten (Bild: kovop58/Shutterstock)

„Es ist eine Blackbox“, sagte González. „Deshalb fordern viele von uns seit Jahren mehr Transparenz darüber, wie Inhalte moderiert und ihre Regeln durchgesetzt werden.“ Was wir über diese Mechanismen wissen, zeichnet jedoch kein besonders positives Bild: Facebook selbst gab in einer Umfrage von 2016 zu, dass mehr als 60 % der extremistischen Gruppen durch algorithmische Empfehlungen entstehen.

Mit anderen Worten: Wenn sich eine Person mit Neonazi-Rockbands identifiziert, ist es sehr wahrscheinlich, dass Facebook ihr – anhand von Schlüsselwörtern, dem Browserverlauf auf der Plattform und anderen Details – extremistische Gruppen empfiehlt, die politische Verschwörungen und Vorurteile gegenüber Minderheiten diskutieren.

„Facebook hat es weißen Rassisten ermöglicht, sich zu organisieren und Verschwörungstheoretikern auf seiner Plattform zu versammeln, und es ist ihm nicht gelungen, dieses Problem einzudämmen“, sagte González. „Tatsächlich hat Facebook durch sein Empfehlungssystem erheblich zur Verbreitung dieses Problems beigetragen.“

FB wurde vor Verhaltensrisiken in Gruppen gewarnt

Laut einem Artikel in Wall Street JournalInterne Dokumente enthüllten, dass Forscher Facebook vor Verhaltensrisiken durch Gruppen gewarnt hatten. Einer Präsentation vom August 2020 zufolge gelten „etwa 70 % der 100 aktivsten nicht-bürgerlichen Gruppen aufgrund von Problemen wie Hass, Fehlinformationen, Mobbing und Belästigung als unerwünscht.“

Kurz vor November stellte Facebook vorübergehend die Empfehlung politischer Gruppen ein, um die öffentliche Unruhe vor der Wahl am 3. November 2020 zu verringern, bei der Joe Biden zum neuen Präsidenten der Vereinigten Staaten gewählt wurde und Donald Trump besiegte (Zuckerbergs Ankündigung letzte Woche machte das, was zuvor vorübergehend war, lediglich dauerhaft).

Ein Angriff angekündigt

Zwei Monate später kam das FBI zu dem Schluss, dass diese Maßnahme einer der Auslöser war, zu den Terroranschlägen auf das Kapitolin Washington, während der Bestätigung von Bidens Wahlsieg. Nach Angaben der US-Bundesbehörden organisierten sich viele der Eindringlinge in das Bundesgebäude über Facebook. Mindestens fünf Menschen starben dabei.

Eindringlinge im Kapitol in Washington, USA, am 6. Januar: Der Angriff auf das Bundesgebäude wurde maßgeblich von Facebook-Gruppen organisiert (Bild: Sebastian Portillo/Shutterstock)

Facebook antwortete, die Situation habe eher mit „neu auftretenden Gefahren“ als mit „langfristigen Bedrohungen“ zu tun: „Wenn Sie sich Gruppen vor einigen Jahren angesehen hätten, hätten Sie wahrscheinlich nicht dieselben Verhaltensweisen gesehen“, sagte Guy Rosen, Vizepräsident für Integrität bei Facebook.

Forscher widerlegen diese Auffassung jedoch und weisen darauf hin, dass Facebook-Gruppen bei der Organisation mehrerer Terroranschläge eine entscheidende Rolle spielten: bei den „Unite the Right“-Demonstrationen in Charlottesville im Jahr 2019 sowie bei Demonstrationen gegen und für den Islamischen Staat und Al-Qaida Mitte 2016 oder auch beim Wachstum von Impfgegnergruppen, die später in Schikanierungs- und Verfolgungskampagnen gegen Ärzte verwickelt waren, die an Impfstoffen und Medikamenten für verschiedene Krankheiten forschten.

Freiraum für die QAnon-Bewegung

Das stärkste – und jüngste – Beispiel hierfür ist jedoch wahrscheinlich die Bewegung der Verschwörungstheoretiker. QAn nicht: Ihre Ursprünge gehen auf eine Reihe von Posts in einer geschlossenen Facebook-Gruppe im Jahr 2017 zurück. 2020 vereinen nach der Bewegung benannte Gruppen Millionen von Nutzern, die glauben, dass die Welt heimlich von einer zwielichtigen Gruppe regiert wird, die Frauen- und Kinderhandel betreibt und Pädophilie begeht – und dass Donald Trump der „Held“ im Kampf dagegen wäre. Wenig überraschend trugen viele der Kapitol-Stürmer am 6. Januar QAnon-T-Shirts und -Flaggen.

„QAnon-Schamane“ Jake Angeli war eine der zentralen Figuren bei der Invasion des US-Kapitols am 6. Januar 1. Er wurde wenige Tage nach dem Angriff zusammen mit anderen Eindringlingen festgenommen (Bild: Johnny Silvercloud/Shutterstock)

„Politische Gruppen auf Facebook haben schon immer die Ausgegrenzten, die ‚Außenseiter‘, ausgenutzt“, sagte Joan Donovan, leitende Forscherin bei Data and Society, die den Anstieg von Hassreden auf Facebook untersucht. „Es ist eigentlich eine auf Verstärkung basierte Situation – die Algorithmen lernen, was man angeklickt und was man geliked hat, und versuchen, dieses Verhalten zu verstärken. Die Gruppen werden dann zu Koordinationszentren.“

Real Oversight Board bekräftigt auch, dass das Problem weiterhin besteht

„Ich bin nicht wirklich sicher, ob sie [Facebook] in der Lage sein werden, zu unterscheiden, was eine politische Gruppe ist und was nicht“, sagte Heidi Beirich, Direktorin des Southern Poverty Law Center von Facebook. Echtes Aufsichtsgremium, eine Gruppe von Wissenschaftlern und Experten, die die Praktiken der Inhaltsmoderation des sozialen Netzwerks kritisieren. Diese Gruppe wurde als Gegenpol zur Überwachungsausschuss Offizieller FB.

„Sie haben QAnon, Milizen und anderen Gruppen so lange erlaubt, sich auszubreiten, dass Überbleibsel dieser Bewegungen immer noch auf der Plattform vorhanden sind“, fügte sie hinzu. „Ich glaube nicht, dass sie das über Nacht beheben können. Es braucht keine Massenbewegung oder ein Meer von Menschen, um im Internet die Art von Arbeit zu leisten, die es kleineren Gruppen ermöglicht, die öffentliche Meinung maßgeblich zu beeinflussen. Das ist die Ruhe vor dem Sturm.“

Über The Guardian

Bild: Pathompong Thongsan (iStock)