Mit der Ausweitung der biometrischen Registrierung für vielfältige persönliche Zwecke scheinen wir der Zukunft einen Schritt näher zu sein. Schließlich ist die Authentifizierung mit unseren biometrischen Daten effizienter, da unsere Fingerabdrücke von Natur aus einzigartig und schwer zu kopieren sind. Doch all dieser Fortschritt wirft neue Fragen auf: Gibt es Risiken bei der Gesichtserkennung?

Nach dem aktuelle Folge von Cufasprachen wir mit Christian Perrone, Koordinator des Bereichs Recht und Technologie am Institut für Technologie und Gesellschaft von Rio de Janeiro (ITSRio). Neben der Klärung der Auswirkungen des Falles erklärte der Experte Vida Celular eine Reihe von Fragen rund um das, was bei der Gesichtserkennung wirklich auf dem Spiel steht.

Gesichtserkennung ist wie ein virtuelles Gedächtnis

Wie wir veröffentlicht haben hier schon malGesichtserkennung als individuelle Identifikation ist noch nicht so alt, und erst 2011 wurde die Technologie in Smartphones integriert. In ihrer grundlegendsten Struktur besteht die Technologie aus zwei Teilen: einem Teil zur Identifizierung und Kartierung und einer biometrischen Datenbank mit Gesichtern zum Vergleich. Ohne einen Teil funktioniert sie nicht richtig.

Perrone erklärt, dass Gesichtserkennungstechnologien in gewisser Weise wie unser eigenes Gedächtnis funktionieren. „Es ist, als würde man ein altes Fotoalbum ansehen und wissen, dass die Person darin ein Freund aus der Kindheit ist.“ Der Experte erklärt, dass die Erkennung in drei Schritten erfolgt.

Zunächst erkennt die Maschine, eine künstliche Intelligenz, dass das Bild das Gesicht einer Person enthält. Anschließend kartiert sie dieses Gesicht und wandelt es in sogenannte biometrische Daten um. Schließlich vergleicht sie die Gesichtskarte mit einer Datenbank, um die konkrete Person auf dem Foto zu bestimmen. Das heißt, ob die Person in der verglichenen Datenbank vorhanden ist.

Das Problem mit dem digitalen Gedächtnis ist, dass es auch versagt

Heute spielt dieser „digitale Speicher“ eine wichtige Rolle für die Gerätesicherheit. Geräte wie das iPhone, die diese Funktion mittlerweile zum Entsperren nutzen, können nun biometrische Daten zur Autorisierung von Zahlungen verwenden. Facebook beispielsweise Studium zur Implementierung der Technologie in Ihrer Smartbrille und sogar auf whatsapp.

Gesichtserkennung birgt jedoch auch Risiken. In der Dokumentation „Coded Bias“ zeigt die MIT-Forscherin Joy Buolamwini, dass visuelle Biometrie bei Gesichtern von Menschen, die nicht männlich oder weiß sind, weniger effektiv ist und zu dem führt, was Experten als „rassistische Voreingenommenheit“ bezeichnen.

„Ein Teil ihrer Studie zeigte, dass viele dieser Tools weibliche Gesichter nicht erkannten“, erklärt Perrone. „Die meisten dieser Technologien haben beispielsweise deutlich größere Schwierigkeiten, schwarze Frauen zu erkennen, selbst bei Bildern von Prominenten wie Oprah oder Michelle Obama.“

Im Bereich der künstlichen Intelligenz ist rassistische Voreingenommenheit eine der am häufigsten auftretenden Schwierigkeiten des maschinellen Lernens. Um richtig zu funktionieren, müssen Datenbanken so trainiert werden, dass sie vielfältig sind – und dazu mit einer breiten Palette von Profilen arbeiten. Facebook veröffentlichte eine Reihe von Videos für Programmierer, um die Erkennungs- und Identifikationskapazität ihrer Algorithmen zu testen.

Unfähigkeit, die Auswirkungen auf öffentliche Dienste angemessen zu erkennen

In Brasilien stellt die Gesichtserkennung gleich zwei Herausforderungen dar: Sie muss die Technologie ohne rassistische Vorurteile und korrekt implementieren. Unter bestimmten Umständen können biometrische Ungenauigkeiten Risiken für die Zivilgesellschaft darstellen.

Könnte die Gesichtsbiometrie nicht eine Form der Ausgrenzung zur Folge haben? Könnte sie nicht eine Bevölkerungsgruppe stärker treffen als eine andere? Diese Technologie wird in der U-Bahn eingesetzt. Es gibt Menschen, die nicht aufhören können, dieses Verkehrsmittel zu benutzen. Daher könnte sie diese Bevölkerungsgruppe unverhältnismäßig stark treffen.

Tatsächlich setzt die brasilianische Regierung in einigen ihrer Programme bereits Gesichtsbiometrie ein, wie zum Beispiel: Lebensbeweis, zugunsten des INSS. In diesem Szenario dient die Technologie als Mechanismus zur Betrugsprävention, indem sie erkennt, ob die Person überhaupt lebt. Gesichtserkennung mit rassistischer Voreingenommenheit kann den Zugang zu diesen öffentlichen Diensten gefährden.

Missbrauch bedroht die individuelle Freiheit

Andererseits kann eine unsachgemäße Gesichtserkennung die individuelle Freiheit bedrohen. In der Vergangenheit wurde die Gesichtsbiometrie für Reaktionserkennung In der U-Bahn von São Paulo wurden unrechtmäßig Daten von Fahrgästen erhoben. Beim Einsatz in einer Werbekampagne verletzte die Technologie die Privatsphäre der Nutzer. Wollten sie nicht teilnehmen, mussten sie auf die Nutzung öffentlicher Verkehrsmittel verzichten.

Die Risiken werden noch größer, wenn Gesichtserkennung im Bereich der öffentlichen Sicherheit eingesetzt wird. „Dadurch kann der Staat oder wer auch immer die Technologie nutzt, die Schritte der Menschen verfolgen, wissen, wo sie sich befinden und was sie tun“, erklärt Perrone.

In den Vereinigten Staaten Zivilkörperschaften haben sich bereits gegen den Einsatz der Gesichtsbiometrie in der öffentlichen Sicherheit ausgesprochen. Der Experte behauptet, dass der unangemessene Einsatz der Gesichtserkennung letztlich zur Schaffung eines Überwachungsstaates führe.

Stellen Sie sich die Auswirkungen auf die Bewegungsfreiheit der Menschen vor; auf die Möglichkeit friedlicher Versammlungen, Proteste und sogar auf die Privatsphäre, wie zum Beispiel die Entdeckung der eigenen Sexualität durch einen Teenager. All dies lässt sich nicht nur in Bildern festhalten, sondern man kann buchstäblich wissen, wer die Person ist, was sie tut und mit wem sie zusammen ist.

Das Datenschutz-Grundgesetz funktioniert, könnte aber besser sein

In Brasilien werden einige der Risiken der Gesichtserkennung durch das Datenschutzgesetz (LGPD) gemildert. Die Klausel behandelt Gesichtsbiometrie als sensible Informationen, und ihre Verwendung muss den Beteiligten klar sein. Es besteht jedoch noch Verbesserungsbedarf.

„Ebenso gibt es noch keine klare Regelung für den Einsatz der Gesichtserkennung für verschiedene Zwecke, beispielsweise die öffentliche Sicherheit“, so Perrone abschließend. „Die Frage ist hier weniger, wann sie eingesetzt werden sollte, sondern vielmehr, wann wir glauben, dass das Verhältnis von Risiken und Chancen einen sicheren, verantwortungsvollen und gesunden Einsatz begünstigt.“

Bild: filadendron/iStock