Vier Möglichkeiten, Verzerrungen durch die Nutzung von Big Data zu vermeiden

Das neue Themenpapier der Agentur der Europäischen Union für Grundrechte (FRA) befasst sich mit dem Diskriminierungspotenzial, das die Nutzung großer Datenmengen (Big Data) für die automatisierte Entscheidungsfindung birgt. Zusätzlich zeigt das Papier auch mögliche Wege zur Minimierung dieses Risikos auf.

Aufgrund des rasanten technologischen Fortschritts fallen riesige Datenmengen an. Algorithmen, die auf maschinellem Lernen und künstlicher Intelligenz basieren, nutzen und analysieren zunehmend solche Daten. Dies führt zu einer automatisierten Entscheidungsfindung und schnelleren Datenverarbeitung.

Das FRA-Themenpapier über die Diskriminierung bei der datengestützten Entscheidungsfindung (#BigData: Discrimination in data-supported decision making) ist ein erster Schritt, um zu untersuchen, wie sich die Entwicklungen im Big-Data-Bereich auf die Grundrechte auswirken. Zudem geht das Papier darauf ein, wie diese Erkenntnisse als Ausgangspunkt für die weitere Forschung auf diesem Gebiet genutzt werden.

Es erkennt an, dass große Datenmengen bessere, stärker personalisierte Dienste schaffen können. Big Data können zudem zu fundierteren und objektiveren Entscheidungen beitragen und bestehende Vorurteile minimieren, von denen sich Menschen bei ihren Entscheidungen mitunter leiten lassen können.

Das Papier weist aber auch auf ernsthafte Bedenken hin, die es auszuräumen gilt.

Die Nutzung großer Datenmengen birgt ein Potenzial für immanente Verzerrungen, die zu einer Diskriminierung bei Anwendungen wie auch bei Diensten führen können, beispielsweise bei der Berechnung von Versicherungsprämien oder bei der Beurteilung von Bewerbungen. Dies ist möglicherweise auf Annahmen oder verzerrte Datensätze zurückzuführen, die zur Erstellung der Algorithmen herangezogen wurden. Mangelhafte, unvollständige, falsche oder veraltete Daten können die Ergebnisse ebenfalls noch weiter verzerren. Unter Umständen ist es gar nicht möglich, Ergebnisse für eine Gruppe von Personen auf der Grundlage von Informationen über eine andere Gruppe zu verallgemeinern oder vorherzusehen. Angehörige einer ethnischen Minderheit könnten etwa mit einer geringeren Wahrscheinlichkeit zu einem Vorstellungsgespräch eingeladen werden, weil der Algorithmus auf Daten basiert, bei denen ethnische Minderheiten schlechter abgeschnitten haben.

Das Papier nennt Beispiele, wie die Einhaltung der Grundrechte verbessert werden könnte:

  1. Transparenz bezüglich der Erstellung von Algorithmen, damit andere Personen diskriminierende Anwendungen erkennen und korrigieren können.
  2. Bewerten, wie sich potenzielle Verzerrungen und missbräuchliche Nutzung aufgrund von Algorithmen auswirken.
  3. Die Qualität aller erhobenen und für die Erstellung von Algorithmen verwendeten Daten bewerten.
  4. Verständlich erklären, wie Algorithmen funktionieren und erstellt werden, damit die Betroffenen datengestützte Entscheidungen infrage stellen können.

Die Nutzung von Daten und die automatisierte Entscheidungsfindung können die Art und Weise, wie Entscheidungen getroffen werden, verbessern. Voraussetzung ist jedoch, dass der Gedankengang hinter diesen Entscheidungen vollständig verstanden wird und sich nicht negativ auf die Grundrechte auswirkt.

Zwar bieten die Datenschutzgrundsätze gewisse Leitlinien zur Verwendung von Algorithmen, jedoch sind in diesem Kontext noch weitere Aspekte zu berücksichtigen. Dies erfordert eine enge Zusammenarbeit zwischen Statistikerinnen/Statistikern, Juristinnen/Juristen, Sozialwissenschaftlerinnen/Sozialwissenschaftlern, Informatikerinnen/Informatikern und Sachverständigen aus den betreffenden Fachbereichen. Auf diese Weise kann ein tatsächlich grundrechtskonformer Ansatz entwickelt werden.