Aufgrund des rasanten technologischen Fortschritts fallen riesige Datenmengen an. Algorithmen, die auf maschinellem Lernen und künstlicher Intelligenz basieren, nutzen und analysieren zunehmend solche Daten. Dies führt zu einer automatisierten Entscheidungsfindung und schnelleren Datenverarbeitung.
Das FRA-Themenpapier über die Diskriminierung bei der datengestützten Entscheidungsfindung (#BigData: Discrimination in data-supported decision making) ist ein erster Schritt, um zu untersuchen, wie sich die Entwicklungen im Big-Data-Bereich auf die Grundrechte auswirken. Zudem geht das Papier darauf ein, wie diese Erkenntnisse als Ausgangspunkt für die weitere Forschung auf diesem Gebiet genutzt werden.
Es erkennt an, dass große Datenmengen bessere, stärker personalisierte Dienste schaffen können. Big Data können zudem zu fundierteren und objektiveren Entscheidungen beitragen und bestehende Vorurteile minimieren, von denen sich Menschen bei ihren Entscheidungen mitunter leiten lassen können.
Das Papier weist aber auch auf ernsthafte Bedenken hin, die es auszuräumen gilt.
Die Nutzung großer Datenmengen birgt ein Potenzial für immanente Verzerrungen, die zu einer Diskriminierung bei Anwendungen wie auch bei Diensten führen können, beispielsweise bei der Berechnung von Versicherungsprämien oder bei der Beurteilung von Bewerbungen. Dies ist möglicherweise auf Annahmen oder verzerrte Datensätze zurückzuführen, die zur Erstellung der Algorithmen herangezogen wurden. Mangelhafte, unvollständige, falsche oder veraltete Daten können die Ergebnisse ebenfalls noch weiter verzerren. Unter Umständen ist es gar nicht möglich, Ergebnisse für eine Gruppe von Personen auf der Grundlage von Informationen über eine andere Gruppe zu verallgemeinern oder vorherzusehen. Angehörige einer ethnischen Minderheit könnten etwa mit einer geringeren Wahrscheinlichkeit zu einem Vorstellungsgespräch eingeladen werden, weil der Algorithmus auf Daten basiert, bei denen ethnische Minderheiten schlechter abgeschnitten haben.
Das Papier nennt Beispiele, wie die Einhaltung der Grundrechte verbessert werden könnte:
Die Nutzung von Daten und die automatisierte Entscheidungsfindung können die Art und Weise, wie Entscheidungen getroffen werden, verbessern. Voraussetzung ist jedoch, dass der Gedankengang hinter diesen Entscheidungen vollständig verstanden wird und sich nicht negativ auf die Grundrechte auswirkt.
Zwar bieten die Datenschutzgrundsätze gewisse Leitlinien zur Verwendung von Algorithmen, jedoch sind in diesem Kontext noch weitere Aspekte zu berücksichtigen. Dies erfordert eine enge Zusammenarbeit zwischen Statistikerinnen/Statistikern, Juristinnen/Juristen, Sozialwissenschaftlerinnen/Sozialwissenschaftlern, Informatikerinnen/Informatikern und Sachverständigen aus den betreffenden Fachbereichen. Auf diese Weise kann ein tatsächlich grundrechtskonformer Ansatz entwickelt werden.