Künstliche Intelligenz und Big Data

Artificial intelligence is everywhere and affects everyone – from deciding what content people see on their social media feeds to determining who will receive state benefits. AI technologies are typically based on algorithms that make predictions to support or even fully automate decision-making.

Der Bericht der FRA über künstliche Intelligenz und Grundrechte präsentiert konkrete Beispiele dafür, wie Unternehmen und Behörden in der EU künstliche Intelligenz einsetzen oder einzusetzen versuchen. Diese Zusammenfassung stellt die wichtigsten Erkenntnisse aus dem Bericht vor, die sowohl auf Unionsebene als auch auf nationaler Ebene für die Politikgestaltung auf dem Gebiet des menschen- und grundrechtskonformen Einsatzes von KI-Tools genutzt werden können.

Artificial intelligence (AI) already plays a role in deciding what unemployment benefits someone gets, where a burglary is likely to take place, whether someone is at risk of cancer, or who sees that catchy advertisement for low mortgage rates. Its use keeps growing, presenting seemingly endless possibilities. But we need to make sure to fully uphold fundamental rights standards when using AI. This report presents concrete examples of how companies and public administrations in the EU are using, or trying to use, AI. It focuses on four core areas – social benefits, predictive policing, health services and targeted advertising.

Mithilfe von Gesichtserkennungstechnologie können digitale Gesichtsbilder verglichen werden, um festzustellen, ob sie dieselbe Person zeigen. Der Vergleich von Aufnahmen von Videokameras mit Bildern in Datenbanken wird als Live-Gesichtserkennungstechnologie bezeichnet. Nur wenige nationale Strafverfolgungsbehörden in der EU nutzen derzeit eine solche Technologie – doch mehrere erproben ihr Potenzial. Im vorliegenden Fokuspapier werden daher die Auswirkungen der Live-Gesichtserkennungstechnologie im Hinblick auf die Grundrechte untersucht, wobei der Schwerpunkt auf der Nutzung für die Zwecke der Strafverfolgung und des Grenzmanagements liegt.

Algorithms used in machine learning systems and artificial intelligence (AI) can only be as good as the data used for their development. High quality data are essential for high quality algorithms. Yet, the call for high quality data in discussions around AI often remains without any further specifications and guidance as to what this actually means.

We live in a world of big data, where technological developments in the area of machine learning and artificial intelligence have changed the way we live. Decisions and processes concerning everyday life are increasingly automated, based on data. This affects fundamental rights in various ways. This focus paper specifically deals with discrimination, a fundamental rights area particularly affected by technological developments.