Jetzt dafür sorgen, dass künstliche Intelligenz den Europäerinnen und Europäer dient

„KI ist nicht unfehlbar, sie wird von Menschen gemacht – und Menschen können Fehler machen. Deshalb müssen die Menschen wissen, wann KI eingesetzt wird, wie sie funktioniert und wie automatisierte Entscheidungen angefochten werden können. Die EU muss klarstellen, inwiefern die geltenden Vorschriften für KI gelten. Organisationen müssen prüfen, wie ihre Technologien in die Rechte der Menschen sowohl bei der Entwicklung als auch bei der Nutzung von KI eingreifen können“, erklärt der Direktor der FRA,Michael O’Flaherty. „Wir haben die Chance, eine KI zu gestalten, die unsere Menschen- und Grundrechte nicht nur achtet, sondern sie auch schützt und fördert.“

Der FRA-Bericht „Getting the future right – Artificial intelligence and fundamental rights“ (Die Zukunft richtig gestalten – Künstliche Intelligenz und Grundrechte) zeigt Probleme bei der Nutzung von KI auf, beispielsweise bei der prädiktiven Polizeiarbeit, bei medizinischen Diagnosen, sozialen Diensten und gezielter Werbung. Darin werden die EU und die EU-Länder aufgefordert:

• sicherzustellen, dass KI ALLE Grundrechte respektiert – KI kann viele Rechte beeinträchtigen, nicht nur den Schutz der Privatsphäre oder den Datenschutz. Sie kann auch diskriminieren oder die Justiz behindern. Jede künftige KI-Gesetzgebung muss dies berücksichtigen und wirksame Schutzmechanismen schaffen.
• zu gewährleisten, dass Menschen durch KI getroffene Entscheidungen anfechten können – die Menschen müssen wissen, wann und wie KI genutzt wird und wie und wo sie sich beschweren können. Organisationen, die KI einsetzen, müssen erklären können, wie ihre Systeme Entscheidungen treffen.
• die KI vor und während ihres Einsatzes zu bewerten, um negative Auswirkungen zu verringern – private und öffentliche Organisationen sollten einschätzen, wie KI die Grundrechte beeinträchtigen könnte.
• mehr Leitlinien zu Datenschutzvorschriften bereitzustellen – die EU sollte genauer klarstellen, wie die Datenschutzvorschriften auf KI Anwendung finden. Mehr Klarheit ist auch in Bezug auf die Auswirkungen automatisierter Entscheidungsfindung und das Recht auf Überprüfung durch den Menschen bei der Nutzung von KI erforderlich.
• zu bewerten, ob KI diskriminierend ist – das Bewusstsein für das Potenzial der KI zur Diskriminierung und die damit verbundenen Auswirkungen ist relativ gering. Deshalb müssen mehr Forschungsmittel eingesetzt werden, um die potenziell diskriminierenden Auswirkungen der KI zu untersuchen, damit Europa sich dagegen schützen kann.
• ein wirksames Aufsichtssystem zu schaffen – die EU sollte in ein stärker vernetztes System investieren, um Unternehmen und öffentliche Verwaltungen bei der Nutzung von KI zur Rechenschaft zu ziehen. Die Behörden müssen sicherstellen, dass die Aufsichtsgremien über angemessene Ressourcen und Kompetenzen verfügen, um diese Aufgabe zu erfüllen.

Der Bericht ist Teil des Projekts der FRA zu künstlicher Intelligenz und Big Data. Er stützt sich auf mehr als 100 Interviews mit öffentlichen und privaten Organisationen, die bereits KI nutzen. Diese beinhalten auch Beobachtungen von Fachleuten, die an der Überwachung potenzieller Grundrechtsverletzungen beteiligt sind. Die Analyse basiert auf tatsächlichen Einsatzgebieten von KI in Estland, Finnland, Frankreich, den Niederlanden und Spanien.

Am 14. Dezember veranstalten die FRA und der deutsche EU-Ratsvorsitz eine Konferenz zum Thema KI: Europäischer Weg für KI: Schutz von Grundrechten im Zeitalter Künstlicher Intelligenz.

Weitere Auskünfte erhalten Sie unter: media@fra.europa.eu / Tel.: +43 1 580 30 653