To poročilo o umetni inteligenci in temeljnih pravicah podpira ta cilj z analizo posledic za temeljne pravice pri uporabi umetne inteligence. Na podlagi konkretnih primerov uporabe umetne inteligence na izbranih področjih se osredotoča na razmere na terenu v smislu izzivov in priložnosti na področju temeljnih pravic pri uporabi umetne inteligence.
Kazalo:
Prevod iz angleškega jezika (Getting the future right – Artificial intelligence and fundamental rights in the EU) je zagotovil Zagovornika načela enakosti. Agencija Evropske unije za temeljne pravice (FRA) ne odgovarja za pravilnost prevoda.
„Zdaj se dogaja, da vsakdo, ki uporablja strojno učenje, to označuje kot umetno inteligenco.“(javna uprava, Nizozemska)
„Večinoma se uporablja, da prihranimo čas […], ko je treba pregledati velike količine gradiva.“(javna uprava, Nizozemska)
„Najpomembnejša je učinkovitejša obravnava primerov. Gre za to, da čim učinkoviteje izkoristimo kapaciteto naših kadrov, ljudi, ki obravnavajo primere.“(javna uprava, Nizozemska)
„[Naš način uporabe umetne inteligence] nikakor kakor koli ne vpliva [na človekove pravice]. V smislu postopka odločanja ni pomembno, ali odločitev sprejme stroj ali človek.“(anketiranec, zaposlen v javni upravi, Estonija))
„Interno lahko odločitve modelov strojnega učenja pojasnimo in za to imamo več sredstev.“(zasebni sektor, Estonija)
„Če sistemi nimajo črnih skrinjic z informacijami ali procesi, je to že korak naprej v smeri varstva človekovih pravic.“(javna uprava, Španija)
„Zelo naklonjeni smo ideji, da mora biti umetna inteligenca razložljiva.“(javna uprava, Francija)
„Ko zagotovimo spoštovanje vseh pravic v zvezi z varstvom podatkov, ne razumem, kakšno vlogo bi v tem pogledu lahko imele človekove pravice.“(zasebno podjetje, Španija)
predpostavljamo, da ne gre za vprašanja človekovih pravic: vse dejavnosti potekajo znotraj pravnega okvira, vse dejavnosti so skladne z varstvom podatkov in dobrimi praksami, zato menimo, da vprašanja človekovih pravic niso povezana z uporabo teh sistemov.“(javna uprava, Španija)
„Mislim, da posebnih tehnologij, kot je umetna inteligenca, ni treba posebej urejati. Zadostujejo splošna načela in tehnološko nevtralna pravila.“(zasebni sektor, Estonija)
„V povezavi z izvajanjem GDPR smo bili nekoliko zaskrbljeni, vendar je to na koncu pomenilo upravljanje zbirk podatkov in pravic dostopa […]. To je dobro opozorilo, da vsega ne moremo ali ne bi smeli narediti.“(javna uprava, Finska)
„Pravzaprav me skrbi, da bi GDPR lahko predstavljala oviro pri raziskovanju umetne inteligence. Nekaterih velikih podatkovnih baz, ki smo jih prej uporabljali, žal pri naših raziskavah ne moremo več uporabljati.“(zasebno podjetje, Nizozemska)
„Obstaja GDPR, vendar ne predpisuje posebnih pravil. Daje načela, a na koncu gre za etična vprašanja in razlago.“(zasebno podjetje, Estonija))
„Na splošno obstaja velika napetost glede splošne uredbe o varstvu podatkov. Zelo si želimo, da bi nam šlo dobro, v resnici pa stvari morda le še poslabšamo, saj se interpretacija podatkov potem izkaže za nemogočo nalogo.“(javna uprava, Nizozemska)
„Če bi morali model razložiti, nam ne bi uspelo. Gre za statistični model, ki ga ni mogoče dobro razložiti.“(javna uprava, Francija)
„Število pritožb glede uporabe podatkov je majhno, namesto tega so ljudje večkrat zahtevali, da se izbrišejo nekatere informacije o njih.“((zasebno podjetje, Estonija)
„Da, ocenjujemo zakonitost varstva osebnih podatkov in skladnost s posebnimi pravnimi akti na tem področju.“(javna uprava, Estonija)
„Če želite, da stroj ne diskriminira na podlagi spola, preprosto ne vključujte spremenljivke spola ali naredite primere simetrične, če opazite, da ima spol določen pomen.“(javna uprava, Španija)
„Pri diskriminaciji se nekoliko zaplete, ker se nekatere bolezni pogosteje pojavljajo pri določenih etničnih skupinah. Napovedi tako upoštevajo spol, etnično pripadnost in genske značilnosti. Vendar to še ne pomeni diskriminacije ali kršitve človekovih pravic.“(zasebni sektor, Francija)
„Poskušamo gledati v prihodnost. Vedno več bo avtomatizacije.“(zasebno podjetje, Estonija)
„Naslednji koraki so povezani s preglednostjo in odprtimi podatki: to pomeni, da se objavijo ne le informacije v formatu pdf, ampak tudi informacije v ponovno uporabljivi obliki, tako da se omogoči njihova ponovna uporaba tako interno kot tudi znotraj celotnega zasebnega sektorja.“(javna uprava, Španija)
„Umetna inteligenca je odlična stvar, vendar se jo moramo naučiti uporabljati.“(zasebno podjetje, Španija)
„Obstaja tveganje prevelikega zaupanja v stroje.“(javna uprava, Francija))
Pri tem bi se morale EU in njene države članice opirati na trdne dokaze o vplivu umetne inteligence na temeljne pravice, da bi zagotovile, da se pri omejevanju nekaterih temeljnih pravic spoštujeta načeli nujnosti in sorazmernosti.
Z zakonom je treba zagotoviti ustrezne zaščitne ukrepe za učinkovito zaščito pred samovoljnim poseganjem v temeljne pravice ter za zagotovitev pravne varnosti razvijalcem in uporabnikom umetne inteligence. Prostovoljne sheme za opazovanje in varstvo temeljnih pravic pri razvoju in uporabi umetne inteligence lahko dodatno pomagajo ublažiti kršitve pravic. V skladu z minimalnimi zahtevami pravne jasnosti – kot osnovnega načela pravne države in temeljnega pogoja za zagotavljanje temeljnih pravic – mora zakonodajalec pri opredelitvi področja uporabe katerega koli takega zakona o umetni inteligenci ravnati skrbno.
Glede na raznolikost tehnologije, ki je zajeta v izraz umetna inteligenca, in pomanjkanje znanja o celotnem obsegu njenega potencialnega učinka na temeljne pravice bo morda treba redno ocenjevati pravno opredelitev izrazov, povezanih z umetno inteligenco.
Ocene učinka bi morale temeljiti na uveljavljeni dobri praksi z drugih področij, njihovo izvajanje pa bi se moralo po potrebi med uvajanjem redno ponavljati. Te ocene bi se morale izvajati pregledno. Njihovi rezultati in priporočila bi morali biti čim bolj javno dostopni. V smislu podpore postopku ocene učinka bi bilo treba od podjetij in javne uprave zahtevati, da zberejo informacije, potrebne za temeljito oceno morebitnega učinka v zvezi s temeljnimi pravicami.
EU in države članice bi morale razmisliti o ciljno usmerjenih ukrepih v podporo tistim, ki razvijajo, uporabljajo ali načrtujejo uporabo sistemov umetne inteligence, da bi zagotovile učinkovito izpolnjevanje svojih obveznosti glede ocen učinka v zvezi s temeljnimi pravicami. Takšni ukrepi bi lahko vključevali financiranje, smernice, usposabljanje ali ozaveščanje. Usmerjeni bi morali biti predvsem, vendar ne izključno, v zasebni sektor.
EU in države članice bi morale razmisliti o uporabi že razvitih orodij, kot so kontrolni seznami ali orodja za samoocenjevanje, ki so bila razvita na evropski in mednarodni ravni. Med njimi so tista, ki jih je razvila skupina Evropske komisije na visoki ravni za umetno inteligenco.
EU in države članice bi morale tudi bolje izkoristiti že vzpostavljene strokovne strukture za nadzor, da bi zaščitile temeljne pravice pri uporabi umetne inteligence. Med njimi so organi za varstvo podatkov, organi za enakost, nacionalne institucije za človekove pravice, varuhi človekovih pravic in organi za varstvo potrošnikov.
Dodatna sredstva bi bilo treba nameniti vzpostavitvi učinkovitih sistemov odgovornosti z izpopolnjevanjem in zagotavljanjem raznolikosti osebja, ki dela za nadzorne organe. To bi jim omogočilo obravnavo zapletenih vprašanj, povezanih z razvojem in uporabo umetne inteligence.
Podobno bi morali imeti ustrezni organi zadostna sredstva, pooblastila in – kar je še pomembnejše – strokovno znanje za preprečevanje in ocenjevanje kršitev temeljnih pravic ter učinkovito podporo tistim, na temeljne pravice katerih vpliva umetna inteligenca.
Olajšanje sodelovanja med ustreznimi organi na nacionalni in evropski ravni lahko pripomore k izmenjavi strokovnega znanja in izkušenj. Pomaga lahko tudi sodelovanje z drugimi subjekti z ustreznim strokovnim znanjem, kot so specializirane organizacije civilne družbe. Države članice bi morale pri izvajanju takšnih ukrepov na nacionalni ravni razmisliti o uporabi razpoložljivih mehanizmov financiranja EU.
Evropska komisija in države članice bi morale razmisliti o zagotovitvi sredstev za ciljno usmerjene raziskave o potencialno diskriminatornih učinkih uporabe umetne inteligence in algoritmov. Takšnim raziskavam bi koristila prilagoditev uveljavljenih raziskovalnih metod iz družbenih ved, ki se uporabljajo za odkrivanje morebitne diskriminacije na številnih področjih, od zaposlovanja do profiliranja strank.
Na podlagi rezultatov takih raziskav bi bilo treba razviti smernice in orodja za podporo tistim, ki umetno inteligenco uporabljajo za odkrivanje možnih diskriminatornih rezultatov.
Obstaja visoka stopnja negotovosti glede pomena avtomatiziranega odločanja in pravice do človeškega nadzora, povezanega z uporabo umetne inteligence in avtomatiziranega odločanja. EOVP in ENVP bi morala zato razmisliti tudi o nadaljnji pojasnitvi pojmov „avtomatizirano odločanje“ in „človeški nadzor“, kadar sta navedena v zakonodaji EU.
Poleg tega bi morali nacionalni organi za varstvo podatkov zagotoviti praktične smernice o tem, kako se določbe o varstvu podatkov uporabljajo za uporabo umetne inteligence. Take smernice bi lahko vključevale priporočila in kontrolne sezname, ki temeljijo na konkretnih primerih uporabe umetne inteligence, da se podpre skladnost z določbami o varstvu podatkov.
Za zagotovitev dostopnosti razpoložljivih pravnih sredstev v praksi bi lahko zakonodajalec EU in države članice razmislili o uvedbi pravne obveznosti za javno upravo in zasebna podjetja, ki uporabljajo sisteme umetne inteligence, da tistim, ki iščejo informacije o pravnih sredstvih, zagotovijo informacije o delovanju svojih sistemov umetne inteligence. To vključuje informacije o tem, kako ti sistemi umetne inteligence sprejemajo avtomatizirane odločitve. Ta obveznost bi pripomogla, da se doseže enakost orožij, kadar posamezniki iščejo pravico. Podprla bi tudi učinkovitost zunanjega spremljanja sistemov umetne inteligence in nadzora nad človekovimi pravicami v okviru teh sistemov (glej mnenje FRA št. 3).
Glede na težave pri pojasnjevanju zapletenih sistemov umetne inteligence bi morala EU skupaj z državami članicami razmisliti o oblikovanju smernic v podporo prizadevanjem za preglednost na tem področju. Pri tem bi se morali opirati na strokovno znanje nacionalnih organov za človekove pravice in organizacij civilne družbe, ki delujejo na tem področju.
These documents constitute background material for a comparative analysis for the project “Artificial Intelligence, Big Data and Fundamental Rights”. The country research was commissioned under contract D-SE-19-T02. The information and views contained in the documents do not necessarily reflect the views or the official position of the FRA. The documents are made available for transparency and information purposes only and do not constitute legal advice or legal opinion.
EN (pdf 2 MB)
EN (pdf 2.8 MB)
EN (pdf 3.3 MB)
EN (pdf 3 MB)
EN (pdf 2.9 MB)
