Na jučerašnjem plenarnom glasovanju o Zakonu o umjetnoj inteligenciji Europske unije, Europski parlament podržao je zabranu primjene daljinske biometrijske identifikacije u stvarnom vremenu, sustava za društveno bodovanje i drugih diskriminatornih AI sustava, no propuštena je ključna prilika za usvajanje najviših standarda zaštite temeljnih ljudskih prava u kontekstu daljnjeg razvoja i korištenja umjetne inteligencije.
Zakon o umjetnoj inteligenciji (AI Act) prvi je skup sveobuhvatnih pravila za upravljanje rizicima povezanim s umjetnom inteligencijom i promicanje upotrebe umjetne inteligencije koja je u skladu s vrijednostima EU-a, a obuhvaća pitanja nadzora, privatnosti i nediskriminacije.
Uoči glasovanja u Europskom parlamentu, Gong se u dogovoru s ostalim članicama mreže European Civic Forum obratio nacionalnim europarlamentarcima s preporukama kako regulacijom umjetne inteligencije zaštititi temeljna ljudska prava. Pozvale smo hrvatske zastupnike i zastupnice da: (a) osnaže osobe pogođene negativnim učincima primjene umjetne inteligencije na ostvarenje svojih prava, (b) zauzmu se za transparentnost i odgovornost pri korištenju umjetne inteligencije i (c) zabrane sustave umjetne inteligencije koji predstavljaju neprihvatljiv rizik za temeljna prava. Jedan je to u nizu koraka koje smo poduzele kako bismo skrenule pozornost na društvene implikacije primjene tehnologija poput daljinske biometrijske identifikacije (RBI) te drugih štetnih praksi masovnog nadzora i profiliranja, inzistirajući na zakonskom okviru koji će beskompromisno štititi temeljna ljudska prava.
Premda su zahtjevi organizacija civilnog društva djelomično zadovoljeni, aktualni prijedlog Zakona još uvijek ima zabrinjavajuće manjkavosti. Usvojenom tekstu nedostaje zabrana korištenja štetnih AI sustava u kontekstu migracija, čija primjena može ozbiljno doprinijeti nasilju na granicama i odbijanju azila. Također, ljudima pogođenim štetnim posljedicama primjene umjetne inteligencije nije omogućeno pravo da ih organizacija civilnog društva zastupa pri podnošenju pritužbe. Uz ove značajne propuste, potrebno je suočiti se s dugoročnim manama pristupa temeljenog na rizicima (koji ovise o kontekstu i nije ih uvijek moguće unaprijed odrediti) i zatvoriti sve rupe koje potencijalno ustupaju prostor samoregulaciji velikih tehnoloških tvrtki.
Ipak, Europski parlament ovim je glasovanjem dao zeleno svjetlo za nastavak međuinstitucijskih pregovora, a tijekom tog procesa moguće je ispraviti sve navedene nedostatke i postaviti čvrste temelje za budućnost koja jamči razvoj umjetne inteligencije u službi čovječanstva.
