Gong zajedno s više od 60 organizacija civilnog društva poziva europske zakonodavne institucije da osiguraju zaštitu vladavine prava kroz novi Zakon o umjetnoj inteligenciji (AI Act) te da odbace nedavne izmjene i dopune ovog zakonskog prijedloga koje bi mogle stvoriti prilike za zloupotrebu umjetne inteligencije.
Tijela Europske unije ušla su u završnu fazu pregovora o zakonu čija je svrha regulirati razvoj i upotrebu sustava umjetne inteligencije u skladu s načelima sigurnosti, transparentnosti i nediskriminacije, no aktualni prijedlog ne sadrži sve nužne mjere kojima bi se spriječili potencijalni negativni učinci korištenja umjetne inteligencije. U otvorenom pismu nastalom uz koordinaciju European Civic Foruma, Civil Liberties Union for Europe i European Center for Not-for-Profit Law, Gong i druge organizacije civilnog društva traže da se novim zakonom stvori snažno, sigurno regulatorno okruženje za umjetnu inteligenciju utemeljeno na zaštiti temeljnih prava i vladavini prava.
Jedan od preduvjeta za to je provođenje procjene utjecaja na temeljna prava na svim visokorizičnim AI sustavima, u skladu s izmjenama zakonskog prijedloga koje je predložio Europski parlament. Potpisnice pisma traže da se procjenama učinka dodaju standardi vladavine prava, sa strukturiranim okvirom za procjenu potencijalnih učinaka, pristranosti i neželjenih posljedica primjene umjetne inteligencije. Budući da su države odgovorne za pravilnu provedbu okvira vladavine prava, provođenje procjena od strane javnih tijela, uključujući tijela za provedbu zakona, nije samo preporuka, već nužna zaštita kako bi se osiguralo da su sustavi umjetne inteligencije dizajnirani i postavljeni u potpunom skladu s vrijednostima EU-a i Povelje EU-a o temeljnim pravima.
Sve rupe u zakonu ili izuzeća potkopale bi pravnu sigurnost i dovele do proizvoljnog obnašanja vlasti, što je u osnovi protivno načelu vladavine prava. Takav je slučaj i sa člankom 6 u tekstovima Vijeća i Parlamenta, koji tvrtkama i javnim tijelima daje ovlasti da jednostrano odluče treba li njihov sustav umjetne inteligencije biti izuzet od primjene Zakona o umjetnoj inteligenciji, čak i ako je namijenjen za korištenje u jednom od visokorizičnih područja, kao što su provođenje zakona, pravosuđe, izbori ili osnovne javne usluge. Ako pružatelj sustava odluči sam sebe izuzeti, tada ni oni koji ga implementiraju neće biti primorani štititi temeljna ljudska prava. Organizacije potpisnice stoga traže povratak izvornom članku u prijedlogu Europske komisije.
Nadalje, pozivamo sudionice pregovora da odbiju predloženi amandman Europskog vijeća na članak 2. Zakona o umjetnoj inteligenciji, koji ima za cilj isključiti sustave umjetne inteligencije razvijene ili korištene u svrhe nacionalne sigurnosti iz područja primjene Zakona. Iako bi se nacionalna sigurnost u nekim slučajevima mogla smatrati legitimnim razlogom za ograničenje temeljnih prava, sve iznimke od odredbi Zakona o umjetnoj inteligenciji trebalo bi ocjenjivati od slučaja do slučaja, u skladu s Poveljom EU-a o temeljnim pravima i sudskom praksom Suda Europske unije. Rizici za temeljna prava nedvojbeno su najveći kada se sustavi umjetne inteligencije koriste u svrhu nacionalne sigurnosti, s obzirom na nedostatak općeprihvaćene definicije i rizik od zlouporabe koji iz njega proizlazi. Iz perspektive zahtjeva vladavine prava, ključno je da se osnovne mjere zaštite predviđene Zakonom o umjetnoj inteligenciji jednako poštuju kada se tehnologije umjetne inteligencije razvijaju ili koriste u svrhu nacionalne sigurnosti. Osobe oštećene neprikladnim ili nepravilnim korištenjem ovih sustava također moraju imati pristup učinkovitim pravnim lijekovima.
Imajući u vidu trenutnu krhkost vladavine prava u Europi i povećanu zabrinutost zbog zlouporabe umjetne inteligencije, Unija si ne može dopustiti da propusti ovu ključnu priliku za uvođenje snažne regulative koja će jamčiti poštivanje ljudskih prava i vladavine prava. Detaljno obrazloženje naših zahtjeva prema institucijama koje upravo o tome odlučuju pročitajte u otvorenom pismu.
