Stroga regulacija s rupama: Postignut dogovor europskih institucija oko Zakona o AI-ju

Institucije Europske unije postigle su politički sporazum o Zakonu o umjetnoj inteligenciji 8. prosinca nakon trijaloga između Europskog parlamenta, Vijeća i Komisije. Time su države članice EU postale prve u svijetu koje reguliraju umjetnu inteligenciju radi očuvanja i osnaživanja temeljnih ljudskih i demokratskih prava i sloboda svojih građana i građanki. Međutim, iako konačni sporazum oko ovog Zakona predstavlja napredak po pitanju regulacije umjetne inteligencije u Europi, zanemareni su mnogi zahtjevi i brige organizacija civilnog društva o pravilima upotrebe umjetne inteligencije, ostavljajući upitnim konačni značaj ovog zakona. 

Kroz 2023. godinu europske organizacije civilnog društva, a među njima i Gong, aktivno su se uključile u pripremu ovog zakona, zalažući se za nužnost osiguranja zaštite ljudskih prava, i to za sve ranjive skupine (poput migranata), kao i za transparentnost EU prema javnosti po pitanju upotrebe opasnih AI tehnologija. Unatoč tom angažmanu i mobilizaciji, kompromisna pozicija europskih institucija ostavlja otvorenim mogućnost nazadovanja demokratskih, digitalnih i ljudskih prava putem povećanih mogućnosti nadzora europskih građana i građanki. Prema informacijama Europske inicijative za digitalna prava (EDRi), dogovorena rješenja uključuju:

• Zabranu tehnologija za prepoznavanja lica u javnosti (uz iznimke koje i dalje omogućuju korištenje ovih sustava na opasan, diskriminirajući i masovno nadzorni način)
• Upotrebu tehnologije retrospektivnog prepoznavanja lica samo u potrazi za osumnjičenicima za teška kaznena djela (ali bez definiranja što se sve smatra teškim kaznenim djelom)
• Djelomičnu zabranu prediktivnog policijskog nadzora, što uključuje predviđanje vjerojatnosti počinjenja kaznenog djela na temelju “osobnosti ili karakteristika” osoba
• Potpunu zabranu sustava prepoznavanja emocija, ali samo na radnom mjestu i u obrazovnim ustanovama (ostavljajući mogućnost primjene u policijskom kontekstu i slučajevima migracija na granicama)
• Zabranu sustava biometrijske kategorizacije (ali bez naznake hoće li ta zabrana biti značajna)
• Obaveznu procjenu utjecaja AI tehnologije i sustava na temeljna prava te zadane razine transparentnosti po pitanju uporabe visokorizičnih AI sustava u Europi (ali uz prostor određivanja razine rizika umjetne tehnologije od strane njihovih vlasnika, čime se gubi mogućnost javnog nadzora) 

Sljedeći su koraci za europske institucije tehničke rasprave i provedba Zakona, a u narednim će se tjednima detaljnije pojasniti pojedinosti sporazuma. Europske će organizacije civilnog društva, a među njima i Gong, nastaviti tražiti odgovornost država članica u provedbi Zakona te će sudjelovati u oblikovanju praktičnih aspekata Zakona. Osim što su nedovoljno reguliranom upotrebom AI tehnologije ugrožena građanska prava i slobode, zbog omogućavanja masovnog biometrijskog nadzora, u opasnost se dovodi i vladavina prava u Europi.