Umjetna inteligencija sve češće sudjeluje u odlukama koje se tiču života građanka i građana, od rada policije i sudova do zdravstva i državne uprave. Zato nije dovoljno pitati se koristi li se, nego kako se koristi: transparentno, odgovorno i uz poštivanje ljudskih prava i sloboda. Digitalna prava ljudska su prava, a što se na mreži i u algoritmima događa s našim podacima, privatnošću i slobodom, odnosi se na svaku osobu, a ne samo na stručnjake za tehnologiju. O tome se razgovaralo na konferenciji “Organising for Human Rights in the Age of AI”, koju je organizirala udruga Politiscope od 7. do 10. listopada u Podstrani. Na konferenciji su sudjelovale predstavnice udruga civilnog društva i institucija. Gong je na njemu predstavio svoju novu analizu “AI u javnom sektoru: Kako Hrvatska koristi umjetnu inteligenciju”, prvo sustavno mapiranje uporabe UI-ja u hrvatskim tijelima javne vlasti.
Središnji dio drugog dana programa bilo je predstavljanje Gongova istraživanja “AI u javnom sektoru: Kako Hrvatska koristi umjetnu inteligenciju”. Rezultate je predstavio autor istraživanja Sergej Županić u sesiji “Who’s Automating Croatia?”. Istraživanje je obuhvatilo 78 ključnih tijela javne vlasti, a podaci su prikupljeni zahtjevima za pristup informacijama putem platforme ImamoPravoZnati.org. Pokazalo je da umjetnu inteligenciju koristi ili testira 50 institucija, među njima policija, sudovi i ministarstva, dok je ne koriste Vlada i deset ministarstava. Najčešće se koriste generativni alati poput Microsoft Copilota i ChatGPT-ja, a više od polovice institucija koje UI koriste nema posebna interna pravila za njezinu primjenu. Posebnu pozornost Gong posvećuje sustavima koji mogu izravno utjecati na prava građana, poput sustava biometrijske identifikacije i prepoznavanja lica koje koristi MUP.
Program je otvorila rasprava o odnosu umjetne inteligencije i moći, koju je vodio Petar Vidov, urednik Klimatskog portala. Nakon čega su slijedili uvod u odnos Opće uredbe o zaštiti podataka (GDPR) i Akta o umjetnoj inteligenciji te upozorenje na moguću deregulaciju kroz paket Data Omnibus koje je predstavio Politiscope.
Karolina Iwańska iz European Center for Not-for-Profit Law Stichting (ECNL) vodila je predavanje i radionicu o procjeni učinka na temeljna prava (FRIA), s naglaskom na prelazak s formalnog ispunjavanja obrazaca na stvarnu odgovornost.
Drugi dan posvećen je hrvatskom kontekstu: razgovoru “From Brussels to Zagreb”, provedbi Akta o umjetnoj inteligenciji u Hrvatskoj (Duje Prkut, Anamarija Mladinić (AZOP) i Maja Vitaljić (Ministarstvo pravosuđa, uprave i digitalne transformacije), sesiji o registru uSloveniji (Maja Cimmerman) te biometrijskom nadzoru (Duje Kozomara, Politiscope). Na konferenciji je sudjelovalo 10-ak zagovaračkih ljudskopravaških organizacija civilnog društva, među kojima su bili i Centri znanja - Zelena akcija i Kuća ljudskih prava.
