Viralni AI video iz listopada 2025. tijekom predsjedničkih izbora u Irskoj, pokazao je koliko je teško očuvati izborni integritet u digitalno doba.
Na početku videa prikazana je voditeljica RTÉ News Sharon Ní Bheoláin, a zatim i kandidatkinja za predsjednicu Republike Catherine Connolly, koja navodno objavljuje da se povlači iz utrke za predsjednicu. Nakon toga, politički dopisnik Paul Cunningham kaže da su izbori otkazani i da će njezina protukandidatkinja Heather Humphreys automatski postati predsjednica.
Iz irskog državnog izbornog povjerenstva potvrdili su tad da je to bio prvi sofisticirani deepfake s kojim su se susreli. Meti je trebalo čak četiri dana da skine račun s kojeg je objavljen, a video su dotad pogledale tisuće ljudi.
U isto vrijeme, u Nizozemskoj je otkriveno da su dvojica krajnje desnih zastupnika iz stranke PVV stajala iza stanice na Facebooku koja je objavljivala deepfake slike Fransa Timmermansa, vođe zeleno-lijeve koalicije, u lisicama i s gomilom novca ispred sebe. Ranije, vođa PVV-a Gert Wilders kampanju je započeo AI generiranim videom koji prikazuje izmišljenu budućnost Nizozemske pod šerijatskim zakonima.
Iako je Europska komisija još u ožujku 2024., u skladu s Aktom o digitalnim uslugama (DSA), ususret izborima za Europski parlament, objavila smjernice o preporučenim mjerama za vrlo velike internetske platforme (VLOP) i tražilice (VLOS) radi ublažavanja sistemskih rizika koji mogu utjecati na integritet izbora, očito je da smjernice nisu dovoljne kako bi se zaštitio izborni integritet.
Osim DSA-a, u kolovozu 2024. na snagu je stupio i Akt o umjetnoj inteligenciji (AI akt). Sustave umjetne inteligencije AI akt regulira prema modelu procjene rizika, a stroža regulacija se odnosi na sustave s visokim rizikom. Tako su sustavi umjetne inteligencije kategorizirani u četiri razine rizika - sustavi neprihvatljivog, visokog, ograničenog i minimalnog rizika.
Sustavi neprihvatljivog rizika su oni koji predstavljaju jasnu prijetnju sigurnosti i pravima građana pa su stoga i zabranjeni, a primjer za to je biometrijska identifikacija za klasifikaciju ljudi prema rasi ili vjerskih uvjerenja. Što se tiče sustava visokog rizika, radi se o onima koji utječu na kritičnu infrastrukturu (promet), pravosudni sustav, zapošljavanje, biometrijsku identifikaciju na daljinu i drugo. Kao takvi, moraju ispunjavati stroge obveze, uključujući procjenu rizika i ljudski nadzor. Sustavi ograničenog rizika ne predstavljaju ozbiljan rizik, ali zahtijevaju transparentnost. Tako korisnici chatbotova moraju biti obaviješteni da komuniciraju sa sustavom umjetne inteligencije. I posljednje, sustavi minimalnog rizika ne predstavljaju stvarni rizik i mogu biti slobodno korišteni, kao što su oni u video igrama.
Jedan od važnih elemenata AI akta je i reguliranje onog što svakodnevno gledamo na društvenim mrežama. Upravo na početku spomenuti primjeri manipulacija deepfakeovima u izbornom procesu pokazali su koliko je važno da građani budu svjesni je li ono što gledaju stvarno ili nije. Članak 50. AI akta, koji stupa na snagu u kolovozu 2026., uspostavlja obvezu društvenim mrežama da omoguće označavanje AI sadržaja, da otkrivaju neoznačeni AI sadržaj, informiraju korisnike te sprječavaju pojavu obmanjujućih deepfakeova. U praksi to znači da će svaka objava koja sadrži AI generirani sadržaj morati imati oznaku da se radi o takvom. Trenutno, prepoznavanje takvog sadržaja uglavnom ovisi o informiranosti i o oku promatrača.
Iako u Hrvatskoj tijekom superizborne 2024. godine te na lokalnim izborima 2025. godine nije bilo zabilježenih slučajeva deepfakeova koji su mogli utjecati na rezultate izbora, AI manipulativni sadržaji počeli su se pojavlivati tijekom kampanje za lokalne izbore 2025. Pojavljuje se više aktera koji se sustavno koriste AI generiranim sadržajem kako bi pružili potporu ili izrazili kritiku prema određenim političkim opcijama.
Dok je u kampanjama kritika uobičajena i dobrodošla, dezinformacije i difamacija, posebno one skrivene iza tajnih računa, narušavaju izbornu utakmicu, otvaraju prostor crnom novcu u kampanjama, mogućem stranom utjecaju i narušavanju integriteta izbora.
Jedan od primjera korištenja umjetne inteligencije radi izražavanja kritike je projekt Narodni reporteri, kojeg potpisuju Dominik Alpeza i Ivo Šošić, zajedno s brojnim suradnicima.
Alpeza je još 2024. godine dospio u javnost s difamacijskom kampanjom usmjerenoj prema kandidatkinji Ivani Kekin tijekom predsjedničkih izbora. Gong je platformi TikTok, Državnom izbornom povjerenstvu i nacionalnom koordinatoru za DSA HAKOM-u prijavio nekoliko TikTok objava na kojima su se širile neistine o Ivani Kekin i pokušavalo utjecati na izbore. TikTok je nakon Gongove prijave uklonio Ne možemo račun s kojeg su se širile objave s neistinitim podacima o prikrivanju vlasništva vile Ivane Kekin u Istri, iako je sve bilo javno dostupno u imovinskoj kartici.
Alpeza je zajedno sa Šošićem nastavio s kampanjom usmjerenom protiv političara iz stranke Možemo te drugih s lijevog spektra, nerijetko koristeći umjetnu inteligenciju za generiranje slika koje nisu označene kao takve. U isto vrijeme, promoviraju političare s desnog spektra kao i druge javne ličnosti sličnih svjetonazora, poput zadarskog neovisnog političara Mate Lukića, koji redovito dijeli teorije zavjere o “zamjeni stanovništva” te Velimira Bujanca, ultradesničarskog voditelja emisije Bujica, koja prati dnevnopolitičke događaje kroz prizmu gostiju iste političke orijentacije.
Jedan od takvih primjera je objava fotografije Tomislava Tomaševića sa Svetlanom Ražnjatović Cecom, udovicom ratnog zločinca Željka Ražnjatovića Arkana i popularnom srpskom pjevačicom, gdje se lažno prikazuje da se takav susret dogodio. Fotografija je objavljena pod naslovom “ŠOKANTNO Tomašević primio Cecu, a neda Thompsonu da pjeva”, u kontekstu nadolazećeg koncerta Marka Perkovića Thompsona i Tomaševićevog uvjetovanja održavanja daljnjih koncerata zabranom uzvikivanja pozdrava "Za dom spremni". U stvari, radi se o fotografiji susreta zagrebačkog gradonačelnika Tomislava Tomaševića s američkom veleposlanicom u Hrvatskoj Nicole McGraw, čije je lice zamijenjeno Cecinim (slika odmah ispod).
Ovaj kanal usmjeren je prvenstveno na difamaciju stranke Možemo pa je opravdano i zapitati se stoji li neka protivnička politička opcija iza ovog kanala na kojem se svakodnevno objavljuje takav sadržaj. Navedeni sadržaj nema oznaku AI-ja, no ona je ionako rezervirana za tzv. zakonite deepfakove, dok su AI snimke koje sadržavaju ilegalni sadržaj platforme dužne uklanjati, unatoč oznakama (primjerice, pornografski sadržaj).
Iako je Republika Hrvatska kao nadležna tijela za provedbu AI akta odredila Agenciju za zaštitu osobnih podataka, Pučku pravobraniteljicu, Pravobraniteljicu za djecu, Pravobraniteljicu za ravnopravnost spolova, Pravobraniteljicu za osobe s invaliditetom, Državno izborno povjerenstvo i Agenciju za elektroničke medije, još nije donesen provedbeni zakon. Akt u cijelosti stupa na snagu u u kolovozu 2026. kada se počinju primjenjivati sve njegove odredbe.
