Organizacije civilnog društva upozoravaju: Brisanje ključne odredbe o transparentnosti oslabit će AI Akt

Gong je zajedno sa preko 50 europskih i međunarodnih organizacija civilnog društva, stručnjaka i akademika potpisao otvoreno pismo zakonodavcima Europske unije da odbace prijedlog brisanja zaštitne mjere transparentnosti iz članka 49. stavka 2. Akta o umjetnoj inteligenciji (AI Act), koji je predložen u okviru tzv. AI Omnibusa.

U otvorenom pismu upućenom zastupnicima Europskog parlamenta, predstavnicima država članica te članovima Europske komisije, potpisnici upozoravaju da bi uklanjanje ove odredbe ozbiljno narušilo provedivost Akta, oslabilo funkcioniranje jedinstvenog tržišta te povećalo rizike za zdravlje, sigurnost i temeljna prava građana.

O čemu je riječ?

Prema važećem okviru, pružatelji sustava umjetne inteligencije koji spadaju pod visokorizične kategorije mogu, u određenim slučajevima, procijeniti da njihov sustav ne predstavlja značajan rizik te se izuzeti od strogih obveza koje vrijede za visokorizične sustave.

Kako bi se spriječila zlouporaba tog mehanizma, članak 49. stavak 2. propisuje obvezu registracije takvog izuzeća u javno dostupnoj bazi podataka. Time se osigurava transparentnost i omogućuje nadzor.

Upravo ta obveza registracije predložena je za brisanje.

Tri ključne posljedice brisanja zaštitne mjere transparentnosti

Prema potpisnicima pisma, među kojima je i Gong, uklanjanje zaštitne mjere transparentnosti kroz uklanjanje obveze registracije visokorizičnih sustava umjetne inteligencije imalo bi tri ozbiljne posljedice:

1. Nedostatak nadzora i harmonizacije  
   Tijela za nadzor tržišta više ne bi imala pregled nad brojem poduzeća koja su se izuzela od visokorizičnih obveza. Time bi se otvorio prostor za velike razlike među državama članicama i potencijalno narušavanje jedinstvenog tržišta.
2. Poticaj za zaobilaženje pravila
   Pružateljima bi se omogućilo netransparentno izbjegavanje obveza. To bi stvorilo tržišni poticaj za zaobilaženje zahtjeva Akta, na štetu onih koji žele razvijati odgovorne i pouzdane sustave umjetne inteligencije.
3. Smanjena javna kontrola i povjerenje
   Građani i organizacije civilnog društva više ne bi imali uvid u to tko se izuzeo od obveza, iako njihovi sustavi formalno spadaju u visokorizične kategorije. Time bi se oslabila transparentnost i mogućnost osporavanja spornih odluka.

Ušteda od 100 eura?

Europska komisija u pratećem radnom dokumentu navodi da bi ukidanje obveze registracije u prosjeku uštedjelo oko 100 eura po poduzeću, procjenjujući da unos podataka u bazu zahtijeva oko 2,5 radna sata.

Potpisnici smatraju da je takva ušteda nesrazmjerna rizicima. Ističu da dodatnih 100 eura po poduzeću ne može imati značajan učinak na konkurentnost EU-a, ali može ozbiljno oslabiti provedbu Akta o umjetnoj inteligenciji i pretvoriti ga u sustav dobrovoljne samoregulacije.

Poziv zakonodavcima

Organizacije stoga pozivaju europske zakonodavce da odbace predložene izmjene u stavkama 6., 14. i 32. AI Omnibusa te zadrže zaštitnu mjeru transparentnosti iz članka 49. stavka 2.

Među potpisnicima su brojne europske organizacije za digitalna prava, zaštitu potrošača, ljudska prava i tehnološku odgovornost, kao i akademski stručnjaci iz područja umjetne inteligencije i prava.

Cijeli tekst pisma možete pročitati na linku.

Potpisnici:

Access Now

European Digital Rights (EDRi)

5Rights Foundation

AI Forensics

AK Europa

AlgorithmWatch

Alternatif Bilisim

Amnesty Tech

ARTICLE 19

Asociația pentru Tehnologie și Internet

Association pour la taxation des transactions financières et pour l’action citoyenne (Attac)

BEUC – European Consumer Organisation

Bits of Freedom

Centre for Democracy and Technology Europe

Coalition for Independent Technology Research

Corporate Europe Observatory (CEO)

Danes je nov dan, Inštitut za druga vprašanja

Defend Democracy

Democratic Society

Deutsche Vereinigung für Datenschutz e.V. (DVD)

Die Bürokratiemonster

Digitalcourage e. V.

Digitale Gesellschaft (Germany)

Digitale Gesellschaft (Schweiz)

Electronic Frontier Norway

epicenter.works

European Center for Not-for-Profit Law (ECNL)

European Civic Forum

European Council of Autistic People

European Disability Forum (EDF)

European Environmental Bureau

European Network Against Arms trade (ENAAT)

European Public Service Union (EPSU)

Fix the Status Quo

Gong

Homo Digitalis

Human Development Research Initiative (HDRI)

Investor Alliance for Human Rights

Irish Council for Civil Liberties

IT-Pol Denmark

La Quadrature du Net

Lafede – justícia global

Likestillings- og diskrimineringsombudet / Equality and Anti-Discrimination Ombud (Norway)

Metamorphosis Foundation for Internet and Society

Panoptykon Foundation

People vs Big Tech

Politiscope

Stichting Health Action International (HAI)

The Good Lobby

Weaving Liberation

Wikimedia Deutschland e.V.

younion _ Die Daseinsgewerkschaft

Dr. Gianclaudio Malgieri, eLaw Leiden University

Dr Abeba Birhane, AI Accountability Lab (AIAL), Trinity College Dublin

Dr. Harshvardhan Pandit, AI Accountability Lab (AIAL), Trinity College Dublin

Maribeth Rauh, AI Accountability Lab (AIAL), Trinity College Dublin

Dr. Zeerak Talat, University of Edinburgh

LK Seiling, Weizenbaum Institut / DSA40 Data Access Collaboratory

Dr. Laura Caroli

Dr. Aida Ponce Del Castillo