Uoči glasanja o Zakonu o umjetnoj inteligenciji u Europskom parlamentu, civilno društvo predvođeno mrežom EDRi poziva članove i članice Europskog parlamenta da osiguraju da Zakon EU o umjetnoj inteligenciji (AI Act) odredi temeljna prava kao prioritet i zaštiti ljude od negativnih učinaka umjetne inteligencije.
Sve češće svjedočimo primjeni sustava umjetne inteligencije za nadzor i identifikaciju osoba u javnim prostorima, predviđanje vjerojatnosti kriminalnog ponašanja, preusmjeravanje policijskih i imigracijskih kontrola na područja koja su već previše nadzirana, olakšavanje kršenja prava na traženje azila i presumpcije nevinosti. Umjetna inteligencija koristi se za predviđanje naših emocija i kategorizaciju pomoću diskriminirajućih zaključaka te za donošenje ključnih odluka koje određuju naš pristup socijalnoj skrbi, obrazovanju i zapošljavanju.
Bez odgovarajuće regulacije, sustavi umjetne inteligencije pogoršat će postojeće društvene posljedice masovnog nadzora, strukturalne diskriminacije, centralizirane moći velikih tehnoloških tvrtki, neodgovornog javnog odlučivanja i izrabljivanja okoliša. Zakon o umjetnoj inteligenciji EU-a može i trebao bi se pozabaviti tim pitanjima, osiguravajući da razvoj i korištenje umjetne inteligencije funkcionira unutar okvira odgovornosti, transparentnosti i odgovarajućih ograničenja usidrenih u temeljnim pravima.
Potpisnice apeliraju da se pri izglasavanju Zakona o umjetnoj inteligenciji osigura sljedeće:
To uključuje osiguravanje horizontalnih i uvriježenih kriterija pristupačnosti za sve sustave umjetne inteligencije, prava na podnošenje pritužbi kada su ljudska prava povrijeđena sustavom umjetne inteligencije, prava na zastupanje i prava na učinkovite pravne lijekove.
Ovo se može postići propisivanjem obveze za korisnike visokorizičnih sustava umjetne inteligencije da provedu i objave procjenu učinka na temeljna prava prije implementacije te uvjetovanjem da se upotreba visokorizičnih sustava umjetne inteligencije i upotreba svih sustava umjetne inteligencije u javnoj sferi registrira prije implementacije, osiguravajući da u zakonu nema rupa zahvaljujući kojima bi visokorizični pružatelji sustava umjetne inteligencije mogli zaobići pravni nadzor.
Mora postojati potpuna zabrana svih vrsta biometrijske identifikacije na daljinu, prediktivnih i nadzornih sustava u radu policije, sustava za prepoznavanje emocija, biometrijskih sustava za kategorizaciju koji koriste osjetljive značajke ili se koriste u javnim prostorima te pojedinačnih procjena rizika i prediktivnih analitičkih sustava u kontekstu ograničavanja i sprječavanja migracija.
Potpisnice pozivaju zastupnice i zastupnike u Europskom parlamentu da glasaju za uključivanje ovih oblika zaštite u Zakon o umjetnoj inteligenciji i osiguraju da on bude sredstvo za promicanje temeljnih prava i socijalne pravde. Cijela izjava dostupna je online.
