AI Act je skup prvih sveobuhvatnih pravila o umjetnoj inteligenciji na svijetu. 

foto: Pixabay

Zvaničnici Evropske unije (EU) postigli su u petak politički sporazum o prvim sveobuhvatnim pravilima o umjetnoj inteligenciji (artificial intelligence AI) na svijetu, koji je Evropska komisija (EK) predložila u aprilu 2021.

“Ovo je historijski trenutak. Zakon o umjetnoj inteligenciji (AI Act) prenosi evropske vrijednosti u novu eru. Fokusirajući regulativu na prepoznatljive rizike, sporazum će podstaći odgovorne inovacije u Evropi. Garantujući sigurnost i osnovna prava ljudi i kompanija, podržat će razvoj, implementaciju i preuzimanje pouzdane AI u EU”, izjavila je predsjednica EK Ursula von der Leyen.

Akt o umjetnoj inteligenciji je skup propisa osmišljenih da upravljaju tehnologijom u Evropskoj uniji, a primjenjivat će se na skoro 450 miliona stanovnika EU, dok stručnjaci kažu da bi se uticaj ovog akta mogao osjetiti i šire.

Nova pravila će se, kako se navodi na stranici EK, primjenjivati na isti način u svim državama članicama EU, slijedeći pristupe zasnovane na minimalnom, visokom, neprihvatljivom i specifičnom riziku transparentnosti.

Velika većina AI sistema, navodi EK, spada u kategoriju minimalnog rizika, a aplikacije poput sistema za preporuke sa AI ili filteri za neželjenu poštu su jedni od takvih sistema, jer predstavljaju minimalan ili nikakav rizik po prava ili sigurnost građana.

AI sistemi identifikovani kao visokorizični će morati ispunjavati stroge zahtjeve, uključujući sisteme za smanjenje rizika, visok kvalitet skupova podataka, evidentiranje aktivnosti, detaljnu dokumentaciju, jasne korisničke informacije, ljudski nadzor te visok nivo tačnosti i cyber sigurnosti.

Primjeri AI sistema visokog rizika uključuju određene infrastrukture, na primjer u oblastima vode, gasa i električne energije, u medicinskim aparatima, sistemima za određivanje pristupa obrazovnim institucijama ili za zapošljavanje ljudi, kontroli granica, ili demokratskih procesa, objavljeno je na stranici EK. 

Sistemi umjetne inteligencije koji se smatraju jasnom prijetnjom osnovnim pravima ljudi bit će zabranjeni, a to, između ostalog uključuje AI sisteme ili aplikacije koje manipulišu ljudskim ponašanjem kako bi se zaobišla slobodna volja korisnika, kao što su igračke koje koriste glasovnu pomoć koje potiču opasno ponašanje maloljetnika ili sisteme koji dozvoljavaju “društveno bodovanje” od strane vlada ili kompanija. Također, i upotreba određenih biometrijskih sistema će biti zabranjena, na primjer sistemi za prepoznavanje emocija koji se koriste na radnom mjestu i sistemi za kategorizaciju ljudi.

U dijelu gdje je opisan specifični rizik transparentnosti navodi se da kada korisnici koriste AI sisteme kao što su chatbotovi, trebali bi biti svjesni da su u interakciji sa mašinom. Deep fakes i drugi sadržaji generisani umjetnom inteligencijom morat će biti označeni kao takvi, a korisnici moraju biti obaviješteni kada se koriste biometrijska kategorizacija ili sistemi za prepoznavanje emocija. Pored toga, provajderi će morati da dizajniraju sisteme na način da sintetički audio, video, tekstualni i slikovni sadržaj bude označen u mašinski čitljivom formatu i da se može detektovati kao generisan ili manipulisan umjetnom inteligencijom.

Kompanije koje se ne pridržavaju pravila bit će kažnjene novčano. Kazne bi se kretale od 35 miliona eura ili sedam posto globalnog godišnjeg prometa za kršenje zabranjenih AI aplikacija, 15 miliona eura ili tri posto za kršenje drugih obaveza i 7,5 miliona eura ili 1,5 posto za davanje netačnih informacija.

Nadležna nacionalna tijela za nadzor nad tržištem će, kako navodi EK, nadgledati primjenu novih pravila na nacionalnom nivou, dok će stvaranje novog evropskog Ureda za umjetnu inteligenciju unutar EK osigurati koordinaciju na evropskom nivou. Novi Ured za umjetnu inteligenciju također će nadzirati implementaciju i primjenu novih pravila o modelima umjetne inteligencije opšte namjene. Zajedno sa nacionalnim tijelima za nadzor tržišta, Ured za umjetnu inteligenciju će biti prvo tijelo na globalnom nivou koje provodi obavezujuća pravila o AI i stoga se očekuje da postane međunarodna referentna tačka.

Politički sporazum koji je postignut sada treba formalno treba odobriti Evropski parlament i Vijeće i stupiće na snagu 20 dana nakon objavljivanja u Službenom listu. Zakon o AI bi tada postao primjenjiv dvije godine nakon njegovog stupanja na snagu, osim u slučaju nekih posebnih odredbi, to jest zabrane će se primjenjivati već nakon šest mjeseci, dok će se pravila Opšte namjene o AI primjenjivati nakon 12 mjeseci.

Kako bi se premostio prelazni period prije nego što Uredba postane općenito primjenjiva, Komisija će pokrenuti Pakt o umjetnoj inteligenciji. Sazvat će programere umjetne inteligencije iz Evrope i svijeta koji se na dobrovoljnoj osnovi obavezuju na implementaciju ključnih obaveza iz Zakona o AI prije zakonskih rokova.

Predloženi Zakon EU o AI je dostupan na ovom linku.

Izvor: Evropska komisija, VoA

___