Uredba usvojena većinom glasova zastupnika.

foto: Pixabay

Zastupnici Evropskog parlamenta (EP) odobrili su danas Akt o umjetnoj inteligenciji, koji, kako se navodi na stranici EP-a, garantuje sigurnost i zaštitu temeljnih prava te istodobno potiče inovacije.

Uredba dogovorena na pregovorima s državama članicama u decembru 2023. usvojena je s 523 glasa za, 46 protiv i 49 suzdržanih.

Cilj Uredbe je, kako se ističe, zaštititi ljudska prava, demokratiju, vladavinu prava i okolišnu održivost od visokorizične umjetne inteligencije, a istodobno poticati inovacije i osigurati Evropi ulogu predvodnika u tom području. Pravila za umjetnu inteligenciju utvrđena su na temelju njenih potencijalnih rizika i nivoa učinka.

Novim pravilima zabranjene su određene primjene umjetne inteligencije koje, kako navodi EP, ugrožavaju prava građana, uključujući sisteme za biometrijsku kategorizaciju temeljene na osjetljivim karakteristikama i neciljano prikupljanje prikaza lica s interneta ili iz nadzornih snimaka radi stvaranja baza podataka za prepoznavanje lica. Zabranjuje se i prepoznavanje emocija na radnom mjestu i u školama, vrednovanje građana, prognostički rad policije (kad se temelji isključivo na izradi profila pojedinaca ili procjeni njihovih osobina) te umjetna inteligencija koja utiče na ljudsko ponašanje ili iskorištava ranjivost pojedinaca.

Izuzeci za potrebe krivičnog progona

Upotreba sistema za daljinsku biometrijsku identifikaciju u svrhu krivičnog progona u načelu je zabranjena, osim u okolnostima koje su iscrpno navedene i precizno definisane. Daljinska biometrijska identifikacija u stvarnom vremenu može se koristiti samo ako su, kako je naglašeno, ispunjeni strogi zahtjevi, npr. njena je upotreba vremenski i geografski ograničena te je za nju prethodno izdato posebno sudsko ili upravno dopuštenje. Neki od primjera takvih okolnosti su ciljana potraga za nestalom osobom ili sprečavanje terorističkog napada. Naknadna upotreba sistema za daljinsku biometrijsku identifikaciju smatra se visokorizičnom upotrebom i za nju je potrebno sudsko dopuštenje povezano s kaznenim djelom.

Predviđene su i jasne obaveze za druge visokorizične sisteme umjetne inteligencije, zbog, kako je navedeno, njihovog znatnog potencijala za ugrožavanje zdravlja, sigurnosti, temeljnih prava, okoliša, demokracije i vladavine prava. Visokorizična umjetna inteligencija upotrebljava se, među ostalim, za kritičnu infrastrukturu, obrazovanje i osposobljavanje, zapošljavanje, ključne privatne i javne usluge (npr. zdravstvo, bankarstvo), određene sisteme u okviru krivičnog progona, upravljanje migracijama i granicama, pravosuđe i demokratske procese (npr. uticanje na izbore). Za takve sisteme treba osigurati procjenu i ublažavanje rizika, vođenje evidencije upotrebe, transparentnost i preciznost te ljudski nadzor. Građani će imati pravo podnijeti tužbu povezanu s umjetnom inteligencijom te dobiti objašnjenja odluka temeljenih na visokorizičnim sistemima umjetne inteligencije koje utiču na njihova prava.

EP je saopštio i da sistemi umjetne inteligencije opće namjene i modeli na kojima se temelje moraju zadovoljavati određene kriterije transparentnosti, uključujući usklađenost sa zakonom Evropske unije (EU) o autorskim pravima i objavljivanje detaljnih sažetaka sadržaja koji se koristi za obuku. Snažniji sistemi umjetne inteligencije opće namjene koji bi mogli predstavljati sistemske rizike podlijegat će dodatnim zahtjevima koji uključuju ocjenjivanje modela, procjene i ublažavanje sistemskih rizika te prijavljivanje incidenata.

Uz to, umjetno stvoreni ili manipulisani audiosadržaji, fotografije i videosadržaji (deepfakes) moraju biti jasno označeni kao takvi.

U saopštenju EP-a se navodi i da je potrebno uspostaviti regulatorno izolirano okruženje i testiranje u stvarnim uslovima na nacionalnoj razini te omogućiti start-up poduzećima te malim i srednjim poduzećima pristup istim kako bi mogla razvijati i trenirati inovativne sisteme umjetne inteligencije prije njihovog stavljanja na tržište.

Tokom plenarne rasprave u utorak, suizvjestitelj Odbora za unutrašnje tržište Brando Benifei je rekao da „konačno imamo prvi svjetski obavezujući zakon o umjetnoj inteligenciji, za smanjenje rizika, stvaranje prilika, borbu protiv diskriminacije i uvođenje transparentnosti”.

Zahvaljujući Parlamentu, kako je dodao, neprihvatljive prakse umjetne inteligencije bit će zabranjene u Evropi, a prava radnika i građana bit će zaštićena.

Suizvjestitelj Odbora za građanske slobode Dragos Tudorache je kazao da je „EU uspjela”.

„Koncept umjetne inteligencije utkali smo u temeljne vrijednosti koje čine osnovu naših društava. Međutim, predstoji mnogo posla koji nadilazi sam Zakon o umjetnoj inteligenciji”, izjavio je Tudorache.

Dodao je da je ovaj zakon polazište za novi model upravljanja izgrađen oko tehnologije te da je sada potrebno usredotočiti se na provođenje ovog zakona u praksi.

Sljedeći koraci

Uredbu još trebaju pregledati pravnici lingvisti, a očekuje se da će biti donesena prije kraja parlamentarnog saziva (u tzv. postupku ispravka). Vijeće je takođe treba službeno podržati.

Stupit će na snagu dvadeset dana nakon objave u Službenom listu EU i počet će se primjenjivati 24 mjeseca nakon stupanja na snagu, osim zabranjenih primjena (šest mjeseci nakon stupanja na snagu), kodeksa prakse (devet mjeseci nakon stupanja na snagu), pravila za umjetnu inteligenciju opće namjene uključujući upravljanje (12 mjeseci nakon stupanja na snagu) i obaveza za visokorizične sustave (36 mjeseci nakon stupanja na snagu).

Kritike RSF-a na Akt o AI

Reporteri bez granica (RSF) su uoči današnjeg glasanja u EP o Aktu o umjetnoj inteligenciji izdali saopštenje u kojem su naveli da taj zakon ne štiti pravo na informacije, objašnjavajući da algoritmi uključeni u proizvodnju i distribuciju informacija nisu klasifikovani kao “sistemi visokog rizika koji zahtijevaju strožu regulaciju prije stavljanja na tržište”.

U saopštenju objavljenom juče iz RSF-a su kazali i da ovaj zakon predstavlja značajan napredak jer uključuje određene mjere kao što je obavezno označavanje sadržaja generisanog umjetnom inteligencijom, za šta su napomenuli da su se zalagali, kao i transparentnost upotrebe sadržaja zaštićenog autorskim pravima u bazama podataka za obuku jezika.

Izvor: Evropski parlament, RSF

___