Evropski parlament usvojio Zakon o veštačkoj inteligenciji

Evropski parlament usvojio je u sredu, 13. marta Zakon o veštačkoj inteligenciji, čiji je cilj da se obezbedi pouzdanost i bezbednost tehnologije uz poštovanje osnovnih ljudskih prava i uz istovremeno podsticanje inovacija i konkurentnosti Evropske unije u toj oblasti.

Uredbu, usaglašenu u pregovorima sa državama članicama u decembru 2023, podržali su poslanici EP sa 523 glasa za, 46 protiv i 49 uzdržanih.

Njen osnovni cilj je da zaštiti osnovna prava, demokratiju, vladavinu prava i ekološku održivost od visokorizične veštačke inteligencije, uz istovremeno podsticanje inovacija i uspostavljanje Evrope kao lidera u ovoj oblasti. Uredba utvrđuje obaveze za AI na osnovu potencijalnih rizika i nivoa uticaja, navodi se u saopštenju Evropskog parlamenta.

Zabranjene aplikacije 

Nova pravila zabranjuju određene AI aplikacije koje ugrožavaju prava građana, uključujući sisteme biometrijske kategorizacije zasnovane na osetljivim karakteristikama i neciljano skidanje slika lica sa interneta ili CCTV snimaka radi kreiranja baza podataka za prepoznavanje lica.

Takođe će biti zabranjeno prepoznavanje emocija na radnom mestu i u školama, društveno bodovanje, prediktivni rad policije (kada se zasniva isključivo na profilisanju osobe ili proceni njenih karakteristika) i veštačka inteligencija koja manipuliše ljudskim ponašanjem ili iskorišćava ranjivost ljudi.

Izuzeci za sprovođenje zakona 

Upotreba biometrijskih sistema identifikacije (RBI) od strane organa za sprovođenje zakona je u principu zabranjena, osim u iscrpno navedenim i usko definisanim situacijama.

RBI „u realnom vremenu“ može da se primeni samo ako su ispunjene stroge mere zaštite, npr. njegova upotreba je vremenski i geografski ograničena i podložna je posebnom prethodnom sudskom ili administrativnom odobrenju. Takve upotrebe mogu uključivati, na primer, ciljanu potragu za nestalom osobom ili sprečavanje terorističkog napada.

Korišćenje ovakvih sistema post-fakto („post-remote RBI”) smatra se visokorizičnim slučajem upotrebe, koji zahteva sudsko odobrenje za povezivanje sa krivičnim delom.

Obaveze za visokorizične sisteme

Jasne obaveze su takođe predviđene za druge visokorizične sisteme veštačke inteligencije (zbog njihove značajne potencijalne štete po zdravlje, bezbednost, osnovna prava, životnu sredinu, demokratiju i vladavinu prava).

Primeri visokorizičnih upotreba veštačke inteligencije uključuju kritičnu infrastrukturu, obrazovanje i stručnu obuku, zapošljavanje, osnovne privatne i javne usluge (npr. zdravstvo, bankarstvo), određene sisteme u sprovođenju zakona, migracijama i upravljanju granicama, pravosuđu i demokratskim procesima (npr. uticaj na izbore).

Takvi sistemi moraju proceniti i smanjiti rizike, održavati evidenciju korišćenja, biti transparentni i tačni i obezbediti ljudski nadzor.

Građani će imati pravo da podnose žalbe na sisteme veštačke inteligencije i dobijaju objašnjenja o odlukama zasnovanim na visokorizičnim sistemima veštačke inteligencije koje utiču na njihova prava.

Transparentnost i podrška MSP

Sistemi veštačke inteligencije opšte namene (GPAI) i GPAI modeli na kojima su zasnovani moraju da ispunjavaju određene zahteve za transparentnost, uključujući usklađenost sa zakonom o autorskim pravima EU i objavljivanje detaljnih rezimea sadržaja koji se koristi za obuku.

Moćniji GPAI modeli koji bi mogli predstavljati sistemske rizike suočiće se sa dodatnim zahtevima, uključujući izvođenje evaluacije modela, procenu i ublažavanje sistemskih rizika i izveštavanje o incidentima.

Veštačke ili manipulisane slike, audio ili video sadržaj („deepfakes“), odnosno ssvaki sadržaj kreiran pomoću veštačke inteligencije, moraju biti jasno označeni kao takvi.

Kompanije koje koriste veštačku inteligenciju moraće da razviju svoje modele tako da ne generišu nezakonit ili diskriminatorski sadržaj.

Zakonom su određene četiri kategorije rizika od upotrebe veštačke inteligencije, od najrizičnijih u oblastima kao što su saobraćaj i zapošljavanje, do onih sa minimalnim rizikom kao što su video igrice ili filteri za neželjenu poštu.

Prema opasnostima, EU predviđa obim nadzora i pravila koja se moraju poštovati.=

Koizvestilac Komiteta za unutrašnje tržište Brando Benifei rekao je:

„Konačno imamo prvi obavezujući zakon na svetu o veštačkoj inteligenciji, za smanjenje rizika, stvaranje mogućnosti, borbu protiv diskriminacije i transparentnost. Zahvaljujući Parlamentu, u Evropi će biti zabranjene neprihvatljive prakse veštačke inteligencije i zaštićena prava radnika i građana. Kancelarija za veštačku inteligenciju će sada biti uspostavljena da podrži kompanije da počnu da se pridržavaju pravila pre nego što ona stupe na snagu. Obezbedili smo da ljudska bića i evropske vrednosti budu u samom centru razvoja veštačke inteligencije“.

Koizvestilac Komiteta za građanske slobode Dragoš Tudorače (Renev, Rumunija) rekao je:

„AI će nas podstaći da ponovo razmislimo o društvenom ugovoru u srcu naših demokratija, naših modela obrazovanja, tržišta rada i načina na koji vodimo rat. Zakon o veštačkoj inteligenciji je polazna tačka za novi model upravljanja izgrađen oko tehnologije. Sada se moramo fokusirati na sprovođenje ovog zakona u praksi”.

Članice EU sada imaju 12 meseci da imenuju nacionalne regulatore koji će sarađivati sa Kancelarijom za veštačku inteligenciju koja se osniva u okviru Evropske komisije.

Zakon takođe treba da bude formalno usvojen od strane Saveta. On će stupiti na snagu dvadeset dana od dana objavljivanja u Službenom glasniku, a u potpunosti će se primenjivati 24 meseca nakon stupanja na snagu, osim: zabrane zabranjenih radnji, koje će se primenjivati šest meseci od dana stupanja na snagu; kodeksi prakse (devet meseci nakon stupanja na snagu); pravila AI opšte namene uključujući upravljanje (12 meseci nakon stupanja na snagu); i obaveze za sisteme visokog rizika (36 meseci).