Vlada Srbije usvojila etičke smernice za upotrebu veštačke inteligencije

Vlada Srbije usvojila je Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije, objavljeno je u Službenom glasniku. U smernicama je navedeno u kojim oblastima se sistemi veštačke inteligencije smatraju visokorizičnim (biometrijska identifikacija, upravljanje kritičnom infrastrukturom, zdravstvo, obrazovanje, krivično gonjenje), odnosno u kojim oblastima je potrebna njihova posebna analiza i procena. 

Vlada  je u zaključku navela da se primena Etičkih smernica može ograničiti ili isključiti ukoliko se radi o pitanjima iz domena odbrane i bezbednosti Srbije.

Primena etičkih smernica se, kako se navodi, preporučuje organima državne uprave, autonomnim pokrajinama, opštinama, gradovima, gradu Beogradu, javnim preduzećima, ustanovama, javnim agencijama i drugim organizacijama „prilikom razvoja, primene i upotrebe sistema koji mogu biti klasifikovani kao sistemi veštačke inteligencije ili nabavke istih“.

U saopštenju Vlade povodom usvajanja etičkih smernica se navodi da je etičnost i bezbednost u razvoju veštačke inteligencije potrebno da se obezbedi najpre u pogledu zaštite podataka o ličnosti, zaštite od diskriminacije prilikom primene mašinskog učenja i uspostavljanja odgovornog razvoja veštačke inteligencije u skladu sa internacionalnim etičkim principima.

Veštačka inteligencija bi mogla da se otrgne kontroli, upozorava poverenik

U Etičkim smernicama je navedeno i  šta se sve smatra visokorizičnim sistemima u oblasti veštačke inteligencije i u kojim oblastima.

Visokorizični sistem je onaj „koji ima tendenciju da neposredno ili posredno krši principe i uslove utvrđene smernicama – ali ne nužno to i čini“.

Visokorizičnim sistemom se smatra sistem koji je deo sigurnosnog (bezbednosnog) sistema nekog proizvoda ili je sam po sebi proizvod koji ima funkciju i ponaša se kao sigurnosni (bezbednosni) sistem, i kao takav on zahteva da se oceni da li je usklađen sa zakonodavnim normama.

Visokorizičnim sistemima se dalje smatraju i sistemi veštačke inteligencije u sledećim oblastima:

• biometrijske identifikacije i kategorizacije pojedinca (naročito obuhvataju sisteme namenjene za daljinsku biometrijsku identifikaciju pojedinca u realnom vremenu kao i naknadnu daljinsku biometrijsku identifikaciju,
• upravljanja kritičnom infrastrukturom i njenim radom (naročito sistemi koji su namenjeni za upravljanje putnim, transportnim saobraćajem, snabdevanjem vodom, gasom, grejanjem i električnom energijom ili su sigurnosni sistem navedenih sistema ili čine deo tih sigurnosnih sistema),
• obrazovanja, stručnog usavršavanja i osposobljavanja (naročito obuhvata sisteme namenjene za određivanje mogućnosti pojedinca da pristupa ustanovama za obrazovanje i strukovno osposobljavanje ili za raspoređivanje pojedinaca u te ustanove, kao i sisteme koji su namenjeni za ocenjivanje lica koja pohađaju te ustanove, uključujući i sisteme koji vrše ocenjivanje testova (prijemnih ispita) potrebnih za upis pojedinaca u te ustanove),
• zdravstva (naročito obuhvata sisteme koji analiziraju genetičke i zdravstvene podatke).
• krivičnog gonjenja (naročito sistemi namenjene organima krivičnog gonjenja koji vrše procenu rizika pojedinaca za izvršenje ili ponovno izvršenje krivičnih dela na osnovu osobina, karakteristika ili prethodnog kriminalnog ponašanja; sisteme koji bi se koristili kao poligrafska sredstva ili sredstva za otkrivanje emocionalnog stanja pojedinca…)

Takođe je i „pristup i korišćenje javnih i socijalnih usluga kao i osnovnih privatnih usluga“ takođe prepoznat kao visokorizični sistem. A to se naročito odnosi na sisteme namenjene za „ocenjivanje prihvatljivosti pojedinaca za pružanje javnih usluga i socijalnih davanja kao i donošenja odluka o odobravanju, smanjenju, ukidanju takvih usluga, kao i uslova pod kojima se takve odluke donose, piše u dokumentu.

Visokorizičnim sistemima se smatraju i sistemi veštačke inteligencije u oblasti zapošljavanja, upravljanja migracijama ljudi, pravosuđa i demokratskih procesa.

Neophodna potpuna zabrana biometrijskog nadzora

U dokumentu se piše da se visokorizični sistemi „ne smatraju nepoželjnim“,  ali da ih je, zbog njihovog uticaja, značaja oblasti života u kojima se primenjuju i mogućnosti i dometa uticaja na čoveka i njegov integritet, neophodno posebno analizirati i proceniti njihov uticaj.

Smernice koje su donete se odnose na lica koja rade na razvoju i primeni sistema veštačke inteligencije, lica koja primenjuju sisteme veštačke inteligencije (pre svega u svom radu koji uključuje i interakciju s drugim licima –  na primer učesnicima na tržištu) i lica koja koriste sisteme veštačke inteligencije i na koje sistemi imaju neposredan uticaj (na primer koriste sisteme radi ostvarivanja neke javne usluge).

Osnovni cilj donošenja smernica je, kako se navodi,  da se ne dozvoli da procesi u kojima učestvuje sistem veštačke inteligencije ugroze ili da marginalizuju čoveka i delovanje čoveka, kao i da se sloboda delovanja, mišljenja i odlučivanja ne naruši u meri da prava i tekovine koje čuvaju te vrednosti budu obesmišljene, umanjene ili zaboravljene.

„Ovo se pre svega odnosi na kreiranje ekosistema u kome će se upotrebom veštačke inteligencije unaprediti produktivnost ljudi, optimalnije koristiti resursi u radu i funkcionisanju ljudi i društva u celini i unaprediti kvalitet života ljudi“, piše u dokumentu koji je objavljen u Službenom glansiku.