EK planira da zabrani korišćenje veštačke inteligencije za nadzor

Evropska komisija će pokušati da zabrani sisteme veštačke inteligencije (AI) koji se koriste za „neselektivni nadzor“ u okviru novih zabrana koje će biti iznete sledeće nedelje, piše Euractiv.

Kao deo nacrta Uredbe o evropskom pristupu veštačkoj inteligenciji, izvršna vlast EU predlaže zabranu AI tehnologija koje se koriste za „neselektivni nadzor koji se generalizovano primenjuje na sva fizička lica bez razlike“.

Tekst detaljno opisuje takve metode nadzora kao što su „nadgledanje i praćenje fizičkih lica u digitalnom ili fizičkom okruženju, kao i automatizovano prikupljanje i analizu ličnih podataka iz različitih izvora“.

Pored toga, Komisija predviđa zabranu upotrebe aplikacija veštačke inteligencije koje krše vrednosti Unije ili krše ljudska prava. To uključuje AI sisteme koji manipulišu ljudskim ponašanjem i prediktivne AI sisteme koji ciljaju ranjivosti kod ljudi.

Za kompanije koje budu kršile ova pravila, kazne bi mogle da iznose i do četiri odsto globalnog godišnjeg prometa.

Međutim, nacrt predviđa da se takve zabrane neće primenjivati na vlade i javne vlasti EU kada se sprovode „u cilju zaštite javne bezbednosti“.

To znači da bi vlade EU mogle u budućnosti da opravdaju upotrebu nametljivih AI aplikacija iz bezbednosnih razloga.

Nacrt takođe zabranjuje praksu „socijalnog bodovanja“ u aplikacijama.

Komisija takođe planira uspostavljanje „Evropskog odbora za veštačku inteligenciju“, koji se sastoji od po jednog predstavnika iz svake države članice i predstavnika Komisije, kao i evropskog supervizora za zaštitu podataka.

Odbor će imati zadatak da „izda relevantne preporuke i mišljenja Komisiji, s obzirom na listu zabranjenih praksi veštačke inteligencije i listu visoko rizičnih AI sistema“.