U Seulu postignut dogovor o bezbednosti veštačke inteligencije

Deset zemalja i Evropska unija postigli su dogovor sa tehnološkim kompanijama o uspostavljanju međunarodne mreže instituta za bezbednost veštačke inteligencije. Sporazum iz Seula je rezultat „Izjave o nameri za međunarodnu saradnju u nauci o bezbednosti AI“, koja ima za cilj ubrzavanje razvoja sigurnih i pouzdanih AI sistema.

Prošle godine, Ujedinjeno Kraljevstvo je pokrenula prvi Institut za bezbednost AI na svetu, čiji je cilj unapređenje globalnog razumevanja bezbednosti veštačke inteligencije.

Ovaj institut sada dobija podršku od SAD, Južne Koreje, Australije, Francuske, Nemačke, Italije, Kanade, Japana, Singapura i EU, koji su se pridružili inicijativi na AI samitu u Seulu, piše britanski magazin Computing.

Nove članice će raditi na usklađivanju istraživanja, standarda i praksi testiranja kako bi se izgradio zajednički pristup bezbednosti AI.

Ova saradnja će uključivati i diskusije o modelima veštačke inteligencije, njihovim ograničenjima, mogućnostima i potencijalnim rizicima.

Takođe će se raditi na komplementarnosti i interoperabilnosti pristupa bezbednosti, kao i na praćenju i deljenju informacija o stvarnim incidentima i štetama uzrokovanim AI.

Pored sporazuma u Seulu, šesnaest globalnih tehnoloških kompanija potpisalo je „Frontier AI sigurnosne obaveze“.

On obuhvata dobrovoljno preuzete obaveze kompanija kao što su Amazon, Google, Meta, Microsoft i xAI Ilona Maska da osiguraju odgovoran razvoj i primenu veštačke inteligencije.

Centralna tačka ovog sporazuma je ublažavanje rizika. Kompanije su se obavezale da razviju okvire za procenu potencijalnih rizika povezanih sa njihovim naprednim AI modelima.

Ključno je da se modeli neće primenjivati tamo gde se ozbiljni rizici ne mogu adekvatno rešiti.