Važno pitanje

2023 - Apr - 27

Ubrzani razvoj sistema veštačke inteligencije neminovno će dovesti do brojnih novih primena u mnogim oblastima. Kao i uvek kada je u pitanju tehnološki razvoj, prednjači vojna industrija. Ona je istovremeno zaslužna za brojne pogodnosti koje danas koristimo – uključujući internet i GPS sistem – ali i odgovorna za zloupotrebu inovacija u svrhu uništavanja života i imovine. Veštačka inteligencija nije izuzetak.

U prethodnoj i ovoj deceniji bezmalo svi konflikti obeleženi su korišćenjem bespilotnih letelica svih oblika i veličina. Kreću se u rasponu od minijaturnih dronova koji stanu u džep i koje svaki vojnik može da pošalje u izviđanje, preko letelica koje gorivom mogu da dopunjuju borbene avione, do velikih dronova sposobnih da nose rakete i drugo teško naoružanje. Mnoge vojske eksperimentišu sa borbenim vozilima bez posade, kao i plovilima i podmornicama kojima je moguće upravljati na daljinu. Posebnu vrstu dronova čine leteće bombe koje mogu da krstare dok ne pronađu metu na koju bi se obrušile. Do sada su ovim napravama uglavnom upravljali posebno obučeni vojnici, često udaljeni hiljadama kilometara od bojišta. Sada se razmatra korišćenje veštačke inteligencije za potpunu autonomiju dronova. To konkretno znači da će odluke o životu ili smrti donositi mašine umesto ljudi. Kao i kod svakog tehnološkog rešenja, moguće su greške i potencijalno ugroženi životi civila i prijateljskih vojnika. Zbog toga mnogi smatraju da je potrebno da se na međunarodnom nivou uspostave konvencije koje bi odredile šta je i u kojoj meri dozvoljeno. Predstavnici Ujedinjenih nacija čak su predlagali potpunu zabranu autonomnih borbenih sredstava, ali nije realno da će ovaj zahtev biti ispunjen. Ipak, ostaje važno moralno i pravno pitanje odgovornosti ukoliko dođe do incidenata.

Autonomna vozila, letelice, podmornice i brodovi predstavljaju jednu vrstu robota. Pisao sam godinama unazad o tome da dolazi vreme robotike i da će automatizovani sistemi različitih vrsta značajno pomoći u obavljanju brojnih aktivnosti. Kako razvoj robota bude napredovao, biće potrebna jasna i čvrsta regulativa i standardizacija njihovih karakteristika i primene, bez obzira da li se radi o civilnoj ili vojnoj nameni. U suprotnom preti opasnost od gubitka kontrole. Apokaliptični scenariji iz filmova naučne fantastike nisu realni, ali to ne znači da opasnost ne postoji.