O ratu i miru odlučivaće mašine

Veštačka inteligencija je prodrla u sve oblasti ljudske delatnosti, pa tako i u domen bezbednosti. Treba li zato da čudi izveštaj komisije o upotrebi veštačke inteligencije u sferi odbrane SAD koja bi smanjila vreme potrebno za donošenje odluka i brzinu reagovanja na bezbednosne pretnje. Ma koliko to bilo opravdano, postavlja se pitanje sme li odluka o borbenom delovanju da se prepusti mašini, makar ona imala i veštačku inteligenciju.

I dok predlagači tvrde da je uvođenje veštačke inteligencije neophodno kako bi se pariralo Rusiji i Kini, protivnici su šokirani jer smatraju da će to, izuzev pokretanja neodgovorne trke u naoružavanju, dovesti do toga da će odluku o tome kada i koga ubiti – donositi mašina. Pitanje kršenja međunarodnog prava takođe „visi u vazduhu”, iako se u izveštaju tvrdi da takve opasnosti nema ukoliko su sistemi oružja pravilno ispitani i ako ih je nadležni zapovednik odobrio za upotrebu. Tvrde da u tom slučaju opasnost od kršenja međunarodnog humanitarnog prava ne postoji.

Nacionalna bezbednosna agencija za veštačku inteligenciju jednoglasno je usvojila ovaj izveštaj koji je sačinila komisija sa zanimljivim rukovodstvom. Predvodili su je bivši šef „Gugla” Erik Šmit i Robert Vork, bivši zamenik ministra odbrane u vreme Baraka Obame i Donalda Trampa. Tu su bili i stručnjaci za veštačku inteligenciju – izvršni direktor „Amazona” Endi Džasi, koji će naslediti Džefa Bezosa (u svojoj meteorskoj karijeri dobio je posao i u CIA i Demokratskom nacionalnom komitetu), šefovi za veštačku inteligenciju u „Guglu” i „Majkrosoftu” dr Endru Mur i dr Erik Horvic, te izvršna direktorka „Orakla” Safra Kac. Bi-Bi-Si je podsetio da, iako članovi komisije rade u ličnom svojstvu, kompanije koje vode su nosioci ugovora s Pentagonom i drugim institucijama u oblasti veštačke inteligencije. Kapitalni ugovor vredan 10 milijardi dolara dodeljen je „Majkrosoftu”, što „Amazon” trenutno osporava na sudu.

Fokus izveštaja ove komisije na 750 stranica usmeren je ka pronalaženju odgovora na kinesku ambiciju da do 2030. bude svetski lider u veštačkoj inteligenciji. Kako je preneo pomenuti britanski medij, u njemu se kaže da su visoki vojni zvaničnici upozorili da bi SAD mogle da „izgube svoju vojno-tehničku superiornost u narednim godinama” ako ih Kina pretekne u brzini uvođenja sistema s veštačkom inteligencijom. Izveštaj predlaže da se ona što više uvodi i u buduće velike vojne vežbe. Američko ministarstvo odbrane je već dugo hardverski orijentisano ka brodovima, avionima i tenkovima, a sada pokušavaju da naprave skok ka softverskoj vojnoj upotrebi. Predviđa se da će veštačka inteligencija transformisati sve aspekte vojne delatnosti.

Izveštaj priznaje da veštačka inteligencija može povećati rizik od izbijanja sukoba, ali se naglašava da je bez nje odbrana od protivnika koji je koristi – put u katastrofu. Ipak, „crvena linija” se za sada postavlja u pogledu upotrebe nuklearnog oružja, koje ostaje u izričitoj nadležnosti predsednika. U preporukama se takođe preporučuje da Vašington „pritisne” Moskvu i Peking da se javno obavežu na ograničenja u ovom pitanju.

Komisija nije svoje predloge ograničila isključivo na vojna pitanja i naoružanje, nego je predložila i šire mere kako bi SAD generalno zadržale vodeću poziciju u domenu razvoja i upotrebe veštačke inteligencije. Ti predlozi se odnose na formiranje savetodavnog predsedničkog tela za vođenje šire politike veštačke inteligencije; zatim na liberalizaciju imigracionih zakona radi privlačenja talenata iz inostranstva, uključujući težnju da se poveća „odliv mozgova” iz Kine. Tu je i predlog za formiranje novog univerziteta za obuku „digitalno talentovanih državnih službenika”, kao i za ubrzano usvajanje novih tehnologija u državnim obaveštajnim agencijama.

Širi krug predloga odnosi se na potrebu SAD da ograniči Kini mogućnost proizvodnje čipova za računare vrhunskog kvaliteta. U izveštaju doslovno stoji da SAD moraju da zadrže prednost najmanje dve generacije ispred kineskih proizvođača mikroelektronike jer, iako Kina ima brzorastuću industriju čipova, i dalje je u pogledu potreba za najnaprednijim proizvodima oslonjena na uvoz. Te napore treba pospešiti poreskim olakšicama za kompanije koje grade nove pogone u ovoj industriji, ali i nametanjem ograničenja u pogledu izvoza kako Kina ne bi mogla da uveze mašine za proizvodnju naprednih generacija čipova. Ovaj napor zahteva blisku saradnju s Holandijom i Japanom, čije su kompanije vodeće u svetu u proizvodnji ove opreme.

Tu je i predlog da se kompanije koje izvoze čipove u Kinu primoraju da potvrde da njihovi proizvodi neće biti korišćeni za „olakšavanje kršenja ljudskih prava” (čipovi američkih firmi „Intel” i „Nvidija” korišćeni su za sprovođenje masovnog nadzora nad kineskom ujgurskom etničkom manjinom), kao i uvođenje obaveze podnošenja tromesečnog izveštaja s popisom svih čipova prodatih Kini.

Veštačka inteligencija u domenu odbrane u upotrebi je već nekoliko decenija. Ograničena je na pojedinačne borbene sisteme i oružja, naročito u vazduhoplovstvu i protivazduhoplovnoj odbrani. Ipak, bar do sada, krupne odluke su bile isključiva nadležnost čoveka.