Roboti ubice silaze sa filmskog platna

Podršku zabrani uputilo je letos 200 kanadskih i 100 australijskih naučnika, dok je grupa od 120 preduzetnika i eksperata, među kojima su Ilon Mask i Stiven Hoking, u pismu upozorila UN da bi oružje zasnovano na veštačkoj inteligenciji (AI) moglo da bude „izvor užasa” u budućnosti. Naglasili su da im cilj nije da zakoče inovacije u robotici i oblasti AI, ali da se mora sprečiti automatizacija ključnih funkcija kao što su odabir meta i primena nasilja bez odluke čoveka.

Prošle sedmice održan je prvi zvanični sastanak pod okriljem UN o sistemima smrtonosnog autonomnog oružja (lethal autonomous weapons systems – LAWS), u okviru Konvencije o određenim vrstama konvencionalnog naoružanja, kojom je do sada zabranjena upotreba nagaznih mina i lasera koji oslepljuju. Predsedavajući ambasador Indijac Amandip Gil poslao je optimističnu poruku da „roboti ne preuzimaju kontrolu” i apelovao da se ne unosi previše emocija i drame u ovo pitanje.

Predstavnici akademske zajednicu prikazali su međutim drugačiju sliku u Ženevi i pozvali UN da deluje pre nego što bude prekasno. Tobi Volš, sa Univerziteta Novog južnog Velsa u Australiji, rekao je da je u toku trka u ovoj vrsti naoružanja i da će to biti oružje masovnog uništenja, jer će jedan programer moći da kontroliše čitavu armiju. On je uveren da će svet na kraju zabraniti autonomno oružje i pita se da li će zemlje imati hrabrosti da urade to odmah ili tek pošto ljudi počnu da ginu. Margaret Boden, profesorka kognitivnih nauka na Univerzitetu u Saseksu, rekla je da etički robot neće postojati ni za 50 godina i da moralnu odgovornost mora uvek da snosi čovek.

Dvadeset dve države  (od 80 prisutnih), uglavnom one sa manjim budžetima i skromnijim tehničkim kapacitetima, založile su se da se ovo oružje odmah zabrani. Zemlje koje su već razvile poluautonomno oružje ne prihvataju zabranu. SAD su nedavno lansirale podmornicu koja mesecima samostalno može da deluje i kažu da će nastaviti da promovišu inovacije vodeći računa o bezbednosti. Nemačka smatra da bi zabrana bila preuranjena, a sličan je i stav Rusije, koja je kritikovala alarmistički pristup temi.

Na marginama skupa, kampanja „Zaustavite robote ubice” prikazala je snimak zamišljene budućnosti u kojoj mini-dron prepoznavši lice mete u sekundi razara mozak. Proizvođač hvali njegove prednosti u odnosu na vojnike, jer ovi drugi imaju emocije i mogu da odbiju poslušnost, dok roboti, kako kaže, donose hirurški precizne odluke, i to samo protiv loših momaka. Snimak kasnije pokazuje šta može da se desi ako oružje završi u rukama loših momaka. U zamišljenom napadu na univerzitete poginulo je 8.500 studenta, a dronovi ubice napadali su selektivno one koji su na društvenim mrežama delili video o razotkrivenoj korupciji.

Sledeći panel UN biće odražan 2018. i razgovaraće se o tome kako autonomno oružje deluje i kako ga kontrolisati. Grupe aktivista priznaju da je na prvom sastanku ostvaren izvestan napredak, ali da nema vremena za gubljenje na razgovore. Kako je istakla Meri Verham, iz organizacije Hjuman rajts voč, postoji saglasnost većine zemalja da je potreban pravno obavezujući instrument koji bi kontrolisao korišćenje robota ubica i da mora postojati neki oblik ljudske kontrole, samo ostaje pitanje šta efektivna ljudska kontrola znači u praksi. I mnoga druga pitanja ostala su bez odgovora. Na primer, da li će ovakvo oružje biti podložno sajber napadima i kako će promeniti stratešku ravnotežu među državama.

Iako ne postoji zvanična definicija oružja LAWS, misli se na ono koje kada ga čovek jednom aktivira bira ciljeve bez daljeg ljudskog mešanja. Države su podeljene oko toga da li tu spada i postojeće poluautonomno ili samo sofisticirano pametno oružje koje će biti razvijeno u budućnosti.

Komentatori kažu da o potpunoj zabrani nije realno pričati jer niko neće da se odrekne tehnologije koja može znatno da uveća moć neke zemlje. Autonomno oružje prisutno je već duže u velikim mornaricama gde pomoću radara automatski odgovora na preteće projektile. Kad je reč o delovanju prema ljudskoj meti, i ono postoji, ali se ne koriste potpuno automatizovano već je potrebno odobrenje čoveka. Takav je na primer „Samsungov” sistem koji se koristi u Južnoj Koreji.

Postoji takođe strah da primena ne bi bila ograničena samo u vojne svrhe nego i protiv civila u represivnim režimima. Dok učesnici pobune protiv diktature mogu da računaju na savest i samilost oružanih snaga, roboti bi svakako branili režime bez mnogo preispitivanja.