Umišljaj i nehat veštačke inteligencije

Daljinski pilot je krivično odgovoran za zločin koji učini besposadna letilica. Dronovi se smatraju oružjem i potencijalnim sredstvom za izvršenje krivičnog dela, a učinilac je onaj ko upravlja letilicom iako se ne nalazi u njoj.

– Drugačije je kada je reč o besposadnim letilicama koje su praktično samoupravljive i dejstvuju samostalno. Tada je potrebno posebno analizirati kakve su krivičnoprocesne posledice ukoliko se takvim dejstvom izvrši određeno krivično delo, poput ratnog zločina. Čini se da u ovom pogledu postoji ozbiljna pravna praznina – kaže dr Milan Škulić, profesor Pravnog fakulteta Univerziteta u Beogradu.

Na konferenciji Udruženja za međunarodno krivično pravo, nedavno održanoj na Paliću, profesor je objasnio da militarizovana veštačka inteligencija može imati razne oblike. Pored dronova, to su i automatizovana borbena vozila, dronovi-podmornice, čak i „vojnici-roboti”.

To su zapravo sva tehnička sredstva, razvijena primenom nauke, tehnike i tehnologije, koja se upotrebljavaju u borbene svrhe, a sposobna su da rešavaju određene zadatke, da vrše selekciju ciljeva, izvode prepade, što sve asocira na klasičnu ljudsku inteligenciju i imanentno je čoveku u oružanom sukobu.

– Jedna je situacija kada dron deluje samostalno prema određenom obrascu koji mu je usadilo lice koje njime manipuliše pre aktiviranja, pri čemu sam taj obrazac delovanja navodi dron da deluje tako što samostalno i bira ciljeve čijim pogađanjem čini ratni zločin, kao na primer kada se radi o striktno civilnim metama. U ovim slučajevima bi se moglo smatrati da lice koje je umišljajno „ugradilo” takav „obrazac delovanja”, praktično koristi dron kao sredstvo za izvršenje svog sopstvenog krivičnog dela – kaže profesor Škulić.

Međutim, dron može i da pogreši i napravi takozvanu – kolateralnu štetu, a u takvom slučaju bi se govorilo o nehatu kao obliku odgovornosti onog lica koje je manipulisalo veštačkom inteligencijom, odnosno upravljalo dronom.

– Sam dron, iako je oblik veštačke inteligencije, ne može se smatrati neposrednim izvršiocem. Ono lice koje dron koristi radi izvršenja sopstvenog krivičnog dela suštinski asocira na poznatog „učinioca za pisaćim stolom” – teorijskoj konstrukciji koja se odnosila na Nemačku kao nacističku državu, gde posredni izvršioci imaju „vlast nad voljom” i kreiraju takav sistem koji sam po sebi obezbeđuje izvršenje krivičnog dela. Oni nisu neposredno „prljali ruke”, ali su od krivičnih sudova, u nekim od poznatih suđenja, tretirani kao učinioci krivičnih dela – navodi profesor.

Dronovi, naravno, nemaju sopstvenu volju, ali njihovo samostalno delovanje, prema obrascu koji kreira čovek, prilično asocira na volju kod čoveka. Slično kao u naučno-fantastičnim filmovima, moguće je da će u stvarnosti oružane sukobe u budućnosti voditi androidi – „roboti-vojnici”.

Profesor Škulić podseća na poslednje scene iz legendarnog filma „Blejd raner”. Kada robot koji umire jer ima ograničen vek trajanja, on oseća duboke emocije i velikodušno „odlučuje” da poštedi život čoveku koji je njegov smrtni neprijatelj – lovac na odmetnute androide.

– U trenucima kada umire, jer mu je jednostavno „istekao ograničeni i projektovani vek trajanja”, taj svojevrsni „veštački čovek” obraća se krajnje ljudski svom neprijatelju, kojem je neposredno pre toga „poklonio život”. Govori mu o svojim strašnim i veličanstvenim iskustvima u „ratu mašina i androida”, te mokar od kiše, koja mu se sliva niz lice, konačno izgovara i ključnu rečenicu o „suzama na kiši”, pitajući se da li su na njegovom licu suze ili kapljice kiše. Naravno, svakom gledaocu je bilo jasno da je surovi „robot-vojnik” zaista pustio suze – ispričao je profesor Škulić.

Pitanje je da li će i kada veštačka inteligencija postati toliko slična ljudima da će se teško razlikovati ljudsko razmišljanje i rezonovanje „mašine”. Međutim, sada je već sasvim jasno, kaže naš sagovornik, da će vrlo brzo raznovrsni oblici veštačke inteligencije naći svoje mesto i u našem svakodnevnom životu, a neki od njih će pronaći i svoju destruktivnu primenu u ratovima i oružanim sukobima. Za krivično i međunarodno krivično pravo to predstavlja veliki izazov.

– Nije realno da će se države i vojni savezi koji su u stanju da proizvode dronove kao oblik veštačke inteligencije koja potpuno autonomno deluje odreći takve „primamljive” mogućnosti. Naprotiv, sasvim je realno očekivati da će do toga svakako doći relativno brzo i da će se takvi oblici militarizovane veštačke inteligencije koristiti široko, a možda čak i veoma masovno, i ne samo kao bespilotne letilice već i kao oklopna vozila, brodovi, podmornice, pa i kao roboti-vojnici ili vojske robota, što je nekada bilo u domenu čiste naučne fantastike – ukazao je profesor dr Milan Škulić.

Tada bi trebalo proširiti koncept komandne odgovornosti, kako u nacionalnim krivičnim zakonodavstvima, tako i u Rimskom statutu, koji propisuje međunarodna krivična dela – ratne zločine, zločine protiv mira, genocid i zločine protiv čovečnosti.

Komandna odgovornost svodi se na odgovornost komandanta za krivična dela učinjena od strane njegovih potčinjenih, ukoliko pre njihovog izvršenja nije preduzeo posebne mere u cilju njihovog sprečavanja. Sličan koncept bi mogao biti primenjen i kada je reč o krivičnim delima proisteklim iz delovanja dronova i drugih oblika veštačke inteligencije.

– Institut komandne odgovornosti veoma je interesantan. Sa jedne strane, on predstavlja veliku novinu u odnosu na klasična krivičnopravna rešenja osnova odgovornosti, a sa druge strane, njime se praktično omogućava efektivno gonjenje i osuđivanje visokih vojnih i političkih funkcionera, što uvek izaziva veliku pažnju ne samo stručne nego i javnosti uopšte. Radnja izvršenja učinioca koji odgovara po osnovu komandne odgovornosti je u Rimskom statutu definisana kao radnja kažnjivog nečinjenja, odnosno propuštanja „dužnog činjenja” – objašnjava profesor.

Kada bi se razmišljalo o odgovornosti komandanta za krivična dela koje bi učinili dronovi, vojnici-roboti i drugi oblici militarizovane veštačke inteligencije, u takvim slučajevima bilo bi neophodno da se ispolji odgovarajući oblik krivice komandanta koji odgovara za ponašanje svojih potčinjenih.

Pored toga, ističe profesor, neophodno je da između „radnje” komandanta, a to znači njegovog propuštanja „dužnog činjenja”, i krivičnog dela proizašlog iz delovanja militarizovanog oblika veštačke inteligencije – postoji i odgovarajuća uzročno-posledična veza.