Умишљај и нехат вештачке интелигенције

Даљински пилот је кривично одговоран за злочин који учини беспосадна летилица. Дронови се сматрају оружјем и потенцијалним средством за извршење кривичног дела, а учинилац је онај ко управља летилицом иако се не налази у њој.

– Другачије је када је реч о беспосадним летилицама које су практично самоуправљиве и дејствују самостално. Тада је потребно посебно анализирати какве су кривичнопроцесне последице уколико се таквим дејством изврши одређено кривично дело, попут ратног злочина. Чини се да у овом погледу постоји озбиљна правна празнина – каже др Милан Шкулић, професор Правног факултета Универзитета у Београду.

На конференцији Удружења за међународно кривично право, недавно одржаној на Палићу, професор је објаснио да милитаризована вештачка интелигенција може имати разне облике. Поред дронова, то су и аутоматизована борбена возила, дронови-подморнице, чак и „војници-роботи”.

То су заправо сва техничка средства, развијена применом науке, технике и технологије, која се употребљавају у борбене сврхе, а способна су да решавају одређене задатке, да врше селекцију циљева, изводе препаде, што све асоцира на класичну људску интелигенцију и иманентно је човеку у оружаном сукобу.

– Једна је ситуација када дрон делује самостално према одређеном обрасцу који му је усадило лице које њиме манипулише пре активирања, при чему сам тај образац деловања наводи дрон да делује тако што самостално и бира циљеве чијим погађањем чини ратни злочин, као на пример када се ради о стриктно цивилним метама. У овим случајевима би се могло сматрати да лице које је умишљајно „уградило” такав „образац деловања”, практично користи дрон као средство за извршење свог сопственог кривичног дела – каже професор Шкулић.

Међутим, дрон може и да погреши и направи такозвану – колатералну штету, а у таквом случају би се говорило о нехату као облику одговорности оног лица које је манипулисало вештачком интелигенцијом, односно управљало дроном.

– Сам дрон, иако је облик вештачке интелигенције, не може се сматрати непосредним извршиоцем. Оно лице које дрон користи ради извршења сопственог кривичног дела суштински асоцира на познатог „учиниоца за писаћим столом” – теоријској конструкцији која се односила на Немачку као нацистичку државу, где посредни извршиоци имају „власт над вољом” и креирају такав систем који сам по себи обезбеђује извршење кривичног дела. Они нису непосредно „прљали руке”, али су од кривичних судова, у неким од познатих суђења, третирани као учиниоци кривичних дела – наводи професор.

Дронови, наравно, немају сопствену вољу, али њихово самостално деловање, према обрасцу који креира човек, прилично асоцира на вољу код човека. Слично као у научно-фантастичним филмовима, могуће је да ће у стварности оружане сукобе у будућности водити андроиди – „роботи-војници”.

Професор Шкулић подсећа на последње сцене из легендарног филма „Блејд ранер”. Када робот који умире јер има ограничен век трајања, он осећа дубоке емоције и великодушно „одлучује” да поштеди живот човеку који је његов смртни непријатељ – ловац на одметнуте андроиде.

– У тренуцима када умире, јер му је једноставно „истекао ограничени и пројектовани век трајања”, тај својеврсни „вештачки човек” обраћа се крајње људски свом непријатељу, којем је непосредно пре тога „поклонио живот”. Говори му о својим страшним и величанственим искуствима у „рату машина и андроида”, те мокар од кише, која му се слива низ лице, коначно изговара и кључну реченицу о „сузама на киши”, питајући се да ли су на његовом лицу сузе или капљице кише. Наравно, сваком гледаоцу је било јасно да је сурови „робот-војник” заиста пустио сузе – испричао је професор Шкулић.

Питање је да ли ће и када вештачка интелигенција постати толико слична људима да ће се тешко разликовати људско размишљање и резоновање „машине”. Међутим, сада је већ сасвим јасно, каже наш саговорник, да ће врло брзо разноврсни облици вештачке интелигенције наћи своје место и у нашем свакодневном животу, а неки од њих ће пронаћи и своју деструктивну примену у ратовима и оружаним сукобима. За кривично и међународно кривично право то представља велики изазов.

– Није реално да ће се државе и војни савези који су у стању да производе дронове као облик вештачке интелигенције која потпуно аутономно делује одрећи такве „примамљиве” могућности. Напротив, сасвим је реално очекивати да ће до тога свакако доћи релативно брзо и да ће се такви облици милитаризоване вештачке интелигенције користити широко, а можда чак и веома масовно, и не само као беспилотне летилице већ и као оклопна возила, бродови, подморнице, па и као роботи-војници или војске робота, што је некада било у домену чисте научне фантастике – указао је професор др Милан Шкулић.

Тада би требало проширити концепт командне одговорности, како у националним кривичним законодавствима, тако и у Римском статуту, који прописује међународна кривична дела – ратне злочине, злочине против мира, геноцид и злочине против човечности.

Командна одговорност своди се на одговорност команданта за кривична дела учињена од стране његових потчињених, уколико пре њиховог извршења није предузео посебне мере у циљу њиховог спречавања. Сличан концепт би могао бити примењен и када је реч о кривичним делима проистеклим из деловања дронова и других облика вештачке интелигенције.

– Институт командне одговорности веома је интересантан. Са једне стране, он представља велику новину у односу на класична кривичноправна решења основа одговорности, а са друге стране, њиме се практично омогућава ефективно гоњење и осуђивање високих војних и политичких функционера, што увек изазива велику пажњу не само стручне него и јавности уопште. Радња извршења учиниоца који одговара по основу командне одговорности је у Римском статуту дефинисана као радња кажњивог нечињења, односно пропуштања „дужног чињења” – објашњава професор.

Када би се размишљало о одговорности команданта за кривична дела које би учинили дронови, војници-роботи и други облици милитаризоване вештачке интелигенције, у таквим случајевима било би неопходно да се испољи одговарајући облик кривице команданта који одговара за понашање својих потчињених.

Поред тога, истиче професор, неопходно је да између „радње” команданта, а то значи његовог пропуштања „дужног чињења”, и кривичног дела произашлог из деловања милитаризованог облика вештачке интелигенције – постоји и одговарајућа узрочно-последична веза.