Роботи убице силазе са филмског платна

Подршку забрани упутило је летос 200 канадских и 100 аустралијских научника, док је група од 120 предузетника и експерата, међу којима су Илон Маск и Стивен Хокинг, у писму упозорила УН да би оружје засновано на вештачкој интелигенцији (АИ) могло да буде „извор ужаса” у будућности. Нагласили су да им циљ није да закоче иновације у роботици и области АИ, али да се мора спречити аутоматизација кључних функција као што су одабир мета и примена насиља без одлуке човека.

Прошле седмице одржан је први званични састанак под окриљем УН о системима смртоносног аутономног оружја (lethal autonomous weapons systems – LAWS), у оквиру Конвенције о одређеним врстама конвенционалног наоружања, којом је до сада забрањена употреба нагазних мина и ласера који ослепљују. Председавајући амбасадор Индијац Амандип Гил послао је оптимистичну поруку да „роботи не преузимају контролу” и апеловао да се не уноси превише емоција и драме у ово питање.

Представници академске заједницу приказали су међутим другачију слику у Женеви и позвали УН да делује пре него што буде прекасно. Тоби Волш, са Универзитета Новог јужног Велса у Аустралији, рекао је да је у току трка у овој врсти наоружања и да ће то бити оружје масовног уништења, јер ће један програмер моћи да контролише читаву армију. Он је уверен да ће свет на крају забранити аутономно оружје и пита се да ли ће земље имати храбрости да ураде то одмах или тек пошто људи почну да гину. Маргарет Боден, професорка когнитивних наука на Универзитету у Сасексу, рекла је да етички робот неће постојати ни за 50 година и да моралну одговорност мора увек да сноси човек.

Двадесет две државе  (од 80 присутних), углавном оне са мањим буџетима и скромнијим техничким капацитетима, заложиле су се да се ово оружје одмах забрани. Земље које су већ развиле полуаутономно оружје не прихватају забрану. САД су недавно лансирале подморницу која месецима самостално може да делује и кажу да ће наставити да промовишу иновације водећи рачуна о безбедности. Немачка сматра да би забрана била преурањена, а сличан је и став Русије, која је критиковала алармистички приступ теми.

На маргинама скупа, кампања „Зауставите роботе убице” приказала је снимак замишљене будућности у којој мини-дрон препознавши лице мете у секунди разара мозак. Произвођач хвали његове предности у односу на војнике, јер ови други имају емоције и могу да одбију послушност, док роботи, како каже, доносе хируршки прецизне одлуке, и то само против лоших момака. Снимак касније показује шта може да се деси ако оружје заврши у рукама лоших момака. У замишљеном нападу на универзитете погинуло је 8.500 студента, а дронови убице нападали су селективно оне који су на друштвеним мрежама делили видео о разоткривеној корупцији.

Следећи панел УН биће одражан 2018. и разговараће се о томе како аутономно оружје делује и како га контролисати. Групе активиста признају да је на првом састанку остварен известан напредак, али да нема времена за губљење на разговоре. Како је истакла Мери Верхам, из организације Хјуман рајтс воч, постоји сагласност већине земаља да је потребан правно обавезујући инструмент који би контролисао коришћење робота убица и да мора постојати неки облик људске контроле, само остаје питање шта ефективна људска контрола значи у пракси. И многа друга питања остала су без одговора. На пример, да ли ће овакво оружје бити подложно сајбер нападима и како ће променити стратешку равнотежу међу државама.

Иако не постоји званична дефиниција оружја LAWS, мисли се на оно које када га човек једном активира бира циљеве без даљег људског мешања. Државе су подељене око тога да ли ту спада и постојеће полуаутономно или само софистицирано паметно оружје које ће бити развијено у будућности.

Коментатори кажу да о потпуној забрани није реално причати јер нико неће да се одрекне технологије која може знатно да увећа моћ неке земље. Аутономно оружје присутно је већ дуже у великим морнарицама где помоћу радара аутоматски одговора на претеће пројектиле. Кад је реч о деловању према људској мети, и оно постоји, али се не користе потпуно аутоматизовано већ је потребно одобрење човека. Такав је на пример „Самсунгов” систем који се користи у Јужној Кореји.

Постоји такође страх да примена не би била ограничена само у војне сврхе него и против цивила у репресивним режимима. Док учесници побуне против диктатуре могу да рачунају на савест и самилост оружаних снага, роботи би свакако бранили режиме без много преиспитивања.