Вештачка интелигенција и колатерална штета

Двадесет осмог фебруара 2026. године, првог дана заједничког америчко-израелског напада на Иран, амерички „томахавк” погодио је школу у Минабу. Иранске власти су већ биле наредиле евакуацију, али је школа сувише брзо погођена. Убијено је најмање 165 особа, већином девојчица. Ова страшна вест, која ће имати вишезначне последице, у данима који су следили није била на насловним странама „Њујорк тајмса”, „Вашингтон поста” или „Волстрит џорнала”, што је можда била и намера.

Десетак дана касније, у угледном и утицајном „Фри пресу” објављен је текст „’Антропик’ не одлучује о нашим војним правилима ангажовања”, аутора Бен ван Роа. Споменутим правилима америчке војске дефинишу се, између осталог, околности и начин на који сила сме да се примени у рату. Исход сукоба „Антропика”, гиганта америчке индустрије вештачке интелигенције, са Пентагоном је од глобалног значаја, а Србији, којој је развој индустрије ВИ један од приоритета, и због тога што памти своје жртве америчких „томахавка”. Зато је овај сукоб већ био тема у мојим претходним текстовима.

„Антропик” је месецима пре масакра у Минабу, из моралних и практичних разлога, те због очувања механизма одговорности у процесу одлучивања, почео да инсистира на томе да човек мора доносити коначну одлуку о убиствима непријатеља. У случају масакра у Минабу, он је последњу одлуку донео наредбом о гађању. Због техничког напретка у нападу на Иран стотине мета се гађају скоро истовремено, па их је тада немогуће проверавати. „Томахавк” није аутономно оружје, али је погодио објекат са листе мета селектоване уз помоћ „Антропиковог” модела ВИ, на основу података које је саставио Пентагон. Израда те листе била је последњи акт у процесу селекције – након чега је човек дао налог за напад, без реалних техничких или временских капацитета да се још једном провери сваки циљ на листи. Употреба непоузданог система ВИ за убијање и проблем утврђивања одговорности, на које „Антропик” указује у случају потпуно аутономног оружја, слични су и у случају погођене школе. Необично је зато да аутор споменутог текста у ТФП-у, који се бави експертизом у примени вештачке интелигенције у оружаним сукобима, критикује „Антропик”, али не помиње масакр у Минабу, до сада највећу појединачну „грешку” у којој је ВИ одлучивала о ракетирању. Значај питања контроле ВИ и високи улози у сукобу „Антропик”–Пентагон намећу потребу да се исправе одређене нетачности и одговори на неке тенденциозне констатације које Ван Ро износи.

„Антропик” никада није рекао да ВИ не сме да се користи у оружаним сукобима. То је једина компанија која је своје моделе тренирала на стварним америчким обавештајним подацима, али инсистира на контроли система који одлучују о животу и смрти. Ван Ро меша питања ко користи ВИ у рату, а ко има право да постави услове контроле употребе. „Антропик” није одређивао америчка правила ангажовања, како наслов сугерише, већ је поставио границе употребе своје технологије. Употреба ројева аутономних дронова у рату у Украјини такође је погрешно интерпретирана. Украјински парламент регулише употребу аутономних система у том рату, а одговорност лежи на украјинским војницима, командантима и политичарима.

Аутор, надаље, тврди да у случају сличне примене ВИ у Пентагоновом пројекту Марвен „нико није протестовао”. Покренут је 2017. године са циљем да ВИ аутоматски обрађује огромне количине видео-снимака дронова и идентификује мете. На основу програма који сада развија компанија „Палантир”, још један гигант америчке ВИ индустрије, интегришу се сателитски снимци, подаци које прикупе дронови, радарски сигнали и обавештајни извештаји у јединствен алат за подршку доношењу одлука о нападима. Ван Ро, потом, сам каже да је био љут када је „Гугл” 2018. године напустио пројекат под притиском запослених, што значи да зна да је више од 4.000 његових запослених потписало петицију, а десетак дало отказ.

Истраге магазина „Тајм”, „Белингкета” и „Хјуман рајтс воча” показују да је, на основу старих сателитских снимака, школа у Минабу била зидом одвојена од комплекса Револуционарне гарде још између 2013. и 2016. године. Спортски терени у дворишту били су видљиви на сваком сателитском снимку, а зграда обојена у јако плаво и розе. Велика је вероватноћа да су Пентагонови подаци о метама у Ирану, за који се одавно зна да може бити нападнут, коришћени у овом нападу били стари више од деценије. Јавно доступни подаци (ОСИНТ) били су тачнији од тајних база података Пентагона, на основу којих је ВИ генерисала листу циљева. Врхунска технологија је тако злоупотребљена. Тренирана је, па онда и остављена да у пракси доноси одлуке са смртним исходом на основу више од деценије старих података, који су се лако могли проверити и освежити.

И поред наведеног, амерички министар рата Пит Хегсет најавио је у јануару ове године, у говору у седишту „Спејс икса” у Тексасу, пројекат „Отворени арсенал”, један од приоритета нове Пентагонове стратегије употребе ВИ. Планирано је да војне и обавештајне податке, прикупљане две деценије, које Пентагон поседује и који сами по себи представљају стратешко оружје, ВИ сада први пут обради, повеже и искористи на начине и у обиму који раније нису били могући. Независно ревизорско тело Конгреса годинама упозорава да лош квалитет података и фрагментовани системи поткопавају сваку примену ВИ у војној сфери, али креатори пројекта то игноришу. Хегсет је, иначе, заговорник значајног ублажавања садашњих правила ангажовања америчких војника. Пре напада на Иран смањио је тимове за заштиту цивила за 90 одсто, због чега је Централна команда на Блиском истоку имала само једног службеника задуженог за превенцију цивилних жртава. Управо ти тимови раде са војним командантима на планирању мета и састављају листе забрањених циљева, међу којима су верски објекти, културна добра и школе.

На крају Ван Ро позива да се размотре импликације „Антропикових” захтева за „деветнаестогодишњака на америчком разарачу”, сугеришући да се критиком Пентагона или постављањем услова угрожавају и он и његови саборци. Истраживања показују да оператери дронова имају једнако високе стопе болести изазване посттрауматским симптомом као пилоти у борбеним зонама, управо због моралне повреде. Ван Роов деветнаестогодишњак може бити принуђен да се носи с последицама туђих одлука са фаталним последицама, које је он спровео притиском на дугме, јер није имао адекватне информације да процени да ли је наређење законито или не. Део ВИ индустрије, који инсистира на надзору употребе ВИ, брани, а не угрожава америчке војнике. Нажалост, и све друге потенцијалне жртве терористичких напада, чији повод може бити и масакр у Минабу. Вероватноћа да за њега нико не одговара, те да ће такве „грешке” постати нова нормалност додатно радикализују друштво и дају повода да се правда узме у своје руке. Да ли су ракету током заједничког напада испалиле САД или Израел, огорченим Иранцима не значи много, па се може очекивати и нови талас антисемитизма, на чији глобални пораст у последње време ТФП редовно указује. Шансе за нормализацију прилика на Блиском истоку ће, вероватно, зависити и од реакција на овај масакр.

Колатералне цивилне жртве, за које нико није одговарао, за Србе су постале нормалност још пре тридесетак година. Оправдана озлојеђеност и последично неповерење још увек утичу на степен интеграције Србије у евроатлантски свет и регионално помирење. То искуство се додатно годинама злоупотребљава против споменутих интеграција. Хашки суд донео је неправедну одлуку о ослобађању хрватских генерала који су предводили операцију „Олуја”.

У њој су страдале стотине Срба, а око 250.000 их је избегло. Срби су и жртве „погрешне” селекције мета. Погођен је путнички воз и убијено 12 цивила, а због наводно застарелих мапа погођена је и амбасада Кине када су убијена три њена држављанина, да споменемо само неке. Најконзервативније процене кажу да је у НАТО бомбардовању Србије 1999. године страдало око 400 цивила, за шта нико није одговарао. Србија је бомбардована због наводне прекомерне употребе силе у легитимној борби против терориста, у окружењу сложеном као што су Газа и Иран. Хаг је „успео” да не казни никог релевантног за српске цивилне жртве тог сукоба, док је Србија Хагу испоручила скоро читав политички и војно-полицијски врх из тог времена.

Одмереним политикама Срби су успели да бол и неправду усмере на обнову земље без радикализације. Председник Вучић, који и лично помно прати развој ВИ, поготово њену примену у фармацији, недавно је, представљајући план „Србија 2030”, поново нагласио њен значај. Србија већ гради националну фабрику ВИ са суперрачунаром, најмоћнијим у југоисточној Европи. Још две релевантне америчке ИТ компаније, „Оракл” и ИБМ, раде у Србији. Геополитичка позиција Србије, мир и стабилност, енергетске и дигиталне везе које се све више диверсификују чине је релевантним партнером за многе из индустрије ВИ.

Због цивила погинулих као колатерална штета, за које нико није одговарао, с једне, и мудре одлуке актуелне администрације да приоритизује развој и примену ВИ, са друге стране, неретко у сарадњи са америчким партнерима, сукоб Пентагона и дела ВИ индустрије је и за Србију врло релевантан. Кроз њега се преламају питања поштовања међународног права у новим геополитичким условима и кредибилитета индустрије ВИ. „Антропик” и они који га подржавају допринели су да ова питања добију пажњу коју заслужују. Компромис у сукобу са Пентагоном је могућ и неопходан. Његов важан исход би морао бити смањење изгледа да следећи пројектил погоди воз или школу.

*Политички аналитичар