Veštačka inteligencija i kolateralna šteta

Dvadeset osmog februara 2026. godine, prvog dana zajedničkog američko-izraelskog napada na Iran, američki „tomahavk” pogodio je školu u Minabu. Iranske vlasti su već bile naredile evakuaciju, ali je škola suviše brzo pogođena. Ubijeno je najmanje 165 osoba, većinom devojčica. Ova strašna vest, koja će imati višeznačne posledice, u danima koji su sledili nije bila na naslovnim stranama „Njujork tajmsa”, „Vašington posta” ili „Volstrit džornala”, što je možda bila i namera.

Desetak dana kasnije, u uglednom i uticajnom „Fri presu” objavljen je tekst „’Antropik’ ne odlučuje o našim vojnim pravilima angažovanja”, autora Ben van Roa. Spomenutim pravilima američke vojske definišu se, između ostalog, okolnosti i način na koji sila sme da se primeni u ratu. Ishod sukoba „Antropika”, giganta američke industrije veštačke inteligencije, sa Pentagonom je od globalnog značaja, a Srbiji, kojoj je razvoj industrije VI jedan od prioriteta, i zbog toga što pamti svoje žrtve američkih „tomahavka”. Zato je ovaj sukob već bio tema u mojim prethodnim tekstovima.

„Antropik” je mesecima pre masakra u Minabu, iz moralnih i praktičnih razloga, te zbog očuvanja mehanizma odgovornosti u procesu odlučivanja, počeo da insistira na tome da čovek mora donositi konačnu odluku o ubistvima neprijatelja. U slučaju masakra u Minabu, on je poslednju odluku doneo naredbom o gađanju. Zbog tehničkog napretka u napadu na Iran stotine meta se gađaju skoro istovremeno, pa ih je tada nemoguće proveravati. „Tomahavk” nije autonomno oružje, ali je pogodio objekat sa liste meta selektovane uz pomoć „Antropikovog” modela VI, na osnovu podataka koje je sastavio Pentagon. Izrada te liste bila je poslednji akt u procesu selekcije – nakon čega je čovek dao nalog za napad, bez realnih tehničkih ili vremenskih kapaciteta da se još jednom proveri svaki cilj na listi. Upotreba nepouzdanog sistema VI za ubijanje i problem utvrđivanja odgovornosti, na koje „Antropik” ukazuje u slučaju potpuno autonomnog oružja, slični su i u slučaju pogođene škole. Neobično je zato da autor spomenutog teksta u TFP-u, koji se bavi ekspertizom u primeni veštačke inteligencije u oružanim sukobima, kritikuje „Antropik”, ali ne pominje masakr u Minabu, do sada najveću pojedinačnu „grešku” u kojoj je VI odlučivala o raketiranju. Značaj pitanja kontrole VI i visoki ulozi u sukobu „Antropik”–Pentagon nameću potrebu da se isprave određene netačnosti i odgovori na neke tendenciozne konstatacije koje Van Ro iznosi.

„Antropik” nikada nije rekao da VI ne sme da se koristi u oružanim sukobima. To je jedina kompanija koja je svoje modele trenirala na stvarnim američkim obaveštajnim podacima, ali insistira na kontroli sistema koji odlučuju o životu i smrti. Van Ro meša pitanja ko koristi VI u ratu, a ko ima pravo da postavi uslove kontrole upotrebe. „Antropik” nije određivao američka pravila angažovanja, kako naslov sugeriše, već je postavio granice upotrebe svoje tehnologije. Upotreba rojeva autonomnih dronova u ratu u Ukrajini takođe je pogrešno interpretirana. Ukrajinski parlament reguliše upotrebu autonomnih sistema u tom ratu, a odgovornost leži na ukrajinskim vojnicima, komandantima i političarima.

Autor, nadalje, tvrdi da u slučaju slične primene VI u Pentagonovom projektu Marven „niko nije protestovao”. Pokrenut je 2017. godine sa ciljem da VI automatski obrađuje ogromne količine video-snimaka dronova i identifikuje mete. Na osnovu programa koji sada razvija kompanija „Palantir”, još jedan gigant američke VI industrije, integrišu se satelitski snimci, podaci koje prikupe dronovi, radarski signali i obaveštajni izveštaji u jedinstven alat za podršku donošenju odluka o napadima. Van Ro, potom, sam kaže da je bio ljut kada je „Gugl” 2018. godine napustio projekat pod pritiskom zaposlenih, što znači da zna da je više od 4.000 njegovih zaposlenih potpisalo peticiju, a desetak dalo otkaz.

Istrage magazina „Tajm”, „Belingketa” i „Hjuman rajts voča” pokazuju da je, na osnovu starih satelitskih snimaka, škola u Minabu bila zidom odvojena od kompleksa Revolucionarne garde još između 2013. i 2016. godine. Sportski tereni u dvorištu bili su vidljivi na svakom satelitskom snimku, a zgrada obojena u jako plavo i roze. Velika je verovatnoća da su Pentagonovi podaci o metama u Iranu, za koji se odavno zna da može biti napadnut, korišćeni u ovom napadu bili stari više od decenije. Javno dostupni podaci (OSINT) bili su tačniji od tajnih baza podataka Pentagona, na osnovu kojih je VI generisala listu ciljeva. Vrhunska tehnologija je tako zloupotrebljena. Trenirana je, pa onda i ostavljena da u praksi donosi odluke sa smrtnim ishodom na osnovu više od decenije starih podataka, koji su se lako mogli proveriti i osvežiti.

I pored navedenog, američki ministar rata Pit Hegset najavio je u januaru ove godine, u govoru u sedištu „Spejs iksa” u Teksasu, projekat „Otvoreni arsenal”, jedan od prioriteta nove Pentagonove strategije upotrebe VI. Planirano je da vojne i obaveštajne podatke, prikupljane dve decenije, koje Pentagon poseduje i koji sami po sebi predstavljaju strateško oružje, VI sada prvi put obradi, poveže i iskoristi na načine i u obimu koji ranije nisu bili mogući. Nezavisno revizorsko telo Kongresa godinama upozorava da loš kvalitet podataka i fragmentovani sistemi potkopavaju svaku primenu VI u vojnoj sferi, ali kreatori projekta to ignorišu. Hegset je, inače, zagovornik značajnog ublažavanja sadašnjih pravila angažovanja američkih vojnika. Pre napada na Iran smanjio je timove za zaštitu civila za 90 odsto, zbog čega je Centralna komanda na Bliskom istoku imala samo jednog službenika zaduženog za prevenciju civilnih žrtava. Upravo ti timovi rade sa vojnim komandantima na planiranju meta i sastavljaju liste zabranjenih ciljeva, među kojima su verski objekti, kulturna dobra i škole.

Na kraju Van Ro poziva da se razmotre implikacije „Antropikovih” zahteva za „devetnaestogodišnjaka na američkom razaraču”, sugerišući da se kritikom Pentagona ili postavljanjem uslova ugrožavaju i on i njegovi saborci. Istraživanja pokazuju da operateri dronova imaju jednako visoke stope bolesti izazvane posttraumatskim simptomom kao piloti u borbenim zonama, upravo zbog moralne povrede. Van Roov devetnaestogodišnjak može biti prinuđen da se nosi s posledicama tuđih odluka sa fatalnim posledicama, koje je on sproveo pritiskom na dugme, jer nije imao adekvatne informacije da proceni da li je naređenje zakonito ili ne. Deo VI industrije, koji insistira na nadzoru upotrebe VI, brani, a ne ugrožava američke vojnike. Nažalost, i sve druge potencijalne žrtve terorističkih napada, čiji povod može biti i masakr u Minabu. Verovatnoća da za njega niko ne odgovara, te da će takve „greške” postati nova normalnost dodatno radikalizuju društvo i daju povoda da se pravda uzme u svoje ruke. Da li su raketu tokom zajedničkog napada ispalile SAD ili Izrael, ogorčenim Irancima ne znači mnogo, pa se može očekivati i novi talas antisemitizma, na čiji globalni porast u poslednje vreme TFP redovno ukazuje. Šanse za normalizaciju prilika na Bliskom istoku će, verovatno, zavisiti i od reakcija na ovaj masakr.

Kolateralne civilne žrtve, za koje niko nije odgovarao, za Srbe su postale normalnost još pre tridesetak godina. Opravdana ozlojeđenost i posledično nepoverenje još uvek utiču na stepen integracije Srbije u evroatlantski svet i regionalno pomirenje. To iskustvo se dodatno godinama zloupotrebljava protiv spomenutih integracija. Haški sud doneo je nepravednu odluku o oslobađanju hrvatskih generala koji su predvodili operaciju „Oluja”.

U njoj su stradale stotine Srba, a oko 250.000 ih je izbeglo. Srbi su i žrtve „pogrešne” selekcije meta. Pogođen je putnički voz i ubijeno 12 civila, a zbog navodno zastarelih mapa pogođena je i ambasada Kine kada su ubijena tri njena državljanina, da spomenemo samo neke. Najkonzervativnije procene kažu da je u NATO bombardovanju Srbije 1999. godine stradalo oko 400 civila, za šta niko nije odgovarao. Srbija je bombardovana zbog navodne prekomerne upotrebe sile u legitimnoj borbi protiv terorista, u okruženju složenom kao što su Gaza i Iran. Hag je „uspeo” da ne kazni nikog relevantnog za srpske civilne žrtve tog sukoba, dok je Srbija Hagu isporučila skoro čitav politički i vojno-policijski vrh iz tog vremena.

Odmerenim politikama Srbi su uspeli da bol i nepravdu usmere na obnovu zemlje bez radikalizacije. Predsednik Vučić, koji i lično pomno prati razvoj VI, pogotovo njenu primenu u farmaciji, nedavno je, predstavljajući plan „Srbija 2030”, ponovo naglasio njen značaj. Srbija već gradi nacionalnu fabriku VI sa superračunarom, najmoćnijim u jugoistočnoj Evropi. Još dve relevantne američke IT kompanije, „Orakl” i IBM, rade u Srbiji. Geopolitička pozicija Srbije, mir i stabilnost, energetske i digitalne veze koje se sve više diversifikuju čine je relevantnim partnerom za mnoge iz industrije VI.

Zbog civila poginulih kao kolateralna šteta, za koje niko nije odgovarao, s jedne, i mudre odluke aktuelne administracije da prioritizuje razvoj i primenu VI, sa druge strane, neretko u saradnji sa američkim partnerima, sukob Pentagona i dela VI industrije je i za Srbiju vrlo relevantan. Kroz njega se prelamaju pitanja poštovanja međunarodnog prava u novim geopolitičkim uslovima i kredibiliteta industrije VI. „Antropik” i oni koji ga podržavaju doprineli su da ova pitanja dobiju pažnju koju zaslužuju. Kompromis u sukobu sa Pentagonom je moguć i neophodan. Njegov važan ishod bi morao biti smanjenje izgleda da sledeći projektil pogodi voz ili školu.

*Politički analitičar