Akcije veštačke inteligencije lete u svemir

Sređivala sam nedavno arhivu do sada objavljenih tekstova u „Politici”, između ostalog unoseći im naslove iz objavljenih verzija. Jedan od njih bio je „Kad ’Vog’ bira predsednika”. „Antropikov” model veštačke inteligencije koji koristim prekrstio ga je u „Kad Bog bira predsednika”. Dario Amodei, osnivač i izvršni direktor „Antropika”, još nije plavuši u geopolitici javio da li je on „već video svog boga”, niti da li namerava da lobira da sledeći predsednik ne bude svevišnji Tramp. Njegova administracija, o čemu je ovde već bilo reči, proglasila je „Antropik” rizikom u lancu snabdevanja zato što Amodei i ekipa neće da na duši nose kolateralne civilne žrtve u savremenom ratovanju u kojem Pentagon koristi njihove modele, već smatraju da konačnu odluku u šta se puca mora da donese ljudsko biće podložno zakonskoj odgovornosti. U aktuelnom sudskom sporu koji je „Antropik” pokrenuo, hrabra sudija je do kraja postupka suspendovala Pentagonovu odluku.

U početku razvoja tvrdilo se da će veštačka inteligencija mahom biti korišćena u medicini i nauci. Ali i u sekularnom svetu ima neko „ko odgore vidi sve”, a nije bog. Minut pošto Hauard Volovič i Radžeš Kutrapali iz sjajne serije „Teorija velikog praska” počnu da slave što su konačno rešili projekat na kojem su radili, na vrata je zazvonio visoki zvaničnik američke vojske i tražio da preuzme nalaze.

Intervencija u Venecueli i napad na Iran, u kojima je Pentagon koristio modele „Antropika”, prethodno testirane na poverljivim podacima, govore koliko se već otišlo s upotrebom veštačke inteligencije i u savremenom ratovanju. Zbog načelno promenjenih bezbednosnih izazova i pretnji koje su nam nove tehnologije donele, u budućnosti će morati da se otvori i debata o novom definisanju pojmova napada, odbrane, vojnih i civilnih žrtava, aktera oružanih sukoba i lanca odgovornosti – i kako ih kodifikovati u međunarodnom i humanitarnom pravu. Model veštačke inteligencije ne može se izvesti pred sud. Odgovornost za upotrebu mora ostati – o ironije – jedna od malobrojnih situacija u kojima VI ne može da zameni ljude koje autonomni letalni modeli mogu da ubiju.

Za sada smo u ogromnoj sivoj zoni u kojoj je saradnja kompanija i vlada izuzetno bitna. I u prošlosti su upotrebe novih tehnologija u odbrani predstavljale izazove koji su u Americi rešavani saradnjom u dobroj veri svih aktera, uključujući i saveznike. To je rezultiralo kompromisnim zakonskim normiranjem koje je u obzir uzimalo i komercijalna prava i nacionalni interes. Godine 1976, Džej Fred Bjusi, tada predsednik „Teksas instrumentsa”, predsedavao je radnom grupom Saveta za odbrambenu nauku, čija je tridesetdevetostranična studija redefinisala američki sistem kontrole izvoza – ne oko finalnih proizvoda, nego oko vojnokritičnih tehnologija. Bjusijev izveštaj postao je osnova Zakona o kontroli izvoza iz 1979, a nastao je zato što je jedan viši industrijski rukovodilac bio spreman da Pentagonu, javno i za protokol, kaže šta njegovi proizvodi mogu da urade u rukama protivnika – uključujući i saveznike koji su imali sopstvene interese. Sada izazove predstavljaju još uvezaniji lanci snabdevanja i okolnost da je, zbog interferencije – spajanja modela VI sa kompjuterima korisnika – vrlo teško sprečiti da neprijatelj preotme važne tehnološke informacije. Kineski sistemi, neretko u bliskoj vezi s kineskom vladom, „destiluju” američke modele tako što ih obučavaju na manjim paketima podataka za nešto manje zadatke. Kreiraju modele „đaka” od „učitelja”, sa odličnim odnosom mogućnosti u odnosu na cenu, jer ne moraju da koriste skupe ogromne računarske kapacitete kakve originalni autori moraju da angažuju za trening. Kao i u slučaju „Teksas instrumentsa”, stručnjaci zagovaraju da se štite, i da nad njima vlada ima glavni nadzor, celi tehnološki procesi – a ne samo pojedini proizvodi.

Džensen Huang, direktor „Nvidije”, kompanije čija tržišna vrednost premašuje pet triliona dolara i čiji je on lični osnivač i suvlasnik vredan oko 170 milijardi dolara, nedavno je u dvočasovnom intervjuu upitan šest puta na šest različitih načina: ako američki čipovi treniraju VI modele s ozbiljnim vojnim kapacitetima i ti čipovi se prodaju strateškom protivniku – ko snosi odgovornost? Huangovi odgovori, kako je primetio novinar, „lebdeli su na bezbednoj udaljenosti od pitanja.”

Na to da li će i kako VI giganti i američka vlada dalje sarađivati u vezi sa strateškim pitanjima zasigurno će uticaj imati i finansijska moć kompanija. Upravo na dan izlaska ove kolumne, Maskova kompanija „Spejs eks” izlazi na berzu! Vaša plavuša u geopolitici i Mask očito se sinhronizuju, što naravno ne iznenađuje. U procesu izlaska na berzu su i „Antropik” i „Open AI”.

Da bi se donekle razumeli veličina i globalni značaj ovih događaja, sa kojima će se američke institucije, pa i zaštita postulata demokratije s jedne i kompanije s druge strane nositi, pokušajmo da donekle razumemo sume novca – moć – koje se procenjuju. Akcije „Spejs eksa” prodavaće se po ceni od 135 dolara. Procenjena vrednost kompanije iznosi 1,77 triliona dolara – što je, po svim merilima, najveći IPO u istoriji sveta, više nego sedamdesetostruko veći od „Alibabe”, koji je 2014. prikupio 25 milijardi dolara i tada srušio rekord. „Antropik” se procenjuje na skoro trilion dolara, a „Open AI” na više od 850 milijardi.

Dario Amodei, vlasnik „Antropika”, nedavno je izjavio: „Neslaganje sa vladom najameričkija je stvar na svetu. I mi smo patriote. Sve što smo uradili, uradili smo za dobrobit ove zemlje.” Ilon Mask otišao je, nipošto bez osnova, još i dalje: „Možda je najveća opasnost od VI i robotike u tome što vlade mogu da ih koriste da suzbijaju slobode stanovništva. Vlada je samo najveća korporacija s monopolom na nasilje.”

Američko društvo odranije se suočava s izazovom velike ekonomske nejednakosti, čuvenim jazom između 99 odsto i preostalih jedan odsto koji raspolažu silnim bogatstvima. Do toga je došlo i zbog loše i korumpirane distribucije javnih sredstava, ali i zbog enormnih zarada u šou-biznisu i pre svega informacionim tehnologijama. Sa sumama na koje se procenjuju VI kompanije – videće tržište šta kaže i kako će se nastaviti besomučna trka među njima – proširuje se i nejednakost unutar samog jednog procenta najbogatijih. Demokratski princip jedan čovek, jedan glas postaje pitanje od trilion dolara.

Odgovornost – i vlada i kompanija – prema građanima i prema demokratskim institucijama civilnog društva u ovim okolnostima skoro je nesaglediva.

Berza Nasdak, koja je pomenutim izlascima tri giganta preletela u kategoriju trgovanja u trilionima dolara, upravo sada bukvalno leti i u svemir. Mask je predstavio dizajn satelita AI1 – letelice raspona većeg od „boinga 747”, koja će pokretati veštačku inteligenciju na solarnu energiju, u orbiti, van zemaljske električne mreže. „Spejs eks” je podneo zahtev za lansiranje do milion takvih satelita. „Antropik” je već potpisao ugovor o korišćenju računarskih kapaciteta „Spejs eksa”.

Sva „sreća” što vouk spasavači sveta uvedoše papirne slamke kao deo rešenja navedenih izazova. Nejednakost između tema koje nauka, tehnologija, biznis i demokratija nameću i načina na koji ih je vouk sa svojim pseudonaučnim i arogantno autokratskim načinom „rešavao” meri se svetlosnim godinama. Ćute, zlf-ovi, grete i dejvmilibandi ovog sveta više se ne vide ni sa raskrsnica koje su okupirali i preostalih fabričkih dimnjaka, a kamoli sa Meseca i Marsa.

*Politički analitičar

Prilozi objavljeni u rubrici „Pogledi” odražavaju stavove autora, ne uvek i uređivačku politiku lista