Акције вештачке интелигенције лете у свемир

Сређивала сам недавно архиву до сада објављених текстова у „Политици”, између осталог уносећи им наслове из објављених верзија. Један од њих био је „Кад ’Вог’ бира председника”. „Антропиков” модел вештачке интелигенције који користим прекрстио га је у „Кад Бог бира председника”. Дарио Амодеи, оснивач и извршни директор „Антропика”, још није плавуши у геополитици јавио да ли је он „већ видео свог бога”, нити да ли намерава да лобира да следећи председник не буде свевишњи Трамп. Његова администрација, о чему је овде већ било речи, прогласила је „Антропик” ризиком у ланцу снабдевања зато што Амодеи и екипа неће да на души носе колатералне цивилне жртве у савременом ратовању у којем Пентагон користи њихове моделе, већ сматрају да коначну одлуку у шта се пуца мора да донесе људско биће подложно законској одговорности. У актуелном судском спору који је „Антропик” покренуо, храбра судија је до краја поступка суспендовала Пентагонову одлуку.

У почетку развоја тврдило се да ће вештачка интелигенција махом бити коришћена у медицини и науци. Али и у секуларном свету има неко „ко одгоре види све”, а није бог. Минут пошто Хауард Волович и Раџеш Кутрапали из сјајне серије „Теорија великог праска” почну да славе што су коначно решили пројекат на којем су радили, на врата је зазвонио високи званичник америчке војске и тражио да преузме налазе.

Интервенција у Венецуели и напад на Иран, у којима је Пентагон користио моделе „Антропика”, претходно тестиране на поверљивим подацима, говоре колико се већ отишло с употребом вештачке интелигенције и у савременом ратовању. Због начелно промењених безбедносних изазова и претњи које су нам нове технологије донеле, у будућности ће морати да се отвори и дебата о новом дефинисању појмова напада, одбране, војних и цивилних жртава, актера оружаних сукоба и ланца одговорности – и како их кодификовати у међународном и хуманитарном праву. Модел вештачке интелигенције не може се извести пред суд. Одговорност за употребу мора остати – о ироније – једна од малобројних ситуација у којима ВИ не може да замени људе које аутономни летални модели могу да убију.

За сада смо у огромној сивој зони у којој је сарадња компанија и влада изузетно битна. И у прошлости су употребе нових технологија у одбрани представљале изазове који су у Америци решавани сарадњом у доброј вери свих актера, укључујући и савезнике. То је резултирало компромисним законским нормирањем које је у обзир узимало и комерцијална права и национални интерес. Године 1976, Џеј Фред Бјуси, тада председник „Тексас инструментса”, председавао је радном групом Савета за одбрамбену науку, чија је тридесетдеветостранична студија редефинисала амерички систем контроле извоза – не око финалних производа, него око војнокритичних технологија. Бјусијев извештај постао је основа Закона о контроли извоза из 1979, а настао је зато што је један виши индустријски руководилац био спреман да Пентагону, јавно и за протокол, каже шта његови производи могу да ураде у рукама противника – укључујући и савезнике који су имали сопствене интересе. Сада изазове представљају још увезанији ланци снабдевања и околност да је, због интерференције – спајања модела ВИ са компјутерима корисника – врло тешко спречити да непријатељ преотме важне технолошке информације. Кинески системи, неретко у блиској вези с кинеском владом, „дестилују” америчке моделе тако што их обучавају на мањим пакетима података за нешто мање задатке. Креирају моделе „ђака” од „учитеља”, са одличним односом могућности у односу на цену, јер не морају да користе скупе огромне рачунарске капацитете какве оригинални аутори морају да ангажују за тренинг. Као и у случају „Тексас инструментса”, стручњаци заговарају да се штите, и да над њима влада има главни надзор, цели технолошки процеси – а не само поједини производи.

Џенсен Хуанг, директор „Нвидије”, компаније чија тржишна вредност премашује пет трилиона долара и чији је он лични оснивач и сувласник вредан око 170 милијарди долара, недавно је у двочасовном интервјуу упитан шест пута на шест различитих начина: ако амерички чипови тренирају ВИ моделе с озбиљним војним капацитетима и ти чипови се продају стратешком противнику – ко сноси одговорност? Хуангови одговори, како је приметио новинар, „лебдели су на безбедној удаљености од питања.”

На то да ли ће и како ВИ гиганти и америчка влада даље сарађивати у вези са стратешким питањима засигурно ће утицај имати и финансијска моћ компанија. Управо на дан изласка ове колумне, Маскова компанија „Спејс екс” излази на берзу! Ваша плавуша у геополитици и Маск очито се синхронизују, што наравно не изненађује. У процесу изласка на берзу су и „Антропик” и „Опен АИ”.

Да би се донекле разумели величина и глобални значај ових догађаја, са којима ће се америчке институције, па и заштита постулата демократије с једне и компаније с друге стране носити, покушајмо да донекле разумемо суме новца – моћ – које се процењују. Акције „Спејс екса” продаваће се по цени од 135 долара. Процењена вредност компаније износи 1,77 трилиона долара – што је, по свим мерилима, највећи ИПО у историји света, више него седамдесетоструко већи од „Алибабе”, који је 2014. прикупио 25 милијарди долара и тада срушио рекорд. „Антропик” се процењује на скоро трилион долара, а „Опен АИ” на више од 850 милијарди.

Дарио Амодеи, власник „Антропика”, недавно је изјавио: „Неслагање са владом најамеричкија је ствар на свету. И ми смо патриоте. Све што смо урадили, урадили смо за добробит ове земље.” Илон Маск отишао је, нипошто без основа, још и даље: „Можда је највећа опасност од ВИ и роботике у томе што владе могу да их користе да сузбијају слободе становништва. Влада је само највећа корпорација с монополом на насиље.”

Америчко друштво одраније се суочава с изазовом велике економске неједнакости, чувеним јазом између 99 одсто и преосталих један одсто који располажу силним богатствима. До тога је дошло и због лоше и корумпиране дистрибуције јавних средстава, али и због енормних зарада у шоу-бизнису и пре свега информационим технологијама. Са сумама на које се процењују ВИ компаније – видеће тржиште шта каже и како ће се наставити бесомучна трка међу њима – проширује се и неједнакост унутар самог једног процента најбогатијих. Демократски принцип један човек, један глас постаје питање од трилион долара.

Одговорност – и влада и компанија – према грађанима и према демократским институцијама цивилног друштва у овим околностима скоро је несагледива.

Берза Насдак, која је поменутим изласцима три гиганта прелетела у категорију трговања у трилионима долара, управо сада буквално лети и у свемир. Маск је представио дизајн сателита АИ1 – летелице распона већег од „боинга 747”, која ће покретати вештачку интелигенцију на соларну енергију, у орбити, ван земаљске електричне мреже. „Спејс екс” је поднео захтев за лансирање до милион таквих сателита. „Антропик” је већ потписао уговор о коришћењу рачунарских капацитета „Спејс екса”.

Сва „срећа” што воук спасавачи света уведоше папирне сламке као део решења наведених изазова. Неједнакост између тема које наука, технологија, бизнис и демократија намећу и начина на који их је воук са својим псеудонаучним и арогантно аутократским начином „решавао” мери се светлосним годинама. Ћуте, злф-ови, грете и дејвмилибанди овог света више се не виде ни са раскрсница које су окупирали и преосталих фабричких димњака, а камоли са Месеца и Марса.

*Политички аналитичар

Прилози објављени у рубрици „Погледи” одражавају ставове аутора, не увек и уређивачку политику листа