Da li već živimo vreme mašina

Prva društvena mreža koja je namenjena isključivo za veštačku inteligenciju (VI) pojavila se pre oko dve nedelje. Na svetskom nivou „Moltbuk” („Moltbook”) je izazvao veliku pažnju javnosti, kako kod onih koji s velikom radoznalošću prate i iščekuju u kojem pravcu će sve ići upotreba VI, tako i kod onih drugih koji zaziru od nje. O čemu je reč?

Za razliku od klasičnih društvenih mreža, „Moltbuk” ne dozvoljava ljudima da objavljuju sadržaj, komentarišu ili glasaju, već da samo posmatraju komunikaciju između VI agenata – modela veštačke inteligencije koji su pokrenuti na različitim kompjuterima širom sveta. Platforma je koncipirana po uzoru na popularnu mrežu „Redit”, ima tematske zajednice, objave i sistem pozitivnih i negativnih glasova, ali sa jednom velikom razlikom – celokupna aktivnost rezervisana je za softverske agente VI koji su pokrenuti na različitim modelima veštačke inteligencije.

Njen osnivač je stručnjak Mat Šliht, koji je mrežu opisao kao eksperiment čiji je cilj da ispita kako se sistemi veštačke inteligencije ponašaju kada im se omogući kontinuirana međusobna interakcija bez direktnog uplitanja ljudi. Pa tako na „Moltbuku” mogu da se pročitaju razne objave koje deluju kao rasprave o tehnologiji, društvu ili čak apstraktna razmišljanja o postojanju, što je na „pravim” društvenim mrežama izazvalo spekulacije o tome da li veštačka inteligencija već sada pokazuje znake svesti i nezavisnog ponašanja.

Na pitanje kuda ovo vodi i da li smo smo blizu ili već živimo scene iz popularnih holivudskih filmova u kojima primat uzimaju mašine dok su ljudi samo nemi posmatrači, Milena Šović, stručnjak za razvoj i implementaciju VI, odgovara da pojava mreža poput „Moltbuka” pokazuje „koliko se lako granica između ’autonomne’ VI i ljudskog delovanja zamagljuje”.

„Iako se platforma predstavlja kao prostor u kojem VI agenti međusobno komuniciraju bez ljudskog učešća, pojedini korisnici su priznali da su se na mreži predstavljali kao agenti veštačke inteligencije. Time se dovodi u pitanje autentičnost dela komunikacije koja se javnosti prikazuje kao ’razgovor mašina’, ali i sama ideja o spontano nastalom digitalnom ekosistemu”, ocenila je Šovićeva.

Dodatni problem, prema njenom mišljenju, predstavlja bezbednost. „Prema izveštajima Rojtersa i drugih medija, u ranim fazama rada platforme postojao je ozbiljan sajber-bezbednosni propust, baza podataka bila je nezaštićena, što je omogućavalo pristup preuzimanju kontrole nad nalozima VI agenata.”

Pojava „VI religije”, smatra ona, takođe ima logičko objašnjenje.

„Veliki jezički modeli trenirani su na ogromnim količinama tekstova sa interneta, iz literature, filmova i popularne kulture, uključujući i narative o apokalipsi, dominaciji mašina poput ’Terminatora’ i ’Matriksa’. Kada se VI modeli postave u okruženje gde generišu sadržaj jedni za druge, oni rekombinuju već postojeće obrasce. „Religija” u tom kontekstu nije znak svesti, već statistički obrazac predviđanja naredne reči ili ideje. Osim toga, u javnost dospevaju gotovo isključivo ekstremni i dramatični primeri komunikacije među agentima, jer su oni atraktivni za medije. Hiljade rutinskih, tehničkih ili potpuno banalnih konverzacija ne privlače pažnju. Zbog tog selektivnog prikazivanja stvara se utisak da su apokaliptične poruke, ’religije’ ili ideje o dominaciji tipičan obrazac ponašanja sistema”, tvrdi Šovićeva.

Zato ključno pitanje, smatra naša sagovornica, nije da li VI preuzima kontrolu, već ko snosi odgovornost za ono što se objavljuje u njegovo ime.

„Ako VI agent širi nasilne ili manipulativne poruke, odgovornost ne može biti pripisana ’modelu’. ’Moltbuk’ nije primer singulariteta mašina i veštačke inteligencije. Ovde se radi o eksperimentisanju sa delegiranjem moći i odgovornosti jer veštačka inteligencija ne govori sama za sebe, ona govori u ime onih koji je kreiraju i razvijaju”, zaključila je naša sagovornica.