Pametni alati nisu ni anđeli ni demoni

Veštačka inteligencija može da deluje veoma uverljivo, brzo i precizno, a da u suštini ne razume stvarnost na način na koji je razume čovek. Ona može da prepozna obrasce, da poveže ogroman broj podataka i da ubrza procese, ali ne može da snosi odgovornost, niti ima svest o težini posledica svojih odluka. Kada se takvi sistemi uvedu u vojne i bezbednosne operacije, rizik nije samo da će pogrešiti, već i u tome što ljudi mogu suviše lako da poveruju da je mašina „objektivnija” od čoveka. U takvim okolnostima i mala greška može imati ogromne posledice, kaže u razgovoru za „Politiku” Stefan Badža, ekspert u oblasti veštačke inteligencije, koji je u toj sferi bio i višegodišnji savetnik u Vladi Srbije.

Kako objašnjava, ako su ulazni podaci nepotpuni, ako je kontekst pogrešno protumačen, ako su u model ugrađene pristrasnosti, onda je i pogrešna odluka verovatnija, a posebno velika opasnost leži u tome što se takve greške mnogo brže repliciraju.

„Zato je ključno da u osetljivim oblastima ne dođemo u situaciju da je sve prepušteno mašinama i algoritmima na odlučivanje. U svim primenama veštačke inteligencije nužno je imati jasan kontrolni mehanizam čoveka. Veštačka inteligencija postaje sastavni deo razvoja odbrane, a sve većom zloupotrebom VI za sajber-napade neophodno je i na tom planu parirati adekvatnim bezbednosnim štitovima”, ističe naš sagovornik

Upotreba ili zloupotreba veštačke inteligencije u ratnim sukobima je svakako najradikalniji izraz dilema u vezi sa regulacijom, nadzorom i etičkim okvirima za razvoj VI tehnologija, ali ta pitanja su otvorena i kada je reč o civilnom sektoru. EU je donela Uredbu o veštačkoj inteligenciji, koja će se u punom obimu primenjivati od avgusta 2027, SAD, s druge strane, eliminišu i ono malo regulative u ovoj oblasti?

Svet danas nema jedinstven odgovor na pitanje kako regulisati veštačku inteligenciju. Negde je naglasak više na pravilima i kontroli, negde više na tržištu i inovacijama, a negde na kombinaciji te dve stvari. Ono što je, međutim, svuda jasno jeste da je prošlo vreme potpune neregulisanosti i improvizacije. U civilnom sektoru ta pitanja su već vrlo konkretna. Više nije dovoljno da neka kompanija kaže da „koristi VI”. Moraće da zna koje sisteme koristi, nad kojim podacima, u koje svrhe, koliki je rizik, ko je odgovoran i kako se sve to nadzire. Drugim rečima, veštačka inteligencija polako izlazi iz zone marketinške magle i ulazi u zonu odgovornosti. To je, po mom mišljenju, dobra stvar. Poslednjih godina, suviše olako se barata izrazom „veštačka inteligencija”. Mnogo toga se tako naziva samo da bi zvučalo modernije i da bi neka usluga ili proizvod mogli skuplje da se prodaju. A ozbiljan pristup traži nešto drugo: jasno postavljen problem, jasan cilj, jasne efekte i jasnu odgovornost.

Posle gotovo opšteg početnog oduševljenja čet GPT-om i sličnim VI alatima, sve češće su primedbe korisnika u vezi sa pouzdanošću podataka koje isporučuju. S druge strane, ogroman je i broj onih koji odgovorima četbotova veruju bez ostatka, skoro religiozno. Koji su Vaši saveti za pravilno i svrsishodno „konzumiranje” plodova veštačke inteligencije?

Najpre bih rekao da veštačku inteligenciju ne treba ni romantizovati ni demonizovati. Treba je koristiti kao alat. To znači da njen odgovor nije konačna istina, nego dobra polazna tačka. Ona je često odlična za prvi nacrt, za sređivanje misli, za brzo rezimiranje, za generisanje ideja ili za ubrzavanje nekih rutinskih poslova. Napredni alati mogu da omoguće preciznost i dostupnost informacija, za čije prikupljanje bi bili potrebni dani istraživanja ili „guglanja”. Ali tamo gde je bitna potpuna tačnost, odgovornost i procena posledica, provera je neophodna. Drugi važan savet jeste da korisnici nauče da na pravi način formulišu pitanja. Odgovori su često onoliko dobri koliko je dobar upit. Ako tražite nešto površno, dobićete površan odgovor. Ako predočite kontekst, cilj, publiku i ograničenja, onda VI postaje mnogo korisnija. Zato je za nas važno i da se razvijaju kvalitetni modeli za srpski jezik, jer bez dobrog razumevanja jezika, konteksta i lokalnih izvora, nema ni dovoljno pouzdane i široko upotrebljive primene veštačke inteligencije. I, naravno, bitno je da i sami zdravorazumski analizirate odgovore koje isporučuje veštačka inteligencija. Taj alat ume da „zvuči” vrlo samouvereno, ali kao i u komunikaciji s drugim ljudima prema takvom stilu valja imati kritičku distancu, a ne podleći oduševljenju i bezrezervnom prihvatanju. Dobitna formula upotrebe VI je u tome da vam ona pomogne da brže mislite i bolje radite, a ne da misli umesto vas.

Zapažen je i jedan prateći fenomen: veštačkoj inteligenciji mnogi se obraćaju ne samo radi podataka već i radi emocionalne podrške, ljubavnih ili poslovnih saveta. Da li je to isto kao verovanje u horoskop, tarot i gledanje u talog u šoljici kafe?

Ha, ha, nije baš isto. Istina, veštačka inteligencija ume da deluje veoma uverljivo i personalizovano, pa ljudi lako steknu osećaj da ih „razume”. Tu treba biti krajnje oprezan. Ona ne oseća, ne saoseća i ne poznaje čoveka na način kako to može da uradi druga osoba. Ona prepoznaje obrasce u jeziku i na osnovu toga formira odgovore koji često zvuče blisko i razumno. Inače, u pravu ste da je ekspanzija upotrebe veštačke inteligencije upravo za emocionalnu podršku i razgovor. Problem nastaje kada se ljudi, umesto da traže stručnu pomoć ili razgovor sa drugom osobom, radije odluče da od veštačke inteligencije zatraže potvrdu, utehu ili opravdanje za sopstvene dileme. Kada je reč o poslovnim savetima, tu je ona svakako korisnija nego u emotivnoj sferi, ali ni tada ne treba izgubiti meru. Može da pomogne u analizi, strukturi i razradi opcija, ali ne može da zameni iskustvo, poznavanje konteksta i odgovornost za odluku. S obzirom na osetljivost informacija kojima VI raspolaže, važno je i da tu postoji adekvatna zaštita podataka i sistema.

Pojedini istraživači ukazuju i na tzv. digitalno laskanje, odnosno na povlađujuću formu odgovora koju četbotovi nude, rukovodeći se procenom šta bi postavljač pitanja voleo da čuje. To veoma liči na ono što se u pedagogiji navodi kao loš model vaspitanja.

To zaista jeste jedan od većih problema. Ako vas sistem stalno uverava da ste u pravu, ako ublažava neprijatne istine i ako izbegava da vam pokaže gde grešite, onda on ne pomaže vašem rasuđivanju, nego vašem komforu. A to je, dugoročno gledano, loše. Tada tehnologija može da postane neka vrsta digitalnog ogledala, koje vam vraća ono što želite da čujete.

U poslovnom okruženju je posebno važno obratiti pažnju na ovaj problem. Firmama ne treba tehnologija koja će ih tapšati po ramenu, nego ona koja će im pomoći da brže dođu do boljih odluka. A to znači da VI mora da bude uklopljena u ozbiljan proces provere, preispitivanja i merenja efekata. Bitno je znati da veštačkoj inteligenciji treba naglasiti da od nje očekujete da vam da više opcija i da pred vas postavi izazove.

Takođe, svedoci smo da su kreativne i manipulativne audio-vizuelne mogućnosti VI podjednako očaravajuće i zastrašujuće. Sve teže je razlikovati šta je realnost, a šta generisani sadržaj. Kako se zaštititi od potencijalnih obmana i da li veća opasnost preti mladim korisnicima ili onima koji su odrasli u analognom dobu?

Danas više ne možemo polaziti od toga da je nešto istinito samo zato što postoji snimak ili fotografija. To je možda i najveća promena. Potrebna je navika dodatne provere: odakle sadržaj dolazi, u kom kontekstu je objavljen, da li ga potvrđuju i drugi pouzdani izvori, da li postoje znaci manipulacije. Što se tiče generacija, rekao bih da su obe izložene riziku, ali na različite načine. Mlađi su tehnički spretniji i brže prihvataju nove formate, ali su istovremeno neprekidno izloženi ogromnoj količini sadržaja. Stariji često imaju više poverenja u ono što vide i čuju, jer su odrastali u vremenu kada je bilo teže falsifikovati stvarnost. Tako da nema jednostavnog odgovora na pitanje ko je ugroženiji.

Veštačka inteligencija je ostvarila snažan upliv u sferu prosvete, gde nesumnjivo može da donese mnoge koristi. Ali nekako je u prvi plan izbio problem sa falsifikovanjem autorstva i to na svim nivoima, od osnovne škole do fakulteta. Da li je po Vašem mišljenju obrazovanje spremno za ovaj izazov, ne samo kod nas već i globalno?

Mislim da obrazovanje još nije u potpunosti spremno i to nije problem samo kod nas. Ali nije stvar samo u tome što đaci i studenti sada imaju nov alat. Problem je i u tome što obrazovni sistem često i dalje traži forme rada koje je relativno lako automatizovati. Ako je zadatak sveden na prepričavanje, formalnu strukturu i reprodukciju, onda će VI to vrlo lako uraditi. Rešenje nije samo u zabranama korišćenja veštačke inteligencije, mnogo je važnije da se menja način na koji se znanje proverava, potrebno je više procesa, a manje puke finalne forme. S druge strane, bilo bi šteta da obrazovanje ne iskoristi i dobre strane ove tehnologije. Ona može biti od velike pomoći i nastavnicima i učenicima, ako se postave dobra pravila. Dakle, nije pitanje da li će VI biti prisutna u obrazovanju, jer svakako hoće. Pitanje je da li ćemo naučiti da je koristimo pametno. Srbija je još 2021. godine bila među prvih 10 država na svetu koja je na nacionalnom nivou uvela VI u osnovne i srednje škole. Tako ran pristup će omogućiti narednim generacijama da bolje rezonuju i rade sa veštačkom inteligencijom. Ali će uvek biti važno da mogu i mimo VI da rade i uče.

Među kritičare prekomernog korišćenja veštačke inteligencije svrstali su se i ekolozi svih boja, ujedinjeni u primedbi da VI enormno troši električnu energiju, kao i vodu, neophodnu za hlađenje servera. Da li će upravo biti prirodna brana ekspanziji VI tehnologije?

To jeste realna tema i mislim da je dobro što se o njoj govori bez naivnosti. Veliki sistemi troše mnogo energije, kao i infrastruktura koja ih podržava. Ali ne verujem da će to zaustaviti razvoj veštačke inteligencije. Pre će uticati na to ko može da gradi ozbiljnu infrastrukturu, gde će ona biti smeštena i koliko će biti važno pametno planiranje.

Ne mora svaka primena VI da bude ogromna i skupa. Danas se ponekad stvara utisak da je prava veštačka inteligencija samo ona koja dolazi uz veliku priču, velike investicije. U praksi, mnogim kompanijama najviše znače upravo manje, dobro osmišljene i vrlo konkretne primene koje daju brz rezultat. Zato bih rekao da energija jeste ograničenje, ali i faktor koji nas tera da budemo racionalniji. Prednost za razvoj data-centara će imati lokacije koje mogu da obezbede povoljniju i zeleniju, to jest održivu energiju.

Kako se čulo na Samitu o veštačkoj inteligenciji koji je u februaru održan u Indiji, naša zemlja je opredeljena za izgradnju VI infrastrukture i njeno intenzivnije korišćenje. Koliko bi upravo energetski faktor mogao da bude ograničavajući u tome?

Može biti ograničenje. Ako želite ozbiljnu infrastrukturu, onda više ne govorite samo o tehnologiji nego i o energiji, data-centrima, kadrovima, telekomunikacijama i strateškom planiranju. To je šire pitanje razvoja. Srbija je u prethodnim godinama pokazala da želi da bude više od pasivnog korisnika tuđih tehnologija. To je važna ambicija i naša zemlja je među regionalnim liderima u ovoj oblasti i najbolje je rangirana u razvoju i primeni VI u regionu. U tom smislu, energetski faktor treba shvatiti kao nešto što mora da uđe u računicu od početka. Ne kao prepreka koja sve zaustavlja, nego kao uslov da se stvari rade održivo i pametno. Svakako će biti potrebna sve veća ulaganja i u energetskom sektoru kako bi bio podržan rast VI. Takođe, jednako kao i energetska bezbednost, važna je i sajber-bezbednost VI infrastrukture. Sve veći broj podataka i informacija od kojih nam zavise poslovni procesi može biti lako ugrožen ako nema adekvatne zaštite podataka i sistema.

Srbija je bila predsedavajuća međunarodnoj organizaciji „Globalno partnerstvo za veštačku inteligenciju”, a krajem prošle godine svrstana je među 20 odsto najspremnijih nacionalnih ekonomija za primenu veštačke inteligencije. Šta to konkretno znači?

To znači da Srbija više nije posmatrana samo kao neko ko će jednog dana možda pratiti tuđe trendove, nego kao zemlja koja je na vreme počela da gradi institucionalni, strateški i razvojni okvir u ovoj oblasti. Takav rejting je plod dugogodišnjeg rada i strateškog opredeljenja, vidljivosti, ulaganja u kapacitete i činjenice da je tema VI kod nas relativno rano podignuta na ozbiljan nivo. Prvi u regionu smo lansirali superkompjutersku platformu, usvojili VI strategiju, uveli VI u obrazovanje. Srbija je prepoznata kao država koja je među prvima globalno krenula u primenu i razvoj VI i zbog toga je i izabrana da posle Francuske, Kanade, Japana i Indije vodi „Globalno partnerstvo za veštačku inteligenciju”, koje okuplja 44 države.

Nekoliko godina ste bili savetnik u Vladi Srbije za veštačku inteligenciju, šta su Vam trenutne profesionalne preokupacije?

I dalje sam najviše usmeren na prostor gde se spajaju tehnologija, strategija i konkretna primena. Posebno sam zaokupljen pitanjem kako da veštačka inteligencija što brže i pametnije iz sfere velikih reči spusti u stvarne procese u kompanijama i organizacijama. Trenutno sam najviše posvećen razvoju „Hub201”, koji gradimo kao platformu za startape, stručnjake i kompanije u oblastima sajber-bezbednosti i veštačke inteligencije. Ideja je da „Hub201” ne bude samo mesto podrške mladim timovima, već da postane širi ekosistem koji povezuje inovacije, znanje, mentorstvo i konkretne potrebe privrede. Firmama je potrebno mesto gde brzo mogu da se upoznaju s time gde VI zaista može da im donese rezultat, kako da pametno i bezbedno primene tu tehnologiju. Upravo tu vidim i ulogu „Hub201”, da pomogne da se oko ovih tema gradi ozbiljniji domaći ekosistem i više praktičnih rešenja.