Društvene mreže bi uskoro mogle da budu preplavljene rojevima veštačke inteligencije koje šire dezinformacije, uznemiravaju korisnike i ugrožavaju demokratske procese, upozoravaju naučnici.

Prema tekstu objavljenom u časopisu Science, takozvani „VI klasteri“ bi mogli uskoro da postanu novo oružje u informacionim ratovima.

Za razliku od klasičnih botova, koji su uglavnom jednostavni i lako uočljivi, ovi sistemi mogu uverljivo da imitiraju ljudsko ponašanje, prilagođavaju se onlajn zajednicama i stvaraju utisak spontanosti i autentičnosti.

Drugim rečima, korisnicima može delovati kao da se mišljenje većine formira prirodno, iako ga u stvarnosti orkestrira veštačka inteligencija, prenosi Indeks.

Zamislite da istovetni stavovi u vašoj omiljenoj onlajn zajednici iznenada počnu naglo da se formiraju oko tema o kojima se još do nedavno diskutovalo. Ljudi su po prirodi skloni da slede ono što percipiraju kao stav većine. Problem nastaje kada ta „većina“ zapravo ne postoji, već je kreirana i vođena nevidljivim flotama VI agenata u interesu pojedinaca, političkih partija, korporacija ili država.

Moć mišljenja većine

Jonas Kunst, profesor komunikologije na norveškoj poslovnoj školi BI, objašnjava da ljudi prirodno teže konformizmu, prihvatanju stavova i ponašanja većine, jer im to pruža osećaj sigurnosti i pripadnosti, čak i kada nisu u potpunosti uvereni da je većina u pravu. Ova psihološka slabost bi mogla da bude veoma efikasno iskorišćena od strane „VI klastera”.

Manipulacija mišljenjem, međutim, nije jedina pretnja. Ovi sistemi bi mogli da se koriste i za organizovano uznemiravanje korisnika. Umesto stvarnih ogorčenih pojedinaca, VI rojevi bi mogli da napadaju one koji se ne slažu sa određenim stavovima, vršeći digitalni linč dok ne ućutkaju ili ne oteraju ciljane korisnike sa platforme.

Autori komentara upozoravaju da napredak u razvoju veštačke inteligencije otvara mogućnost manipulacije uverenjima i ponašanjem čitavih populacija:

„Veliki jezički modeli (LLM) i autonomni agenti omogućavaju organizovane akcije čiji je cilj da utiču na mišljenje, stavove ili ponašanje ljudi, najčešće putem medija i društvenih mreža. To su smišljeni pokušaji da se ljudi „usmeravaju“ kako da razmišljaju o nekoj temi, koji su dosad dosegnuli nezabeležene razmere i preciznost.

Generativni alati mogu da proizvedu ogromnu količinu propagande bez gubitka verodostojnosti i da stvaraju neistine koje deluju ‘prirodnije’ od onih koje kreiraju ljudi. Tehnike koje poboljšavaju način na koji veštačka inteligencija rezonuje, poput chain-of-thought promptovanja, mogu da se koriste za izradu ubedljivijih laži.

Prilagođavanjem ljudskoj društvenoj dinamici, ovi sistemi predstavljaju ozbiljnu pretnju demokratiji“, upozoravaju autori.

Već u upotrebi?

Nije jasno kada bi ovakve flote veštačke inteligencije mogle masovno da se pojave, ali stručnjaci upozoravaju da će biti izuzetno teško otkriti ih. Zbog toga nije poznato da li su neki oblici već u upotrebi.

Masovne manipulacije nisu puka teorija. Reddit je, na primer, prošle godine zapretio sudskim postupkom naučnicima koji su u jednom forumu koristili VI četbotove kako bi uticali na mišljenja četiri miliona korisnika. Preliminarni rezultati pokazali su da su odgovori tih četbotova bili tri do šest puta ubedljiviji od odgovora ljudi.

Internet je već sada prepun botova, koji čine više od 50 procenata ukupnog saobraćaja. „Teorija mrtvog interneta“ sugeriše da značajan deo onlajn sadržaja danas ne kreiraju ljudi, već automatizovani sistemi. Klasični botovi obično ponavljaju iste poruke i lako ih je prepoznati, ali i oni mogu da šire lažne informacije i veštački pojačavaju određene narative.

Nova generacija „VI klastera” mnogo je naprednija. Njima upravljaju veliki jezički model, isti oni koji stoje iza popularnih četbotova. Ovi sistemi mogu da uče, prilagođavaju se i kreiraju niz ubedljivih onlajn identiteta sa svojom „memorijom“. Autori ih opisuju kao „digitalne organizme sposobne za samostalnu koordinaciju i dugotrajno iskorišćavanje ljudskih slabosti”.

Posebno je zabrinjavajuće što se ova tehnologija pojavljuje u vreme kada su digitalni prostori već ozbiljno narušeni. Već danas postoji erozija racionalne debate i sve slabiji osećaj zajedničke realnosti među građanima.

U takvom okruženju, dovoljno je da VI rojevi pojačaju postojeće podele.