Друштвене мреже би ускоро могле да буду преплављене ројевима вештачке интелигенције које шире дезинформације, узнемиравају кориснике и угрожавају демократске процесе, упозоравају научници.

Према тексту објављеном у часопису Science, такозвани „ВИ кластери“ би могли ускоро да постану ново оружје у информационим ратовима.

За разлику од класичних ботова, који су углавном једноставни и лако уочљиви, ови системи могу уверљиво да имитирају људско понашање, прилагођавају се онлајн заједницама и стварају утисак спонтаности и аутентичности.

Другим речима, корисницима може деловати као да се мишљење већине формира природно, иако га у стварности оркестрира вештачка интелигенција, преноси Индекс.

Замислите да истоветни ставови у вашој омиљеној онлајн заједници изненада почну нагло да се формирају око тема о којима се још до недавно дискутовало. Људи су по природи склони да следе оно што перципирају као став већине. Проблем настаје када та „већина“ заправо не постоји, већ је креирана и вођена невидљивим флотама ВИ агената у интересу појединаца, политичких партија, корпорација или држава.

Моћ мишљења већине

Јонас Кунст, професор комуникологије на норвешкој пословној школи BI, објашњава да људи природно теже конформизму, прихватању ставова и понашања већине, јер им то пружа осећај сигурности и припадности, чак и када нису у потпуности уверени да је већина у праву. Ова психолошка слабост би могла да буде веома ефикасно искоришћена од стране „ВИ кластера”.

Манипулација мишљењем, међутим, није једина претња. Ови системи би могли да се користе и за организовано узнемиравање корисника. Уместо стварних огорчених појединаца, ВИ ројеви би могли да нападају оне који се не слажу са одређеним ставовима, вршећи дигитални линч док не ућуткају или не отерају циљане кориснике са платформе.

Аутори коментара упозоравају да напредак у развоју вештачке интелигенције отвара могућност манипулације уверењима и понашањем читавих популација:

„Велики језички модели (LLM) и аутономни агенти омогућавају организоване акције чији је циљ да утичу на мишљење, ставове или понашање људи, најчешће путем медија и друштвених мрежа. То су смишљени покушаји да се људи „усмеравају“ како да размишљају о некој теми, који су досад досегнули незабележене размере и прецизност.

Генеративни алати могу да произведу огромну количину пропаганде без губитка веродостојности и да стварају неистине које делују ‘природније’ од оних које креирају људи. Технике које побољшавају начин на који вештачка интелигенција резонује, попут chain-of-thought промптовања, могу да се користе за израду убедљивијих лажи.

Прилагођавањем људској друштвеној динамици, ови системи представљају озбиљну претњу демократији“, упозоравају аутори.

Већ у употреби?

Није јасно када би овакве флоте вештачке интелигенције могле масовно да се појаве, али стручњаци упозоравају да ће бити изузетно тешко открити их. Због тога није познато да ли су неки облици већ у употреби.

Масовне манипулације нису пука теорија. Reddit је, на пример, прошле године запретио судским поступком научницима који су у једном форуму користили ВИ четботове како би утицали на мишљења четири милиона корисника. Прелиминарни резултати показали су да су одговори тих четботова били три до шест пута убедљивији од одговора људи.

Интернет је већ сада препун ботова, који чине више од 50 процената укупног саобраћаја. „Теорија мртвог интернета“ сугерише да значајан део онлајн садржаја данас не креирају људи, већ аутоматизовани системи. Класични ботови обично понављају исте поруке и лако их је препознати, али и они могу да шире лажне информације и вештачки појачавају одређене наративе.

Нова генерација „ВИ кластера” много је напреднија. Њима управљају велики језички модел, исти они који стоје иза популарних четботова. Ови системи могу да уче, прилагођавају се и креирају низ убедљивих онлајн идентитета са својом „меморијом“. Аутори их описују као „дигиталне организме способне за самосталну координацију и дуготрајно искоришћавање људских слабости”.

Посебно је забрињавајуће што се ова технологија појављује у време када су дигитални простори већ озбиљно нарушени. Већ данас постоји ерозија рационалне дебате и све слабији осећај заједничке реалности међу грађанима.

У таквом окружењу, довољно је да ВИ ројеви појачају постојеће поделе.