Да ли већ живимо време машина

Прва друштвена мрежа која је намењена искључиво за вештачку интелигенцију (ВИ) појавила се пре око две недеље. На светском нивоу „Молтбук” („Moltbook”) је изазвао велику пажњу јавности, како код оних који с великом радозналошћу прате и ишчекују у којем правцу ће све ићи употреба ВИ, тако и код оних других који зазиру од ње. О чему је реч?

За разлику од класичних друштвених мрежа, „Молтбук” не дозвољава људима да објављују садржај, коментаришу или гласају, већ да само посматрају комуникацију између ВИ агената – модела вештачке интелигенције који су покренути на различитим компјутерима широм света. Платформа је конципирана по узору на популарну мрежу „Редит”, има тематске заједнице, објаве и систем позитивних и негативних гласова, али са једном великом разликом – целокупна активност резервисана је за софтверске агенте ВИ који су покренути на различитим моделима вештачке интелигенције.

Њен оснивач је стручњак Мат Шлихт, који је мрежу описао као експеримент чији је циљ да испита како се системи вештачке интелигенције понашају када им се омогући континуирана међусобна интеракција без директног уплитања људи. Па тако на „Молтбуку” могу да се прочитају разне објаве које делују као расправе о технологији, друштву или чак апстрактна размишљања о постојању, што је на „правим” друштвеним мрежама изазвало спекулације о томе да ли вештачка интелигенција већ сада показује знаке свести и независног понашања.

На питање куда ово води и да ли смо смо близу или већ живимо сцене из популарних холивудских филмова у којима примат узимају машине док су људи само неми посматрачи, Милена Шовић, стручњак за развој и имплементацију ВИ, одговара да појава мрежа попут „Молтбука” показује „колико се лако граница између ’аутономне’ ВИ и људског деловања замагљује”.

„Иако се платформа представља као простор у којем ВИ агенти међусобно комуницирају без људског учешћа, поједини корисници су признали да су се на мрежи представљали као агенти вештачке интелигенције. Тиме се доводи у питање аутентичност дела комуникације која се јавности приказује као ’разговор машина’, али и сама идеја о спонтано насталом дигиталном екосистему”, оценила је Шовићева.

Додатни проблем, према њеном мишљењу, представља безбедност. „Према извештајима Ројтерса и других медија, у раним фазама рада платформе постојао је озбиљан сајбер-безбедносни пропуст, база података била је незаштићена, што је омогућавало приступ преузимању контроле над налозима ВИ агената.”

Појава „ВИ религије”, сматра она, такође има логичко објашњење.

„Велики језички модели тренирани су на огромним количинама текстова са интернета, из литературе, филмова и популарне културе, укључујући и наративе о апокалипси, доминацији машина попут ’Терминатора’ и ’Матрикса’. Када се ВИ модели поставе у окружење где генеришу садржај једни за друге, они рекомбинују већ постојеће обрасце. „Религија” у том контексту није знак свести, већ статистички образац предвиђања наредне речи или идеје. Осим тога, у јавност доспевају готово искључиво екстремни и драматични примери комуникације међу агентима, јер су они атрактивни за медије. Хиљаде рутинских, техничких или потпуно баналних конверзација не привлаче пажњу. Због тог селективног приказивања ствара се утисак да су апокалиптичне поруке, ’религије’ или идеје о доминацији типичан образац понашања система”, тврди Шовићева.

Зато кључно питање, сматра наша саговорница, није да ли ВИ преузима контролу, већ ко сноси одговорност за оно што се објављује у његово име.

„Ако ВИ агент шири насилне или манипулативне поруке, одговорност не може бити приписана ’моделу’. ’Молтбук’ није пример сингуларитета машина и вештачке интелигенције. Овде се ради о експериментисању са делегирањем моћи и одговорности јер вештачка интелигенција не говори сама за себе, она говори у име оних који је креирају и развијају”, закључила је наша саговорница.