Veštačka inteligencija je naučila da vara i prevari ljude

Mnogi sistemi veštačke inteligencije (AI) su već naučili kako da prevare ljude, uključujući i one iz AI koji su obučeni da budu pošteni. Ovo je pokazala studija objavljena u časopisu „Patterns”.

Naučnici su analizirali izveštaje o tome kako sistemi veštačke inteligencije koriste lažne informacije. Najupečatljiviji primer je bio CICERO algoritam, koji je obučen u igri „Diplomatija”. U njemu igrač mora stvoriti saveze da osvoji svet. Iako je algoritam naučen da nikada ne zabada nož u leđa svojim ljudskim saveznicima tokom igre, CICERO nije igrao fer.

Drugi sistemi veštačke inteligencije pokazali su sposobnost da blefiraju u pokeru i lažnim napadima u strategijskoj igri „Starcraft II”. Neki algoritmi su čak naučili da varaju testove dizajnirane da procene njihovu bezbednost.

Ljudi mogu izgubiti kontrolu nad veštačkom inteligencijom ako nastave da je uče kako da varaju. Zbog toga je neophodno što pre razviti stroga pravila kako bi se ovaj problem rešio i AI klasifikovala kao visokorizična tehnologija.

Naučnici su primetili da ne znaju razlog zašto AI uči da vara. Međutim, to može biti zato što se ova strategija pokazala kao najbolji način za dobro obavljanje datog zadatka, prenosi ruski sajt „Gazeta”.