Вештачка интелигенција је научила да вара и превари људе

Многи системи вештачке интелигенције (АИ) су већ научили како да преваре људе, укључујући и оне из АИ који су обучени да буду поштени. Ово је показала студија објављена у часопису „Patterns”.

Научници су анализирали извештаје о томе како системи вештачке интелигенције користе лажне информације. Најупечатљивији пример је био CICERO алгоритам, који је обучен у игри „Дипломатија”. У њему играч мора створити савезе да освоји свет. Иако је алгоритам научен да никада не забада нож у леђа својим људским савезницима током игре, CICERO није играо фер.

Други системи вештачке интелигенције показали су способност да блефирају у покеру и лажним нападима у стратегијској игри „Starcraft II”. Неки алгоритми су чак научили да варају тестове дизајниране да процене њихову безбедност.

Људи могу изгубити контролу над вештачком интелигенцијом ако наставе да је уче како да варају. Због тога је неопходно што пре развити строга правила како би се овај проблем решио и АИ класификовала као високоризична технологија.

Научници су приметили да не знају разлог зашто АИ учи да вара. Међутим, то може бити зато што се ова стратегија показала као најбољи начин за добро обављање датог задатка, преноси руски сајт „Газета”.