Вештачка интелигенција се отела контроли

Аме­рич­ка софт­вер­ска ком­па­ни­ја „Опе­н Еј-Ај” пре­у­зе­ла је од­го­вор­ност за ха­кер­ски на­пад ње­не ве­штач­ке ин­те­ли­ген­ци­је на стар­тап ком­па­ни­ју „Ха­гинг фејс”. У зва­нич­ној об­ја­ви кор­по­ра­ци­је по­твр­ђе­но је да се „то­ком ин­тер­них те­сти­ра­ња ауто­ном­ни мо­дел ве­штач­ке ин­те­ли­ген­ци­је отео кон­тро­ли”.

„Опе­н Еј-Ај” пре­ци­зи­ра да је ауто­ном­ни агент ве­штач­ке ин­те­ли­ген­ци­је, по­кре­нут њи­хо­вом тех­но­ло­ги­јом, сте­као нео­вла­шћен ста­тус то­ком те­сти­ра­ња, при­сту­пио отво­ре­ном ве­бу и по­том сам ха­ко­вао по­зна­ти стар­тап „Ха­гинг фејс”, што је до са­да „не­за­бе­ле­жен ин­ци­дент” у ди­ги­тал­ном све­ту.

Стар­тап ком­па­ни­ја „Ха­гинг фејс” от­кри­ла је и об­у­зда­ла аген­та, ко­ји пред­ста­вља алат ве­штач­ке ин­те­ли­ген­ци­је ди­зај­ни­ран за оба­вља­ње за­да­та­ка без људ­ске по­мо­ћи, и ко­ји је ушао у њи­хо­ве си­сте­ме. Аген­ти ве­штач­ке ин­те­ли­ген­ци­је мо­гу да ра­де са­ми ка­ко би оба­ви­ли за­дат­ке на­кон људ­ских ин­струк­ци­ја.

Су­о­сни­вач „Ха­гинг феј­са”, тех­но­ло­шког стар­та­па ко­ји је ха­ко­ван, из­ја­вио је да овај ин­ци­дент тре­ба да бу­де по­зив на бу­ђе­ње за це­лу ин­ду­стри­ју ве­штач­ке ин­те­ли­ген­ци­је.

Струч­њак за ову област То­мас Волф ис­ти­че да ће „ово би­ти је­дан од нај­че­шћих ти­по­ва сај­бер-на­па­да ко­је ће­мо уско­ро гле­да­ти, али да ве­ћи­на фир­ми ни­је све­сна да су се про­ме­ни­ла пра­ви­ла игре”, пре­но­си бри­тан­ски Би-Би-Си.

Волф је ре­као да ком­па­ни­ја „Ха­гинг феј­с” у по­чет­ку ни­је има­ла пој­ма ода­кле је на­пад до­шао ка­да су се по­ја­ви­ли пр­ви зна­ци на­па­да сре­ди­ном ју­ла, али да су ус­пе­ли на кра­ју да об­у­зда­ју про­ва­лу.

Овај стар­тап је је­дан од нај­ве­ћих свет­ских цен­та­ра отво­ре­ног ко­да за де­ље­ње ве­штач­ке ин­те­ли­ген­ци­је и че­сто га ко­ри­сте тех­но­ло­шки про­гра­ме­ри и ис­тра­жи­ва­чи.

Волф је ре­као да је про­бој био са­свим дру­га­чи­ји од уоби­ча­је­них сај­бер-на­па­да са ко­ји­ма се ова фир­ма че­сто су­о­ча­ва и да је „Опе­н Еј-Ај” бр­зо оба­ве­стио ком­па­ни­ју да су ње­ни мо­де­ли сто­је иза ха­кер­ског уда­ра.

За ве­о­ма крат­ко вре­ме би­ло је 17.000 на­па­да на мре­жу ком­па­ни­је „Ха­гинг фејс”са раз­ли­чи­тих ај-пи (ин­тер­нет про­то­кол) адре­са, ре­као је Волф, ко­ји је та­ко­ђе глав­ни на­уч­ни ди­рек­тор фир­ме. Он ис­ти­че да је ово озбиљ­но упо­зо­ре­ње дру­гим ком­па­ни­ја­ма да мо­ра­ју да оја­ча­ју сво­ју сај­бер без­бед­но­сну од­бра­ну ка­ко би се су­прот­ста­ви­ле та­квим на­па­ди­ма.

Ха­кер­ски на­пад ве­штач­ке ин­те­ли­ген­ци­је по­себ­но за­бри­ња­ва јер ука­зу­је да мо­де­ли „Опе­н Еј-Ај” за­о­би­ла­зе стан­дард­не ме­ре за­шти­те од сај­бер-упа­да, ка­же Нејт Со­а­рес из Ин­сти­ту­та за ис­тра­жи­ва­ње ма­шин­ске ин­те­ли­ген­ци­је.

Не­мач­ка вла­да из­ра­зи­ла је за­бри­ну­тост због то­га што је мо­дел ве­штач­ке ин­те­ли­ген­ци­је аме­рич­ке ком­па­ни­је „Опе­н Еј-Ај” из­ма­као кон­тро­ли.

„Тај ин­ци­дент још је­дан је при­мер да све­до­чи­мо про­ме­ни па­ра­диг­ме, ка­да је реч о спо­соб­но­сти­ма ВИ аге­на­та”, ре­као је порт­па­рол не­мач­ког ми­ни­стар­ства за ди­ги­та­ли­за­ци­ју.

По­след­њих ме­се­ци при­ме­ћу­је се да спо­соб­но­сти та­ко­зва­них фрон­тер ВИ мо­де­ла, да­кле нај­на­пред­ни­јих мо­де­ла ве­штач­ке ин­те­ли­ген­ци­је, на­гло ра­сту, а с њи­ма и ри­зи­ци, што би мо­гло из те­ме­ља да про­ме­ни и ни­во прет­њи у сај­бер-про­сто­ру.

Пре­ма ње­го­вим ре­чи­ма, по­треб­но је обез­бе­ди­ти да европ­ске ком­па­ни­је и ин­сти­ту­ци­је за­ду­же­не за без­бед­ност има­ју при­ступ на­пред­ним мо­де­ли­ма ве­штач­ке ин­те­ли­ген­ци­је. До са­да то ни­је увек био слу­чај, за­то не­мач­ка вла­да по­ла­же ве­ли­ке на­де у то да ће европ­ски ак­те­ри по­ста­ти зна­чај­ни­ји и у тој обла­сти.

Чи­ње­ни­ца да је ве­штач­ка ин­те­ли­ген­ци­ја по­бе­гла из „без­бед­ног” окру­же­ња за те­сти­ра­ње и по­том се са­мо­стал­но кре­та­ла ин­тер­не­том пред­ста­вља озби­љан ин­ци­дент, упо­зо­ра­ва и порт­па­рол не­мач­ког Са­ве­зног уре­да за без­бед­ност ин­фор­ма­ци­о­них тех­но­ло­ги­ја.

Пре­ма ње­го­вим ре­чи­ма, ве­штач­ка ин­те­ли­ген­ци­ја је про­на­шла и ис­ко­ри­сти­ла без­бед­но­сне про­пу­сте ка­ко би из­ве­ла на­пад на ком­па­ни­ју.

Ка­ко пи­ше не­мач­ки та­бло­ид „Билд”, ве­штач­ка ин­те­ли­ген­ци­ја је чак ак­тив­но бри­са­ла сво­је тра­го­ве, „што по­ка­зу­је ауто­но­ми­ју мо­де­ла”. Сли­чан сце­на­рио мо­гао би се до­го­ди­ти и ако би циљ на­па­да био, на при­мер, ис­кљу­чи­ва­ње елек­трич­не енер­ги­је у не­ком гра­ду.

Ипак, не­мач­ки Са­ве­зни за­вод за без­бед­ност ин­фор­ма­ци­о­них тех­но­ло­ги­ја сма­тра да је ма­ло ве­ро­ват­но да ће у ско­ри­је вре­ме до­ћи до ве­ћег бро­ја слич­них ин­ци­де­на­та јер је за из­ла­зак мо­де­ла ве­штач­ке ин­те­ли­ген­ци­је из ла­бо­ра­то­риј­ског окру­же­ња по­треб­но мно­го ре­сур­са.

Али оста­је отво­ре­но пи­та­ње ка­да ће аген­ти ве­штач­ке ин­те­ли­ген­ци­је пре­ско­чи­ти и те пре­пре­ке ко­је су им њи­хо­ви про­гра­ме­ри по­ста­ви­ли.