Од „Фејсбука” до дипфејка

Количина илегалног садржаја који је повезан са сексуалним злостављањем деце и који је генерисан помоћу вештачке интелигенције (ВИ) достигао је „критичну тачку” на интернету, упозорила је недавно организација Интернет воч фаундејшен. Та организација је истакла да је количина ВИ израђеног илегалног садржаја у последњих шест месеци премашила укупну количину из претходне године, објавио је „Гардијан”. Додатно забрињавајуће је што је скоро сав тај садржај пронађен на јавним страницама на интернету, а не на дарк-вебу.

Указано је на то да ниво софистицираности тих слика сугерише да су ВИ алати тренирани на сликама и видео-материјалима стварних жртава. „Ситуација са ВИ генерисаним садржајем достиже тачку у којој надлежни органи не могу да утврде да ли је на слици стварно дете којем треба помоћ или не. Више од 50 одсто илегалних слика и видеа смештени су на серверима који се налазе у земљама попут Русије и Сједињених Америчких Држава, Јапана и Холандије”, упозорено је.

Немања Покимица, начелник Одељења за сузбијање штетних и недозвољених садржаја на интернету у Управи за технику Службе за борбу против високотехнолошког криминала МУП-а каже за „Политику” да је најскорија и највећа промена када је реч о високотехнолошком криминалу појава дипфејка и вештачке интелигенције. Почело је са „Фејсбуком”, а стигло до прављења скоро потпуно аутентичних лажних фотографија и видео-снимака. А да предатори све чешће користе вештачку интелигенцију говори и случај једног од приведених, код којег је од 60 гигабајта нађеног материјала насталог сексуалном експлоатацијом деце, једна трећина била направљена вештачком интелигенцијом.

(Срђан Печеничић)

„Реч је о фотографијама које изгледају реално, исто као и све друге настале сексуалном експлоатацијом деце, само што су направљене уз помоћ вештачке интелигенције”, објашњава Покимица. Полиција је открила између 10 и 15 тих вајбер група, са више од четири или пет хиљада корисника, углавном страних држављана, који су делили ВИ фотографије.

А овим почињу да се баве и малолетници, па долази и до вршњачког насиља.

„Дете је на друштвеној мрежи ’Фејсбук’ поставило фотографију са летовања у купаћем костиму. Осумњичени су путем вештачке интелигенције направили фотографију која изгледа као да је она без одеће, без купаћег костима и такву фотографију делили у вајбер групи. Извршиоци су били малолетници”, напомиње Покимица.

Додаје да је и то један од разлога због којег родитељи морају да надзиру и „Вајбер” и све мреже и групе којих су деца део.

„Родитељи би требало да проверавају с времена на време те групе, да виде шта деца пишу и са ким се дописују. То је јако битно”, закључио је Покимица.

Хтео да ради у полицији

„Он је месецима терорисао девојчице. Били смо упорни и стрпљиви, чекали смо да направи грешку и на крају смо успели да га идентификујемо”, започиње инспекторка Марија Мишковић из Одељења за сузбијање штетних и недозвољених садржаја на интернету у Управи за технику Службе за борбу против високотехнолошког криминала МУП-а причу о случају у којем је извршилац уз помоћ вештачке интелигенције и дипфејка узнемиравао и прогањао жртве. „Он је путем вештачке интелигенције правио дипфејк, тј. лажне видео-снимке и постављао их на ’Тикток’ и ’Инстаграм’. У снимцима је користио девојчице од којих је једна била малолетна, а неке од њих само што су постале пунолетне. Снимке је правио тако да оне на њима говоре непримереним речником и омаловажавају себе. Такође им је као саговорнике постављао разне особе из криминогене средине и повезивао их са њима. Прогањао их је и пратио. Оно што је било интересантно јесте то што је након хапшења осумњичени изјавио да је одувек желео да ради у полицији.”