Дигитално свлачење на интернету

„Скини девојку коју желиш! Уради то одмах, бесплатно је”, гласила је порука која је једном четрнаестогодишњем дечаку искочила док је гледао „Инстаграм”. Порука му је, као већини дечака у том узрасту, привукла пажњу, па је одлучио да следи даља упутства. Изабрао је фотографију симпатије коју је желео да види без одеће, притиснуо дугме и девојчица је била потпуно нага.

Апликација коју је дечак користио, испоставиће се, једна је од новијих на интернету и симболично је названа „Undress AI”, што у преводу значи скинути. Тимеа Кукла из Центра за несталу и злостављану децу објашњава да је „Undress AI” алат који користи вештачку интелигенцију да дигитално уклони одећу са особа на фотографијама.

– Овај алат анализира године особе са фотографије, облик тела, позу и друге појединости како би што верније генерисао нагу фотографију. Резултат могу да буду хиперреалистичне фотографије које могу да буду злоупотребљене на различите начине. Према извештају „Интернет воч фондације”, месечно на дарк- вебу, али и регуларном интернету, осване око 20.000 оваквих вештачки генерисаних фотографија. Оно што деца, а често и одрасли не знају, јесте да једном генерисане, овакве фотографије када се објаве или поделе, више нису у нашем власништву и ни на који начин не можемо да контролишемо њихову даљу дистрибуцију – објашњава Кукла.

Према њеним речима, фотографије обрађене на овакав начин, а касније и подељене, не само да изазивају срамоту особе које су на њима већ утичу и на њено ментално стање и репутацију, па чак и на запослење. Такође, наводи наша саговорница, постоји могућност да овакве фотографије злоупотребе педофили који на интернету прикупљају фотографије деце.

„Undress AI” није једина апликација ове врсте. Према речима Миле Бајић из Фондације „Шер”, која се бави унапређивањем људских права и слобода у онлајн сфери, на дневном нивоу се појави на стотине хиљада сличних апликација.

– Све оне функционишу по сличном шаблону. Потребно је да се убаци фотографија (у неким случајевима може и видео) и апликација по свом коду, генерише нагу фотографију. Реалистичност обрађене фотографије или видеа зависи од софистицираности софтвера који апликација користи. На крају, уопште није важно колико фотографија изгледа реалистично. Узнемиравајућа је, пре свега, чињеница да постоји апликација која може да оголи било коју особу и да се то ради без њеног знања – наводи Бајић.

На питање од чега зависи на којој интернет страници или друштвеној мрежи ће се овакве апликације рекламирати, наша саговорница каже да то зависи од буџета оних које их праве.

– Овакве апликације можете да нађете на друштвеним мрежама, али и да једноставно у претраживачу укуцате „апликација за скидање” – објашњава Бајић.

Истраживања и подаци којима располаже Фондација „Шер”, показују да су, када су у питању овакве технологије, најугроженије особе женског пола. Генерисане фотографије, показују истраживања, користе се у различите сврхе, а најчешће је то нека врста сексуалног узнемиравања.

– Случајеви злоупотреба фотографија на овакав начин се често не пријављују, а да ли је тешко открити некога ко користи апликацију зависи од конкретног случаја. У великој мери откривање зависи од начина дистрибуције спорних фотографија. Ако их, на пример, неко прави, па их показује преко свог мобилног телефона, онда га је поприлично лако открити. Међутим, ако се такве фотографије „каче” на интернет, у великој већини случајева то се ради анонимно или под псеудонимима и онда је тешко утврдити ко је извор – каже наша саговорница.

Наша саговорница из Центра за несталу и злостављану децу мишљења је да се злоупотреба фотографија на овај начин тешко може искоренити, не само у нашој земљи већ у читавом свету.

– Превенција злоупотребе вештачке интелигенције почиње образовањем и отвореном комуникацијом. Родитељи, наставници и сви други стручњаци који раде са децом треба да, након што се информишу, отворено разговарају са њима о овој појави. Без изазивања осећаја кривице, забрана и осуђивања, децу треба упознати са потенцијалним ризицима и последицама и важности поштовања приватности и достојанства других на интернету – закључује Тимеа Кукла.

У смрт због нагих фотографија

Почетком година једна четрнаестогодишња девојчица из Америке извршила је самоубиство зато што је њен друг из разреда уз помоћ вештачке интелигенције направио њену нагу фотографију и делио је. Уз објављену фотографију тражио је да они који је виде оцене бројевима од пет до десет њено тело.