Digitalno svlačenje na internetu

„Skini devojku koju želiš! Uradi to odmah, besplatno je”, glasila je poruka koja je jednom četrnaestogodišnjem dečaku iskočila dok je gledao „Instagram”. Poruka mu je, kao većini dečaka u tom uzrastu, privukla pažnju, pa je odlučio da sledi dalja uputstva. Izabrao je fotografiju simpatije koju je želeo da vidi bez odeće, pritisnuo dugme i devojčica je bila potpuno naga.

Aplikacija koju je dečak koristio, ispostaviće se, jedna je od novijih na internetu i simbolično je nazvana „Undress AI”, što u prevodu znači skinuti. Timea Kukla iz Centra za nestalu i zlostavljanu decu objašnjava da je „Undress AI” alat koji koristi veštačku inteligenciju da digitalno ukloni odeću sa osoba na fotografijama.

– Ovaj alat analizira godine osobe sa fotografije, oblik tela, pozu i druge pojedinosti kako bi što vernije generisao nagu fotografiju. Rezultat mogu da budu hiperrealistične fotografije koje mogu da budu zloupotrebljene na različite načine. Prema izveštaju „Internet voč fondacije”, mesečno na dark- vebu, ali i regularnom internetu, osvane oko 20.000 ovakvih veštački generisanih fotografija. Ono što deca, a često i odrasli ne znaju, jeste da jednom generisane, ovakve fotografije kada se objave ili podele, više nisu u našem vlasništvu i ni na koji način ne možemo da kontrolišemo njihovu dalju distribuciju – objašnjava Kukla.

Prema njenim rečima, fotografije obrađene na ovakav način, a kasnije i podeljene, ne samo da izazivaju sramotu osobe koje su na njima već utiču i na njeno mentalno stanje i reputaciju, pa čak i na zaposlenje. Takođe, navodi naša sagovornica, postoji mogućnost da ovakve fotografije zloupotrebe pedofili koji na internetu prikupljaju fotografije dece.

„Undress AI” nije jedina aplikacija ove vrste. Prema rečima Mile Bajić iz Fondacije „Šer”, koja se bavi unapređivanjem ljudskih prava i sloboda u onlajn sferi, na dnevnom nivou se pojavi na stotine hiljada sličnih aplikacija.

– Sve one funkcionišu po sličnom šablonu. Potrebno je da se ubaci fotografija (u nekim slučajevima može i video) i aplikacija po svom kodu, generiše nagu fotografiju. Realističnost obrađene fotografije ili videa zavisi od sofisticiranosti softvera koji aplikacija koristi. Na kraju, uopšte nije važno koliko fotografija izgleda realistično. Uznemiravajuća je, pre svega, činjenica da postoji aplikacija koja može da ogoli bilo koju osobu i da se to radi bez njenog znanja – navodi Bajić.

Na pitanje od čega zavisi na kojoj internet stranici ili društvenoj mreži će se ovakve aplikacije reklamirati, naša sagovornica kaže da to zavisi od budžeta onih koje ih prave.

– Ovakve aplikacije možete da nađete na društvenim mrežama, ali i da jednostavno u pretraživaču ukucate „aplikacija za skidanje” – objašnjava Bajić.

Istraživanja i podaci kojima raspolaže Fondacija „Šer”, pokazuju da su, kada su u pitanju ovakve tehnologije, najugroženije osobe ženskog pola. Generisane fotografije, pokazuju istraživanja, koriste se u različite svrhe, a najčešće je to neka vrsta seksualnog uznemiravanja.

– Slučajevi zloupotreba fotografija na ovakav način se često ne prijavljuju, a da li je teško otkriti nekoga ko koristi aplikaciju zavisi od konkretnog slučaja. U velikoj meri otkrivanje zavisi od načina distribucije spornih fotografija. Ako ih, na primer, neko pravi, pa ih pokazuje preko svog mobilnog telefona, onda ga je poprilično lako otkriti. Međutim, ako se takve fotografije „kače” na internet, u velikoj većini slučajeva to se radi anonimno ili pod pseudonimima i onda je teško utvrditi ko je izvor – kaže naša sagovornica.

Naša sagovornica iz Centra za nestalu i zlostavljanu decu mišljenja je da se zloupotreba fotografija na ovaj način teško može iskoreniti, ne samo u našoj zemlji već u čitavom svetu.

– Prevencija zloupotrebe veštačke inteligencije počinje obrazovanjem i otvorenom komunikacijom. Roditelji, nastavnici i svi drugi stručnjaci koji rade sa decom treba da, nakon što se informišu, otvoreno razgovaraju sa njima o ovoj pojavi. Bez izazivanja osećaja krivice, zabrana i osuđivanja, decu treba upoznati sa potencijalnim rizicima i posledicama i važnosti poštovanja privatnosti i dostojanstva drugih na internetu – zaključuje Timea Kukla.

U smrt zbog nagih fotografija

Početkom godina jedna četrnaestogodišnja devojčica iz Amerike izvršila je samoubistvo zato što je njen drug iz razreda uz pomoć veštačke inteligencije napravio njenu nagu fotografiju i delio je. Uz objavljenu fotografiju tražio je da oni koji je vide ocene brojevima od pet do deset njeno telo.