Вештачка интелигенција краде и користи стварне фотографије деце

Активисти за људска права тврде да популарни скуп података за обуку вештачке интелигенције (ВИ) јесте „крађа и оружавање” лица бразилске деце без њиховог знања или сагласности. Више од 170 фотографија и личних података деце из Бразила је пренамењено скупом података отвореног кода без њиховог знања или сагласности и коришћено за обуку ВИ, тврди се у новом извештају који је објавио „Human Rights Watch”.

Нарушена приватност

Фотографије су извучене из садржаја објављеног 2023. и средином деведесетих. „Human Rights Watch” тврди да је личне податке и фотографије ове деце прикупило складиште података „Common Crawl”, а УРЛ линкови који су повезани са њима укључени у „LAION-5B”, скуп података који помаже у обучавању података за ВИ стартапове.

‒ Њихова приватност је нарушена у првом случају када се њихова фотографија изгребе и убаци у ове скупове података. А онда се ови алати вештачке интелигенције обучавају на овим подацима и стога могу да створе реалистичне слике деце ‒ каже Хие Јунг Хан, истраживач дечјих права и технологије и истраживач који је пронашао ове слике, преноси „Wired”.

Како каже, технологија је развијена на такав начин да је свако дете које има било коју своју фотографију или видео на мрежи сада у опасности јер би сваки злонамерни актер могао да сними ту фотографију, а затим да користи ове алате да манипулише како год жели.

Скуп података направила немачка непрофитна организација

„LAION-5B” је заснован на спремишту података „Common Crawl” , које је креирано гребањем веба и стављено на располагање истраживачима, и коришћен је за обуку неколико ВИ модела, укључујући алат за генерисање слике „Stability AI’s Stable Diffusion”. Направљен од стране немачке непрофитне организације „LAION”, скуп података је отворено доступан и сада укључује везе до више од 5,85 милијарди парова слика и натписа, према њеној веб страници.

„LAION” каже да је уклонио везе до слика које је означио „Human Rights Watch”. Портпарол Нејтан Тајлер изјавио је да је организација већ предузела акцију.

‒ „LAION-5B” је уклоњен као одговор на извештај са Станфорда који је пронашао везе у скупу података које упућују на незаконит садржај на јавном вебу ‒ каже он, додајући да организација тренутно ради на томе да се уклоне све познате референце на незаконит садржај.”

Са Јутјуба, маминих и сличних блогова

Фотографије деце које су истраживачи пронашли потекле су са маминих блогова и других личних, породиљских или родитељских блогова, као и фотографије са јутјуб видео-снимака са малим бројем прегледа, које су наизглед отпремљене да би се поделиле са породицом и пријатељима.

‒ Само гледајући контекст где су објављени, уживали су у очекивању и мери приватности ‒ каже Хие и додаје да већину ових слика није било могуће пронаћи на мрежи путем обрнуте претраге слика.

Подаци садрже и материјал о сексуалном узнемиравању

У децембру су истраживачи са Универзитета „Станфорд” открили да подаци о обуци вештачке интелигенције које је прикупио „LAION-5B” садрже материјал о сексуалном злостављању деце. Проблем експлицитних дипфејкса је у порасту, чак и међу ученицима америчких школа, где су навикли да малтретирају другове из разреда, посебно девојчице. Хие се брине да би, осим коришћења дечјих фотографија, база података могла да открије потенцијално осетљиве информације, као што су локације или медицински подаци.

Дипфејк су синтетички медији у којима је особа на постојећој слици или видео-снимку замењена нечијим ликом. Иако чин креирања лажног садржаја није нов, дипфејк користи моћне технике од машинског учења и вештачке интелигенције за манипулисање или генерисање визуелног и аудио садржаја који може лакше заварати. Бразилско законодавство тренутно разматра законе који би регулисали стварање дипфејкова, а у САД, представница Александрија Окасио-Кортез из Њујорка је предложила закон који би омогућио људима да туже ако могу да докажу да је дипфејк налик на њих направљен без сагласности.