​Fejsbuk” otkrio kako uklanja teroristički sadržaj

Suočen sa sve većim pritiskom da momentalno uklanja terorističku propagandu, „Fejsbuk” je objavio šta sve preduzima u tom pravcu. U nizu tekstova na svom blogu, kompanija koja stoji iza najpopularnije onlajn društvene mreže objasnila je da, između ostalog, koristi veštačku inteligenciju da otkrije fotografije, snimke i tekstove neprimerene sadržine.

„Želimo da otkrijemo teroristički sadržaj u trenutku, pre nego što članovi zajednice mogu da ga vide”, rekli su u komentaru za Bi-Bi-Si.

Činjenica da Islamska država i slične grupe koriste moderne tehnologije da radikalizuju i regrutuju članove predstavlja veliki problem za tehnološke kompanije. Često su na meti kritika da su postale platforme na kojima se širi ekstremistička ideologija i podstiče na nasilje.

Vlade više zemalja poslednjih meseci su zahtevale ozbiljnije delovanje, a na evropskom nivou sve više se govori o propisima kojima bi se ova oblast regulisala. Početkom sedmice britanska premijerka i francuski predsednik u Parizu su pokrenuli zajedničku kampanju koja treba da spreči da internet postane utočište kriminalaca i terorista. Predloženo je, između ostalog, da se uvedu kazne za kompanije kada propuste da uklone neprimeren sadržaj.

Jedna od glavnih zamerki je to što se kompanije oslanjaju na korisnike da šalju prijave umesto da same deluju proaktivno.

„Fejsbuk” tvrdi da je rešen da nađe nove načine da otkriva i uklanja sporni materijal. Ranije je objavio da će zaposliti još 3.000 ljudi da pregledaju prijave. Takođe kažu da su sami otkrili polovinu naloga koje su obrisali zbog podrške terorizmu.

Sve više koriste i nove tehnologije koje pomažu u proaktivnom delovanju. Na primer, ako neko pokuša da objavi terorističku fotografiju ili snimak, sistem ih upoređuju sa ranijim poznatim ekstremističkim sadržajem i ako nađe podudarnost sprečiće da budu postavljene na mrežu.

U drugom segmentu koristi veštačku inteligenciju da prepozna tekst koji zagovara terorizam na osnovu mašinskog analiziranja ranije uklonjenog materijala. Algoritmima otkrivaju i grupe profila koji podržavaju ekstremiste. Sumnjiv je svaki nalog koji među prijateljima ima mnogo blokiranih zbog veze s terorizmom.

Zadatak nije jednostavan, u šta se uverio britanski novinar koji je registrovao lažni nalog i za nekoliko minuta uspeo je da pronađe propagandni materijal ID, uključujući snimke obezglavljivanja talaca. Kritičari kažu da s obzirom na veličinu „Fejsbuka” (dve milijarde korisnika) i ogromne prihode od reklama kompanija mora da nađe sredstva da se izbori sa problemom.

„Tehnologija će se razvijati kako se budu širile terorističke pretnje na internetu. Naša rešenja moraju da budu veoma dinamična”, rekla je za Bi-Bi-Si Monika Bikert, direktor za globalnu politiku u „Fejsbuku”.

Jedan od izazova biće kako da u automatizovanom procesu ne uklone materijal koji ima veze s terorizmom, ali ne predstavlja podršku. Na primer, novinske tekstove o propagandi Islamske države, koji možda sadrže njihove tekstove i slike.

Kompanija je formirala tim do 150 stručnjaka koji rade samo na kontraterorizmu, a u njemu su akademski stručnjaci, bivši tužioci, policajci, analitičari i inženjeri.

„Moramo da imamo stručne ljude. Kompjutere koristimo tamo gde su kompjuteri najbolji, a ljude za ono što ljudi najbolje rade”, rekla je predstavnica „Fejsbuka”.