Nova pravila za novu vrstu obmane

Razvoj veštačke inteligencije sve češće se opisuje kroz pitanja produktivnosti, obrazovanja, privrede i tehnološkog napretka. Mnogo ređe se o njoj govori kao o izazovu za pravo. A upravo će pravo u narednim godinama morati da odgovori na jedno od najosetljivijih pitanja digitalnog doba: šta se dešava kada se identitet čoveka može uverljivo imitirati, a poverenje zloupotrebiti brže nego što institucije mogu da reaguju.

Srbiji je potrebna ozbiljna rasprava o zakonskoj regulaciji prevara koje se izvode uz pomoć veštačke inteligencije. Ne zato što je svaka nova tehnologija opasnost, niti zato što razvoj treba zaustavljati propisima. Naprotiv, veštačka inteligencija može doneti koristi u medicini, nauci, privredi, javnoj upravi i svakodnevnom životu. Ali baš zato što će postati deo redovnog života, njena zloupotreba mora biti jasno prepoznata.

Pravo se često kreće sporije od tehnologije. To nije neobično. Zakoni nastaju kroz procedure, rasprave i institucionalnu proveru, dok se tehnološke promene šire gotovo trenutno. Ipak, postoji granica posle koje kašnjenje prava više nije samo administrativni problem, već rizik za građane i privredu.

Ta granica se danas približava.

Do sada je veliki deo javnosti digitalne prevare povezivao sa sumnjivim porukama, lažnim linkovima, nepoznatim brojevima telefona ili internet stranicama koje pokušavaju da liče na stranice banaka i poznatih kompanija. Takve prevare i dalje postoje. Ali novi problem je u tome što obmana postaje sve uverljivija. Ona više ne mora biti gruba, nepismena ili lako prepoznatljiva. Može biti jezički ispravna, vizuelno uverljiva, prilagođena konkretnoj osobi i smeštena u kontekst koji deluje stvarno.

Kada se tome doda mogućnost imitacije glasa, lika, stila pisanja ili poslovne komunikacije, onda više nije reč samo o klasičnoj internet prevari. Reč je o dubljem udaru na poverenje.

Poverenje je jedan od temelja svakog uređenog društva. Građanin mora da veruje da zaista razgovara s bankom kada dobije službeno obaveštenje. Zaposleni mora da zna da nalog koji dobija zaista dolazi od nadređenog. Roditelj mora da može da prepozna glas svog deteta. Preduzetnik mora da bude siguran da komunicira sa stvarnim poslovnim partnerom. Ako se ti signali mogu veštački proizvesti i zloupotrebiti, onda se pred pravom postavlja nov zadatak.

Taj zadatak nije samo da kazni počinioca kada je šteta već nastala. Zadatak je da unapred postavi pravila, odgovornosti i postupke koji će takve zloupotrebe učiniti težim, rizičnijim i brže zaustavljivim.

Srbija ima zakonske odredbe koje se mogu primeniti na različite oblike prevare i računarskog kriminala. Međutim, upotreba veštačke inteligencije u svrhu obmane otvara pitanja koja nisu dovoljno precizno obuhvaćena. Da li je imitacija tuđeg glasa radi izvlačenja novca samo jedan oblik prevare ili posebno težak oblik zloupotrebe identiteta? Da li je lažni snimak napravljen radi poslovne obmane isto što i običan lažni dokument? Kako se dokazuje da je sadržaj veštački stvoren ili izmenjen? Ko je dužan da brzo reaguje kad se prevara prijavi?

Na ova pitanja ne treba čekati odgovor tek kada se dogodi veliki slučaj.

Srbiji nije neophodno da mehanički prepiše tuđi zakon. Ali može da uči iz iskustava drugih. Evropska unija je u svojim pravilima o veštačkoj inteligenciji snažno naglasila pitanje transparentnosti, odnosno potrebu da korisnik zna kada ima posla s veštački stvorenim ili izmenjenim sadržajem. Velika Britanija je u regulisanju bezbednosti na internetu više pažnje usmerila na ulogu platformi i rizik da se njihove usluge koriste za nezakonite aktivnosti i prevarno oglašavanje. Singapur je posebno istakao brzinu reakcije države kad se digitalni kanali koriste za kriminal.

Ovi pristupi nisu isti, ali pokazuju zajedničku stvar: savremena digitalna prevara ne može se tretirati kao sporedna pojava koju će građanin sam prepoznati ako bude dovoljno pažljiv. Potreban je sistem.

Taj sistem u Srbiji bi morao da počne od jasnog pravnog imenovanja problema. Upotreba veštačke inteligencije za lažno predstavljanje, pribavljanje novca, iznudu podataka ili manipulaciju poslovnim odlukama treba da bude prepoznata kao posebno opasan oblik obmane. Nije isto kada neko pošalje lažnu poruku i kada verno imitira glas, lik ili stil komunikacije osobe kojoj žrtva veruje. U drugom slučaju zloupotrebljava se ne samo nepažnja, već sam mehanizam poverenja.

Zatim treba urediti pitanje digitalnog identiteta. U klasičnom pravnom smislu identitet se vezuje za ime, dokument, potpis i lične podatke. U digitalnom životu identitet je mnogo širi. On obuhvata elektronsku adresu, nalog, fotografiju, glas, snimak, način komunikacije, pa čak i kontekst u kojem se poruka pojavljuje. Ako se sve to može tehnološki kopirati, pravo mora da proširi način na koji štiti lični i poslovni identitet.

Posebno je važno pitanje brzine. Kod klasičnih postupaka često je moguće naknadno prikupljati dokumentaciju, svedočenja i dokaze. Kod digitalne prevare tragovi nestaju brzo. Lažni nalog može biti ugašen, broj telefona promenjen, stranica uklonjena, novac prebačen dalje, a poruke izbrisane. Zato postupak mora biti osmišljen tako da prvi sati posle prijave imaju stvarni značaj.

Građanin koji prijavi prevaru ne bi smeo da bude upućivan od jedne institucije do druge bez jasnog odgovora. Mora da postoji poznat put postupanja: gde se prijavljuje, ko čuva dokaze, ko obaveštava banku, ko kontaktira operatera ili platformu, ko procenjuje da li postoji osnov za hitno blokiranje kanala preko kojeg se prevara širi. Bez takvog mehanizma, i najbolje krivične odredbe deluju prekasno.

U tom okviru mora se pažljivo urediti i uloga privatnih aktera. Banke, telekomunikacioni operateri, platforme i pružaoci digitalnih usluga ne mogu biti odgovorni za svaku prevaru koja se pokuša preko njihovih kanala. Ali kad se zloupotreba prijavi, oni moraju imati jasne obaveze saradnje, čuvanja podataka i postupanja u određenim rokovima. Zaštita građana ne može zavisiti od dobre volje ili različite prakse svake pojedinačne kompanije.

Jednako je važno da regulacija ne ode u drugu krajnost. Borba protiv prevara ne sme postati izgovor za prekomerni nadzor, nejasna ovlašćenja ili ograničenje zakonite komunikacije. Upravo zato zakon mora biti precizan. Treba da cilja zloupotrebu, a ne tehnologiju kao takvu. Treba da štiti građane, ali i prava na privatnost, slobodu izražavanja i pravnu sigurnost.

Takva ravnoteža nije jednostavna, ali je neophodna.

Problem prevara uz pomoć veštačke inteligencije posebno pogađa male privredne subjekte. Veliki sistemi imaju procedure, pravne timove i službe bezbednosti. Mala preduzeća često nemaju tu vrstu zaštite. Njihovo poslovanje počiva na brzoj komunikaciji, ličnom poverenju i ograničenim resursima. Zato ih jedna uverljiva lažna faktura, poruka koja izgleda kao nalog direktora ili obaveštenje o promeni računa za uplatu, može dovesti u ozbiljan problem.

Isto važi i za građane. U javnosti se žrtve prevara često nepravedno posmatraju kao lakoverne. To je pogrešno i opasno. Savremena obmana nije usmerena samo na neznanje, već na emociju, strah, naviku, poverenje i pritisak vremena. Čovek ne greši uvek zato što ne zna, već zato što je doveden u situaciju da mora da reaguje brzo, dok mu sve deluje uverljivo.

Zato država ne sme svoju ulogu svesti na savet: budite oprezni. Taj savet je potreban, ali nije dovoljan. Građanima treba jasna procedura, brza institucionalna reakcija i sigurnost da prijava ima smisla. U suprotnom, mnogi će ćutati iz stida ili uverenja da se ništa ne može učiniti. A tišina je prostor u kojem prevaranti najlakše nastavljaju da rade.

Zakonski okvir treba da bude praćen stalnom edukacijom. Ne kampanjom koja traje nekoliko dana, već trajnim javnim objašnjavanjem novih rizika. Građani treba da znaju da glas više nije uvek dokaz identiteta, da službeni izgled poruke nije dokaz njene verodostojnosti i da hitnost često predstavlja sredstvo manipulacije. Firme treba da imaju jednostavna pravila provere plaćanja i promena računa. Institucije treba da govore jezikom koji ljudi razumeju.

Srbiji je potrebna rasprava u kojoj će učestvovati pravnici, stručnjaci za informacionu bezbednost, bankarski sektor, telekomunikacioni operateri, predstavnici privrede, policija, tužilaštvo i organizacije koje se bave zaštitom građana. Ovo nije usko tehničko pitanje. Ovo je pitanje poverenja u digitalni poredak.

*Specijalista za sajber-bezbednost

Prilozi objavljeni u rubrici „Pogledi” odražavaju stavove autora, ne uvek i uređivačku politiku lista