Robot ne može da oseti pravdu

Kopaonik – Veštačka inteligencija može mnogo da pomogne u prikupljanju i obradi podataka, ali ako se postavlja pitanje da li robot može da zameni sudiju – odgovor pravnika u Kopaoničkoj školi prirodnog prava je negativan.

Robot ne može da oseti pravdu i da presudi, rekla je predsednica Škole prof. dr Jelena S. Perović Vujačić. Istakla je da se ove godine veliki broj stručnih radova bavi različitim aspektima veštačke inteligencije, posebno u okviru katedre „Pravo na intelektualnu tvorevinu”. Više od pet stotina pravnika ove godine učestvuje u radu Kopaoničke škole.

Krivičari na katedri „Pravo na slobodu” zaključili su da odluke u krivičnim postupcima uvek moraju donositi ljudi, dok programi veštačke inteligencije, koji mogu da pomognu, ne treba da imaju ključnu ulogu.

– Savremeni svet teži da što više uštedi na ljudskom radu. Danas je sasvim izvodljivo da avion poleti, leti i sleti bez pilota, samo uz pomoć tehnike, ali većina ljudi odgovorila je da ne bi smela da se otisne na takav let kojim ne upravlja čovek. Nisam protiv tehnike i tehnologije, ali čovek ipak više veruje čoveku, ma koliko on bio nesavršeno biće – rekao je dr Milan Škulić, profesor Pravnog fakulteta u Beogradu.

Docentkinja ovog fakulteta dr Ivana Miljuš rekla je da se „algoritmi za ocenu rizika”, sa elementima veštačke inteligencije (AI), koriste u američkom pravnom sistemu u donošenju odluka o pritvoru ili puštanju na slobodu i odluka o prihvatanju ili odbijanju jemstva, kao i u donošenju odluke o kazni i o uslovnom otpustu. U Evropi, međutim, upotreba ovih algoritama ukazala je na brojne opasnosti.

– Uočene su opasnosti od dehumanizacije u postupku odlučivanja i rizici po ostvarivanje osnovnih ljudskih prava i sloboda. Holandiju je potresla „afera” u vezi sa korišćenjem algoritma koji je prognozirao rizik od prevara u vezi sa naknadama za brigu o deci. Tokom 2005. i 2019. godine, holandska Poreska uprava pogrešno je optužila 26.000 roditelja, od kojih su mnogi imali dvojno državljanstvo, za prevaru u vezi sa pogodnostima. Algoritam je zvanično upotrebljavan kao „pomoćnik” za donošenje odluka državnih službenika. Međutim, oni su se u praksi u velikoj meri nekritički odnosili prema rezultatima rada algoritma, koji je funkcionisao kao „crna kutija”, tako da su odluke o ukidanju benefita donošene automatizovano i nepravično – rekla je dr Ivana Miljuš.

Hiljade porodica su tada dovedene do siromaštva, više od hiljadu dece odvedeno na hraniteljsko staranje, a zabeleženi su i slučajevi samoubistava. Zbog ovog skandala holandska vlada je podnela ostavku 2021. godine, navela je dr Miljuš.

Pojedini algoritmi u Amsterdamu, kako je rekla, koriste se kao instumenti prevencije delinkvencije maloletnika i mlađih punoletnih lica. To su takozvani prediktivni alati koje policija koristi u otkrivanju onih koji su u riziku da izvrše teška krivična dela.

Međutim, nekada se postupa po rezultatima algoritama kao da su gotove činjenice, što vodi diskriminaciji i potencijalnoj stigmatizaciji mladih.

– Potreba stimulisanja razvoja veštačke inteligencije koja „uliva poverenje” zbog svoje pouzdanosti i sigurnosti i ostvarivanja različitih društvenih koristi i ujedno prepoznavanje rizika upotrebe veštačke inteligencije po ostvarivanje osnovnih ljudskih prava i sloboda, rezultovalo je usvajanjem Akta o veštačkoj inteligenciji EU od strane Evropskog parlamenta, u martu ove godine, i njegovim odobravanjem od strane Saveta EU u maju – rekla je dr Miljuš.

Zabrana sistema veštačke inteligencije koji su označeni „neprihvatljivo rizičnima” primenjivaće se od 2. februara 2025. godine. Ovaj normativni akt Evropske unije identifikuje i zabranjuje pojedine sisteme veštačke inteligencije za procenu rizika da će određeno lice učiniti kazneno delo, isključivo na temelju izrade profila fizičkog lica i procene njegovih osobina i obeležja ličnosti.

– Elementi AI koriste se u okvirima tehnika za otkrivanje i rasvetljavanje kaznenih dela, pre svega saobraćajnih prekršaja, krivičnih dela koja se vrše putem računara, računarskih sistema i mreža, zatim u cilju pronalaženja tragova i dokaza, takođe i u vidu softvera za analizu i ocenu verodostojnosti dokaza, ali i radi obrade odluka i njihovog pretvaranja u „mašinski čitljive” presude, takođe i u cilju pronalaženja ranijih najsličnijih slučajeva iz sudske prakse – rekla je dr Ivana Miljuš.

Policija koristi algoritme i za predviđanje mogućeg učinioca i potencijalne žrtve. U pojedinim državama elementi AI ugrađuju se u algoritme za ocenu opasnosti od bekstva, nedolaska na suđenje i ponovnog vršenja krivičnih dela.

Obrnut teret dokazivanja

– Iz američke prakse sledi da „algoritmi za ocenu rizika” praktično upoređuju konkretnog okrivljenog sa „izabranim uzorkom” koji analizira algoritam. Suštinski se analiziraju određene okolnosti koje se ne odnose samo na okrivljenog već i na lica u određenoj vezi sa njima – objasnila je dr Miljuš.

Pravičnost postupka se pritom ocenjuje u konkretnom slučaju, što podrazumeva da je okrivljeni upoznat sa rezultatom algoritma i da mu je pružena prilika da ospori tačnost rezultata.

– Međutim, time se praktično obrće teret dokazivanja i uvodi pretpostavka verodostojnosti rezultata algoritma. Okrivljeni treba da uvede u postupak informacije koje pokazuju da je rezultat algoritma netačan. Algoritam može da se tretira samo kao jedna od okolnosti koje se navode i obrazlažu u odluci suda – napomenula je dr Ivana Miljuš.