Алгоритам не може да замени судију

Паметни алгоритми могу да саветују судију и пруже помоћ у поступку доношења судских одлука, али њихова употреба доводи у питање начела слободне оцене доказа и слободног судијског уверења, као и право на правично суђење.

– Слободно уверење суда односи се и на слободно расуђивање о доказном предлогу, односно које ће се доказне радње предузимати, како ће бити изведени докази и оцењена њихова вредност у конкретном случају – казала је др Ивана Миљуш, доцент Правног факултета Универзитета у Београду.

Говорећи о ризицима потенцијалне улоге вештачке интелигенције у поступку судског одлучивања, др Миљуш је на Копаоничкој школи природног права, у оквиру катедре „Право на слободу”, нагласила да је реч о савременим изазовима за кривични поступак, јер искуства из других земаља показују да се алгоритми вештачке интелигенције користе у правосуђу у облику алата за процену ризика од бекства, поновног вршења кривичних дела, али и као алат за прогнозирање исхода судских поступака.

– Софтвери вештачке интелигенције употребљавају се за пружање правних савета и за прикупљање и обраду доказа и припремање одлука. Студија на нивоу Савета Европе указује да границе између судијског и машинског одлучивања постају замагљене, што је изнедрило појам „полуаутоматизованих одлука”, које без адекватног нормативног уређења воде суштински аутоматизованим поступцима одлучивања. Зато је актуелно питање у којој мери је адекватно спровести дигиталну трансформацију правосуђа и користити у правосуђу вештачку интелигенцију – рекла је др Ивана Миљуш.

Када судије одмеравају врсту и висину казне, оне вреднују све олакшавајуће и отежавајуће околности у конкретном случају, а то представља, казала је др Миљуш, израз поверења правног система у здрав резон судија, њихово поштење и правичност, а постоји и могућност да се пресуда промени на основу правних лекова.

Навела је пример Македоније, које је имала законом регулисано математичко „бодовање” појединачних олакшавајућих и отежавајућих околности, али је Уставни суд Македоније укинуо тај закон. Судије су закључиле да је новинама македонског кривичног законодавства напуштен концепт судског одмеравања казне, које суд не врши по свом слободном убеђењу, већ по посебним правилима која су прописана оспореним законом.

Софистициране апликације пале су на тесту у Кини када је један возач осуђен због тога што се почешао по лицу. Наиме, камера за надзор саобраћаја, која користи вештачку интелигенцију, аутоматски је реаговала на возача аутомобила који је током вожње подигао руку да почеше своје лице. Добио је налог да плати новчану казну због прекршаја коришћења мобилног телефона током вожње и обавештен је да ће добити казнене бодове. Уз казнени налог му је достављена фотографија са камере, која га је усликала у тренутку када је положај његове руке био налик оном када држи мобилни телефон у пределу уха, али видно без мобилног телефона.

– Упоредо са формирањем великих база података, у Кини расте зебња да ће вештачка интелигенција постати „гиљотина судске расправе”, јер ће све зависити од креираног софтвера, док ће правна образложења, расправе и тумачења постати мање важне и судије ће губити гаранције слободне оцене доказа. Све то може довести до тога да машине постепено преузимају већи утицај на одлуку судије, што води избегавању судијске одговорности – објаснила је др Миљуш.

Нагласила је да бројна истраживања и експерименти указују да је вештачка интелигенција пристрасна, односно склона предрасудама, а судије роботи немају свест и не баве се етичким питањима.

– Улога вештачке интелигенције изазива велику забринутост правника из света науке и струке, јер носи потенцијал да ослаби судску власт и води потпуној деконструкцији суђења и давању приоритета технологији над правним расуђивањем и правом. Потенцијално крши уставно начело „судског монопола одлучивања”, које подразумева да судска власт припада судијама, које су независне и везане законом – навела је др Миљуш.

Паметни алгоритми не треба да прерасту у замену за судије, већ могу да буду само помоћно средство, а суд треба да оцени да ли ће прихватити препоруку вештачке интелигенције, уз поштовање претпоставке невиности и начела „ин дубио про рео” (у сумњи у корист окривљеног), као и другим захтевима права на правично суђење.

– Системи вештачке интелигенције потенцијално се развијају у правцу израде нацрта пресуде на основу утврђеног исхода система. Улога технолошког напретка треба да допуњава а не да замењује људску интелигенцију – казала је наша саговорница.

Сматра да је неопходно да се у нашем законодавству изричито ограничи и регулише употреба вештачке интелигенције у области правосуђа.

Компјутери елиминишу корупцију

Кина је најдаље отишла у примени дигиталних технологија и вештачке интелигенције у судским поступцима, па је развила и пројекат „Паметни суд” чији је циљ да се убрза решавање једноставних случајева, смањи број предмета по судијама и елиминишу корупција и пристрасност у правосуђу. То је ишло дотле да су се „онлајн” суђења одвијала чак и на друштвеним мрежама, а „машинске” пресуде доношене су у великом броју спорова у вези са ауторским правима и прекршајима у „онлајн” трговини. То је довело и до погрешних одлука.

Помоћ у одлукама о притвору и јемству

У САД алгоритми помажу судијама када доносе одлуке о притвору и јемству, али и о пуштању на условни отпуст. Рачунарски програм може да процени колики је ризик да ће окривљени поново учинити кривично дело. Алгоритам „анализира” пресуде које су похрањене у великој бази података и проналази случај који је „најсличнији”.

– На овај начин одлуке суда би се усклађивале са „трендовима” судске праксе које је извукао алгоритам, што дубоко подрива континентално-европске правосудне системе, у којима судска пракса није извор права и не познаје концепт судског прецедента. Рад алгоритама обухвата посебну математичку процедуру која од скупа података долази до жељеног резултата – казала је др Миљуш.