Trampova administracija uvodi bezbednosne provere za veštačku inteligenciju

Trampova administracija potpisala je ove nedelje ključne sporazume sa kompanijama Gugl Dipmajnd, Majkrosoft i iksAI o sprovođenju vladinih bezbednosnih provera njihovih najnaprednijih modela veštačke inteligencije, pre i nakon njihovog objavljivanja, piše Ars Tehnika.

Ovaj potez označava značajnu promenu u odnosu na prethodni stav predsednika Donalda Trampa, koji je ranije kritikovao restriktivne bezbednosne protokole kao prepreku inovacijama. Ubrzo nakon preuzimanja dužnosti, njegova administracija je preimenovala američki „Institut za bezbednost veštačke inteligencije” u „Centar za standarde i inovacije veštačke inteligencije” (CAISI).

Do promene pristupa dolazi nakon upozorenja kompanije Antropik da bi puštanje njihovog najnovijeg modela Klod Mitos moglo da bude rizično zbog naprednih sajber-bezbednosnih mogućnosti koje bi mogli da zloupotrebe zlonamerni akteri.

Prema rečima direktora Nacionalnog ekonomskog saveta Bele kuće, Kevina Haseta, administracija razmatra donošenje izvršne naredbe kojom bi testiranje naprednih sistema postalo obavezno.

Direktor CAISI-ja, Kris Fol, izjavio je da je rigorozna i nezavisna provera neophodna za razumevanje implikacija koje napredna veštačka inteligencija ima po nacionalnu bezbednost. Centar je do sada obavio oko 40 evaluacija, uključujući i modele koji još nisu dostupni javnosti, uz poseban fokus na rizike koji se javljaju kada se uklone standardni zaštitni mehanizmi.

Dok su predstavnici industrije, poput potpredsednika Gugl Dipmajnda Toma Lua, pozdravili planove za testiranje, deo javnosti izražava sumnju. Kritičari upozoravaju da CAISI trenutno možda ne raspolaže dovoljnim sredstvima ili stručnim kadrom za adekvatnu procenu najsloženijih modela. Analiza konzervativnog instituta Amerika Frst Polisi sugeriše da je centar nedovoljno finansiran u odnosu na međunarodne standarde.

Dodatno pitanje koje stručnjaci postavljaju jeste definisanje samih standarda testiranja. Sara Kreps, direktorka „Instituta za tehnološku politiku” na Univerzitetu Kornel, naglašava da bez jasno utvrđenih kriterijuma proces provere može da postane podložan političkim uticajima. Slično upozorenje uputio je i profesor Gregori Falko, koji se zalaže za formiranje nezavisnog revizorskog tela, nalik poreskoj upravi, koje bi vršilo nadzor bez političkog uplitanja.

Dok kompanije poput Majkrosofta ističu važnost saradnje države i privatnog sektora na razvoju bezbednosnih metodologija, konsultantkinja za upravljanje VI sistemima Ruman Čoudri upozorava da bi evaluacije morale da budu zasnovane na podacima, a ne na političkim interpretacijama.

Kako se trka u razvoju veštačke inteligencije ubrzava, uspostavljanje balansa između tehnološkog napretka i javne bezbednosti ostaje jedan od najvećih izazova za aktuelnu administraciju u Vašingtonu.