Naučnici širom sveta upozoravaju da bi savremeni i tek nadolazeći alati veštačke inteligencije mogli da postanu sredstvo u rukama ekstremista za stvaranje potpuno novog biološkog oružja, čak i patogena koji bi imao potencijal da izazove globalnu pandemiju.     Ranije ove godine vodeći stručnjaci za tehnologiju, biosigurnost i borbu protiv terorizma sastavili su hipotetički scenario pandemije izazvane novim, namerno stvorenim sojem enterovirusa. Taj virus, prema simulaciji, kreirala bi ekstremistička grupa koristeći upravo VI, prenosi Euronews.

Simulacija je bila šokantna: procenjeno je da bi fiktivna pandemija izazvala oko 850 miliona zaraženih i čak 60 miliona smrtnih slučajeva širom sveta.

Iako zvuči kao zaplet iz naučnofantastičnog trilera, grupa od četrnaest vrhunskih specijalista smatra da je ovakav scenario, u godinama koje dolaze, ne samo moguć, već i verovatan. Izveštaji o njihovim raspravama nazvali su ovakvu pretnju „duboko zabrinjavajućom“, a situaciju hitnom, u pogledu globalne akcije sprečavanja.

Pretnje nisu udaljena budućnost

Veštačka inteligencija već menja medicinu, omogućavajući brži razvoj lekova, personalizovanu terapiju i ubrzano testiranje novih vakcina. Međutim, upravo ta moć tehnologije otvara i mračnu stranu priče: uz dovoljno znanja i malicioznih namera, VI može da pomogne dizajniranje patogena koji zaobilaze imunitet, šire se brže ili su otporniji na postojeće tretmane.

Stručna grupa koju su sazvali Inicijativa za nuklearnu pretnju (NTI) i Minhenska bezbednosna konferencija upozorila je da se „barijere za razvoj biološkog oružja ubrzano tope“, zahvaljujući tome što VI automatizuje procese koji su ranije zahtevali ogromna znanja, laboratorije i resurse. Drugim rečima, nešto što je nekada bilo dostupno samo državnim laboratorijama, sada bi, u teoriji, mogla da pokuša da izvede manja organizovana grupa.

„Ove pretnje više nisu udaljena budućnost“, stoji u zaključcima. Trenutne biosigurnosne mere opisane su kao „nedovoljno jake“ i „opasno nepripremljene“ za potencijal VI-generisanih patogena.

VI čuvari

Zato je upućen poziv međunarodnim političkim liderima za formiranje globalnog okvira za procenu i upravljanje biološkim rizicima koje donosi VI, kao i za jačanje laboratorijske bezbednosti, praćenje sumnjivih aktivnosti i ograničavanje pristupa najnaprednijim biotehnološkim alatima.

Stručnjaci, takođe, naglašavaju da sve mere moraju pažljivo da se uravnoteže kako ne bi kočile naučni napredak, jer ista ta tehnologija koja može da bude zloupotrebljena, ima i potencijal da spase milione života.

Pojedini analitičari već upozoravaju da će se u budućnosti nacionalna bezbednost meriti i sposobnošću neke zemlje da kontroliše i nadzire razvoj biotehnologije. Sve više će se govoriti i o potrebi za „VI čuvarima“, algoritmima koji bi nadzirali druge algoritme i sprečavali generisanje opasnih bioloških uputstava.

I dok naučnici insistiraju da ne treba širiti paniku, sve je više onih koji upozoravaju da je vreme da se svet pripremi za novu eru bezbednosnih rizika, prenosi Canada News.

Novo oružje za šest sati

Nova istraživanja naglašavaju koliko lako modeli veštačke inteligencije mogu da se treniraju za zlonamerne svrhe, posebno u ovom slučaju za zamišljanje dizajna hipotetičkih agenasa biološkog oružja.

Probno testiranje sa postojećom veštačkom inteligencijom identifikovalo je 40.000 takvih hemikalija biološkog oružja u roku od samo šest sati. Drugim rečima, dok veštačka inteligencija može da bude neverovatno moćna i mnogo brža od ljudi kada je u pitanju otkrivanje hemijskih kombinacija i jedinjenja lekova za poboljšanje našeg zdravlja, ista moć se može koristiti za smišljanje potencijalno veoma opasnih i smrtonosnih supstanci.

„Decenijama smo koristili računare i veštačku inteligenciju za poboljšanje ljudskog zdravlja, a ne za njegovo pogoršanje“, pišu istraživači u novom komentaru.

„Bili smo naivni razmišljajući o potencijalnoj zloupotrebi našeg zanata, jer je naš cilj uvek bio da izbegnemo molekularne karakteristike koje bi mogle da ometaju mnoge različite klase proteina neophodnih za ljudski život.“

Tim je sproveo testiranje na međunarodnoj konferenciji o bezbednosti, puštajući u rad sistem veštačke inteligencije pod nazivom MegaSyn – ne u njegovom normalnom režimu rada, koji treba da detektuje toksičnost u molekulima kako bi ih izbegao, već da radi suprotno.

U eksperimentu, toksični molekuli su zadržani, a ne eliminisani. Štaviše, model je, takođe, obučen da spaja ove molekule u kombinacije – tako je generisano mnogo hipotetičkog biološkog oružja za veoma kratko vreme.

Konkretno, istraživači su trenirali veštačku inteligenciju molekulima u bazama podataka molekula sličnih lekovima, navodeći ih da bi želeli nešto slično snažnom nervnom agensu VX. Ispostavilo se da su mnoga generisana jedinjenja bila još toksičnija od VX.

Kao rezultat toga, autori koji stoje iza nove studije drže neke od detalja svog istraživanja u tajnosti, i ozbiljno su raspravljali o tome da li da uopšte objave ove rezultate.

„Transformisali smo naš bezopasni generativni model iz korisnog alata medicine u generator verovatno smrtonosnih molekula“, objašnjavaju istraživači.

U intervjuu za The Verge, Fabio Urbina, glavni autor novog rada i viši naučnik u Collaborations Pharmaceuticals, gde je istraživanje sprovedeno, objasnio je da nije potrebno mnogo da se „prebaci prekidač“ sa dobre na lošu veštačku inteligenciju. Iako nijedno od navedenih biološkog oružja zapravo nije istraženo ili sastavljeno u laboratoriji, istraživači kažu da njihov eksperiment služi kao upozorenje na opasnosti veštačke inteligencije.