Вештачка интелигенција може да покрене пандемију гору од короне
Научници широм света упозоравају да би савремени и тек надолазећи алати вештачке интелигенције могли да постану средство у рукама екстремиста за стварање потпуно новог биолошког оружја, чак и патогена који би имао потенцијал да изазове глобалну пандемију. Раније ове године водећи стручњаци за технологију, биосигурност и борбу против тероризма саставили су хипотетички сценарио пандемије изазване новим, намерно створеним сојем ентеровируса. Тај вирус, према симулацији, креирала би екстремистичка група користећи управо ВИ, преноси Euronews.
Симулација је била шокантна: процењено је да би фиктивна пандемија изазвала око 850 милиона заражених и чак 60 милиона смртних случајева широм света.
Иако звучи као заплет из научнофантастичног трилера, група од четрнаест врхунских специјалиста сматра да је овакав сценарио, у годинама које долазе, не само могућ, већ и вероватан. Извештаји о њиховим расправама назвали су овакву претњу „дубоко забрињавајућом“, а ситуацију хитном, у погледу глобалне акције спречавања.
Претње нису удаљена будућност
Вештачка интелигенција већ мења медицину, омогућавајући бржи развој лекова, персонализовану терапију и убрзано тестирање нових вакцина. Међутим, управо та моћ технологије отвара и мрачну страну приче: уз довољно знања и малициозних намера, ВИ може да помогне дизајнирање патогена који заобилазе имунитет, шире се брже или су отпорнији на постојеће третмане.
Стручна група коју су сазвали Иницијатива за нуклеарну претњу (NTI) и Минхенска безбедносна конференција упозорила је да се „баријере за развој биолошког оружја убрзано топе“, захваљујући томе што ВИ аутоматизује процесе који су раније захтевали огромна знања, лабораторије и ресурсе. Другим речима, нешто што је некада било доступно само државним лабораторијама, сада би, у теорији, могла да покуша да изведе мања организована група.
„Ове претње више нису удаљена будућност“, стоји у закључцима. Тренутне биосигурносне мере описане су као „недовољно јаке“ и „опасно неприпремљене“ за потенцијал ВИ-генерисаних патогена.
ВИ чувари
Зато је упућен позив међународним политичким лидерима за формирање глобалног оквира за процену и управљање биолошким ризицима које доноси ВИ, као и за јачање лабораторијске безбедности, праћење сумњивих активности и ограничавање приступа најнапреднијим биотехнолошким алатима.
Стручњаци, такође, наглашавају да све мере морају пажљиво да се уравнотеже како не би кочиле научни напредак, јер иста та технологија која може да буде злоупотребљена, има и потенцијал да спасе милионе живота.
Поједини аналитичари већ упозоравају да ће се у будућности национална безбедност мерити и способношћу неке земље да контролише и надзире развој биотехнологије. Све више ће се говорити и о потреби за „ВИ чуварима“, алгоритмима који би надзирали друге алгоритме и спречавали генерисање опасних биолошких упутстава.
И док научници инсистирају да не треба ширити панику, све је више оних који упозоравају да је време да се свет припреми за нову еру безбедносних ризика, преноси Canada News.
Ново оружје за шест сати
Нова истраживања наглашавају колико лако модели вештачке интелигенције могу да се тренирају за злонамерне сврхе, посебно у овом случају за замишљање дизајна хипотетичких агенаса биолошког оружја.
Пробно тестирање са постојећом вештачком интелигенцијом идентификовало је 40.000 таквих хемикалија биолошког оружја у року од само шест сати. Другим речима, док вештачка интелигенција може да буде невероватно моћна и много бржа од људи када је у питању откривање хемијских комбинација и једињења лекова за побољшање нашег здравља, иста моћ се може користити за смишљање потенцијално веома опасних и смртоносних супстанци.
„Деценијама смо користили рачунаре и вештачку интелигенцију за побољшање људског здравља, а не за његово погоршање“, пишу истраживачи у новом коментару.
„Били смо наивни размишљајући о потенцијалној злоупотреби нашег заната, јер је наш циљ увек био да избегнемо молекуларне карактеристике које би могле да ометају многе различите класе протеина неопходних за људски живот.“
Тим је спровео тестирање на међународној конференцији о безбедности, пуштајући у рад систем вештачке интелигенције под називом MegaSyn – не у његовом нормалном режиму рада, који треба да детектује токсичност у молекулима како би их избегао, већ да ради супротно.
У експерименту, токсични молекули су задржани, а не елиминисани. Штавише, модел је, такође, обучен да спаја ове молекуле у комбинације – тако је генерисано много хипотетичког биолошког оружја за веома кратко време.
Конкретно, истраживачи су тренирали вештачку интелигенцију молекулима у базама података молекула сличних лековима, наводећи их да би желели нешто слично снажном нервном агенсу VX. Испоставило се да су многа генерисана једињења била још токсичнија од VX.
Као резултат тога, аутори који стоје иза нове студије држе неке од детаља свог истраживања у тајности, и озбиљно су расправљали о томе да ли да уопште објаве ове резултате.
„Трансформисали смо наш безопасни генеративни модел из корисног алата медицине у генератор вероватно смртоносних молекула“, објашњавају истраживачи.
У интервјуу за The Verge, Фабио Урбина, главни аутор новог рада и виши научник у Collaborations Pharmaceuticals, где је истраживање спроведено, објаснио је да није потребно много да се „пребаци прекидач“ са добре на лошу вештачку интелигенцију. Иако ниједно од наведених биолошког оружја заправо није истражено или састављено у лабораторији, истраживачи кажу да њихов експеримент служи као упозорење на опасности вештачке интелигенције.
Подели ову вест
Комeнтар успeшно додат!
Ваш комeнтар ћe бити видљив чим га администратор одобри.
