Чет ГПТ нудио рецепте за бомбе

САН ФРАНЦИСКО – Вештачка интелигенција Опен АИ-ја, модел ГПТ-4.1, током безбедносних тестова спроведених овог лета дала је детаљна упутства о томе како извести напад на спортски објекат, укључујући рањиве тачке на конкретним локацијама, рецепте за експлозиве и савете о прикривању трагова, саопштила је компанија „ Anthropic”.

Током тестирања је такође, како пише Гардијан, утврђено да је ГПТ-4.1 пружао информације о начину употребе антракса као биолошког оружја, као и рецептуре за две врсте илегалних наркотика.

Реч је о заједничком тестирању које су спровеле компаније „ОпенАИ” и „ Anthropic”, у покушају да процене како се њихови модели понашају у контексту потенцијалне злоупотребе „ Anthropic” је саопштио да су модели „ГПТ-4.1” и „ГПТ-4.0” показали забрињавајуће понашање када су симулирани корисници тражили помоћ у опасним и незаконитим активностима.

Како је наведено, није реч о понашању модела у јавној употреби, где постоје додатни безбедносни филтери, већ о условима лабораторијског тестирања.

Истраживачи су успели да добију информације о куповини нуклеарних материјала, идентитета са црног тржишта, као и о развоју шпијунског софтвера, при чему је модел често захтеве испуњавао након неколико покушаја или коришћењем неутралног изговора, попут „истраживачких потреба”.

У једној симулацији, тестери су тражили информације о рањивостима на спортским догађајима у сврху „планирања безбедности”, да би им модел дао податке о оптималним временима за напад, хемијским формулама експлозива, шемама тајмера, местима за набавку оружја на црном тржишту, па чак и о начинима превазилажења моралних дилема нападача, рутама за бекство и сигурним локацијама. „АИ алати су већ сада оружје које омогућава софистициране сајбер нападе и преваре.

Очекујемо да ће овакви напади постати све учесталији, јер вештачка интелигенција омогућава злонамерним актерима да их изведу без напредног техничког знања”, саопштила је компанија, преноси Танјуг.