Utorak, 25.01.2022. ✝ Verski kalendar € Kursna lista

Rezervacija u restoranu otkrila mračnu stranu veštačke inteligencije

(Pixabay)

Veštačka inteligencija može da ima svoju mračnu stranu, i to ne zato što joj je to namenio čovek koji je osmislio, već ugrađeni algoritmi mogu da je stvore. To je otkrio jedan Srbin, kog je „Forbs“ svrstao među najperspektivnije mlade IT stručnjake, prenosi Sputnjik.

Londonska kompanija „PoliAI“ bavi se veštačkim glasovima koji zamenjuju operatere u kol centrima, a među klijentima su im neke od poznatih britanskih kompanija. Ideja je da u kol centrima na pozive odgovara veštačka inteligencija, uz pomoć mašinskog učenja, pa se tako, na primer, može rezervisati sto u restoranu pozivom na koji se javlja računar, a ne čovek. Međutim, upravo na tom primeru otkriveno je kako algoritam može da dovede i do mračne strane veštačke inteligencije.

Osnivač kompanije „PoliAI“ Nikola Mrkšić, Beograđanin koji živi u Londonu, priča da je tokom testiranja softvera za rezervacije u restoranu, na poziv u kom je rečeno da bi gost hteo da dođe „sa svojim srpskim prijateljem“, mašina iznenađujuće počela grubo da se šali, rekavši kako je to moguće i da „deca mogu da uđu u restoran“, sugerišući kako su Srbi nezreli. Kada je u novom testu rečeno da će gost doći sa „poljskim prijateljem“, usledilo je novo iznenađenje - mašina je ponovo počela sa grubim šalama, govoreći da je rezervacija moguća „ali da ne smeju da unose svoje piće u restoran“. Te grube šale bile su iznenađenje za sve, jer mašina nije programirana da ih koristi.

Odmah zatim, promenjen je softver tako da mašina odgovara bez bilo kakvih reči osim onih koji se striktno odnose na temu, odnosno rezervaciju u restoranima.

Mrkšić kaže kako su takvi odgovori, zasnovani na uvredljivim stereotipima, bili iznenađenje i da nije jasno kako je mašina došla do njih, piše Blumberg.

(Pixabay)

Moguće je da je razlog tome što je mašina, kao i mnoge druge u industriji veštačke inteligencije, „trenirana“ kroz algoritam koji proučava milione razgovora na Reditu, popularnom forumu, na kome je, kao i na drugim internet forumima, često moguće sresti se sa nacionalnim i drugim stereotipima i drugim primerima uvredljivog govora.

Otkriće ovog tima stručnjaka ukazalo je na obespokojavajući trend u veštačkoj inteligenciji, jer se ona razvija sa veoma malo etičkog nadzora. Radi se o samoregulišućoj industriji, koja, sa druge strane, zauzima sve veći prostor u našim životima, čime rastu i rizici, pa i onaj najveći - da veštačka inteligencija prevaziđe ljudsku, ističe „Blumberg“.

Sistemi veštačke inteligencije prodiru u sve više sfera. Tako su u 2021. popularni bili autonomna vozila i sajber-bezbednost, gde je bilo najviše investicija u sferi veštačke inteligencije. Prognoze su da su sledeća polja u koja će veštačka inteligencija ući analitika kreditiranja, otkrića lekova i prodaja i marketing.

Stručnjaci procenjuju da su troškovi uvođenja algoritama za investitore veoma jeftini i kroz dužu upotrebu praktično nepostojeći. Međutim, pitanje je koliki je to trošak za ljudsko blagostanje. I ako dizajneri softvera ne mogu jasno da odgovore kako botovi za komunikaciju mogu da smisle uvredljive šale, kako je onda moguće poveriti softveru da donosi životno važne odluke?

Jedan od odgovora je da se izgradi etički nadzor nad takvim sistemima, kao što su nezavisne komisije koje koriste pojedine vlade ili bolnice.

Pogotovo zbog toga što su istraživanja pokazala kako u IT firmama nema dovoljno ljudi zaduženih za bezbednost, a neke od njih razvijaju sisteme generalne veštačke inteligencije, koja bi mogla da prevaziđe ljude u mnogim kognitivnim sposobnostima.

Drugi odgovor je da u trenutnoj primeni, algoritmi veštačke inteligencije moraju da budu pažljivije pravljeni i da koriste jasne i potvrđene informacije. Neki projekti slični tome i sada postoje, ali su zasnovani na radu volontera, te je neophodno da i tehnološke kompanije, bile one male ili velike, ulože u to, piše „Blumberg“.

Komentari3
Molimo vas da sе u komеntarima držitе tеmе tеksta. Rеdakcija Politikе ONLINE zadržava pravo da – ukoliko ih procеni kao nеumеsnе - skrati ili nе objavi komеntarе koji sadržе osvrtе na nеčiju ličnost i privatan život, uvrеdе na račun autora tеksta i/ili članova rеdakcijе „Politikе“ kao i bilo kakvu prеtnju, nеpristojan rеčnik, govor mržnjе, rasnе i nacionalnе uvrеdе ili bilo kakav nеzakonit sadržaj. Komеntarе pisanе vеrzalom i linkovе na drugе sajtovе nе objavljujеmo. Politika ONLINE nеma nikakvu obavеzu obrazlaganja odluka vеzanih za skraćivanjе komеntara i njihovo objavljivanjе. Rеdakcija nе odgovara za stavovе čitalaca iznеsеnе u komеntarima. Vaš komеntar možе sadržati najvišе 1.000 pojеdinačnih karaktеra, i smatra sе da stе slanjеm komеntara potvrdili saglasnost sa gorе navеdеnim pravilima.
This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.

zoran stokic
Nisu im učitali Spinozine (Etica) moralne stavove: „ne mrzi nikoga, ne preziri nikoga, ne ljuti se ni na koga i ne zavidi nikome“! Nacionalna sebičnost, ali toliko proširena da postaje njena vrlina - u školama se predaje pod nazivom „patriotizam“. Prihvaćeno je da svaka gordost, svaka sujeta, pa i najgluplje hvalisanje postaje zakonito i časno, čim se pripiše narodu u kome se čovek potrudio da se rodi. Ono što se niko ne bi usudio reći o svom egu, on ima svetu dužnost da kaže o svojoj naciji.
Milanche
Hvala redakciji na zanimljivom tekstu. Pišite što više o nauci i razvoju veštačke inteligencije, koja je neverovatno potcenjena i još uvek slabo korišćena kod nas.
DjoleP
Moda zvana "veštačka inteligecija" treba da padne u realne okvire. Ti algoritmi koji "sami uče" su nepouzdani do te mere da će, kad tad, biti zaboravljeni. Mašina može da uradi ono što je jednostavno i ima tačno definisanu logiku, čak i efikasnije od čoveka. Ostalo - to je utopij (i lepa tema za "sveznalice" novinare).

Komentar uspešno dodat!

Vaš komentar će biti vidljiv čim ga administrator odobri.

Овај веб сајт користи колачиће

Сајт politika.rs користи колачиће у циљу унапређења услуга које пружа. Прикупљамо искључиво основне податке који су неопходни за прилагођавање садржаја и огласа, надзор рада сајта и апликације. Подаци о навикама и потребама корисника строго су заштићени. Даљим коришћењем сајта politika.rs подразумева се да сте сагласни са употребом колачића.