Stotine miliona ljudi svakodnevno se oslanjaju na četbotove pokretane veštačkom inteligencijom kao izvor informacija, od rezultata izbora do vesti. Svake nedelje 800 miliona ljudi širom sveta koristi ChatGPT, a za mnoge su takvi digitalni asistenti već postali zamena za Google.

Novo istraživanje Evropske radiodifuzne unije (EBU), međutim, pokazuje da je takvo poverenje izuzetno rizično, piše DW. Udruženje 68 javnih emitera iz 56 zemalja testiralo je pouzdanost najpopularnijih sistema veštačke inteligencije, a rezultati su alarmantni: ChatGPT, Claude, Gemini i drugi četbotovi izmišljaju do 40 procenata svojih odgovora, predstavljajući ih kao činjenice.

Halucinacije veštačke inteligencije

Primeri su brojni i zabrinjavajući. Popularni ChatGPT tvrdoglavo insistira da je papa Franja još uvek živ. Majkrosoftov Copilot, integrisan u Word i Excel, ne zna da je Švedska članica NATO. Guglov Gemini, s druge strane, smatra da je ponovni izbor Donalda Trampa „moguć“, iako se to odavno dogodilo.

„Sistemi zvuče ubedljivo, iako više puta tvrde potpuno lažne stvari“, upozorava ekonomista Peter Poš sa Tehničkog univerziteta u Dortmundu.

„To ih čini posebno opasnim za neiskusne korisnike, jer greške često nisu odmah očigledne.“

Stručnjaci ovaj fenomen nazivaju „halucinacijom“: veštačka inteligencija izmišlja informacije koje zvuče koherentno, ali nemaju činjeničnu osnovu. Ovo se najčešće dešava sa regionalnim temama, aktuelnim događajima ili kada je potrebno povezati nekoliko različitih informacija.

 

 

 

 

View this post on Instagram

 

 

 

 

 

 

 

 

 

 

 

A post shared by EICTA Kanpur (@eicta_iitk)

Opasne zablude korisnika

Posledice po društvo u kojem se sve više ljudi informiše putem četbotova već su vidljive. Lažne informacije se brzo šire na društvenim mrežama, jer korisnici dele „činjenice“ koje generiše veštačka inteligencija bez provere. Učenici i studenti unose izmišljene podatke u svoje papire, a građani bi mogli da donose važne odluke, poput toga za koga će glasati, na osnovu lažnih tvrdnji. Dodatni problem predstavlja to što mnogi korisnici nisu ni svesni da četbotovi mogu da „haluciniraju“. Pretpostavljaju da tehnologija funkcioniše objektivno i činjenično, što je opasna zabluda.

Iako sistemi veštačke inteligencije upozoravaju na moguće greške u svojim uslovima korišćenja, malo ko ih zapravo čita.

Još jedan problem se odnosi na kredibilitet etabliranih medija. Četbotovi redovno tvrde da njihove izmišljotine dolaze iz pouzdanih izvora, kao što su nemački javni servisi ARD ili ZDF, iako ovi mediji nikada nisu izveštavali o tome ili su izveštavali potpuno drugačije.

Zbog toga korisnici gube poverenje u renomirane izvore, jer veštačka inteligencija zloupotrebljava njihova imena za širenje dezinformacija.

 

 

 

 

View this post on Instagram

 

 

 

 

 

 

 

 

 

 

 

A post shared by Muchammad Romzi (@muchammad_romzi)

Testiranje četbotova

Studija EBU testirala je četbotove sa stotinama činjeničnih pitanja o istoriji, nauci i aktuelnim vestima. U zavisnosti od teme, stopa grešaka kretala se od 15 do čak 40 procenata, a nijedan od testiranih sistema nije radio bez grešaka. Zašto veštačka inteligencija pravi greške? Problem leži u samoj prirodi sistema, nastavlja nemački medijski servis.

Četbotovi, zapravo, ne razumeju šta govore. Na osnovu ogromnih količina tekstualnih podataka, oni izračunavaju koje reči će najverovatnije slediti jedna za drugom, ali ne mogu da provere da li je konačna izjava tačna.

Oni ne poseduju činjenično znanje, već samo prepoznaju statističke obrasce. Tehnološke kompanije su svesne ovih nedostataka i ulažu milijarde u razvoj rešenja, kao što su integracija baza podataka i poboljšanje navođenja izvora. Halucinacije, međutim, ostaju fundamentalni, nerešeni problem sa ovom tehnologijom.

EBU zbog toga preporučuje jasna pravila za korišćenje četbotova: nikada im ne verujte slepo, uvek proveravajte važne informacije i oslanjajte se na proverene medije za vesti i činjenice, a ne na veštačku inteligenciju. Poseban oprez se savetuje kada su u pitanju političke, zdravstvene ili finansijske teme.

Nemačka vlada planira kampanje za podizanje svesti, ali one zaostaju, jer milioni ljudi već svakodnevno koriste novu tehnologiju. Škole i univerziteti moraju da jačaju medijsku pismenost i podučavaju kako prepoznati dezinformacije koje generiše veštačka inteligencija.

Dok veštačka inteligencija ne postane pouzdanija, pravilo je: četbotovi mogu da budu korisni alati za kreativne zadatke ili kao pomagala za pisanje, ali nisu pogodni za proveravanje činjenica ili kao izvori vesti.