„TikTok" povlači veštačku inteligenciju zato što halucinira

TikTok je bio primoran da povuče svoju novu funkciju zasnovanu na veštačkoj telinigenciji (VI) nakon što je alatka počela da generiše potpuno bizarne i netačne opise video-snimaka – uključujući i tvrdnju da je jedna svetska zvezda zapravo voćka, piše Bi-Bi-Si.

Opcija pod nazivom „AI pregledi“ nedavno je počela da se pojavljuje ispod sadržaja na ovoj platformi, sa ciljem da korisnicima ukratko objasni šta se dešava u videu ili pruži dodatni kontekst. Iako je funkcija bila dostupna samo ograničenom broju korisnika u Sjedinjenim Američkim Državama i na Filipinima, netačni i nadrealni rezimei, viđeni ispod snimaka slavnih ličnosti poput Čarli D'Amelio, brzo su preplavili društvene mreže uz lavinu podsmeha.

Prema navodima kompanije, ovi eksperimentalni opisi su sada popravljeni i ubuduće će se koristiti isključivo za prepoznavanje i predlaganje proizvoda sličnih onima koji su prikazani u snimcima.

Od „lepljive hrane“ do gumenih pilića

Slično Guglovim VI pregledima, TikTokov alat je pokušavao da sumira sadržaj kada bi korisnik kliknuo na opis videa. Dok su neki snimci bili precizno opisani, Biznis insajder je identifikovao niz potpuno sumanutih primera.

Tako je video poznate plesačice Čarli D'Amelio opisan kao „kolekcija različitih borovnica sa raznim prelivima“.

Slični nejasni i čudni rezimei pojavili su se i ispod snimaka muzičkih zvezda poput Šakire i Olivije Rodrigo.

Na platformi Redit korisnici su delili još ekstremnije primere. Nastup profesionalnih plesača, Rigana i Džuli To, veštačka inteligencija je opisala kao „osobu koja se više puta udara gumenim piletom u glavu“.

U drugim slučajevima, VI je u snimcima pronalazio nasilje i čekiće tamo gde ih uopšte nije bilo.

Kreator sadržaja Bret Vanderbruk objavio je video u kojem spekuliše da li platforma zapravo ismeva sopstvene korisnike: „Novi VI pregled je toliko loš da deluje kao šala“, naveo je on, pokazujući primer gde je komični skeč opisan kao „demonstracija nove, pametne tehnike za sečenje vode“.

Problem koji ne nestaje: VI halucinacije

TikTok je saopštio da je identifikovao uzrok ovih grešaka, ali nije izneo detalje. Ipak, stručnjaci podsećaju da generativni VI alati često haluciniraju – odnosno izmišljaju činjenice dok pokušavaju da obrade informacije.

Ovaj problem podseća na Guglov fijasko iz 2024. godine, kada je njihova veštačka inteligencija savetovala korisnike da jedu kamenje ili stavljaju lepak na hranu.

Slično je prošao i Epl, čija je alatka za sumiranje obaveštenja kreirala lažne i uznemirujuće naslove vesti za aplikacije Bi-Bi-Sija i Njujork tajmsa.

Čak je i OpenAI, tvorac Čet-Dži-Pi-Tija, nedavno priznao da su se u odgovore njihovog sistema uvukli „goblini“ i „gremlini“ – bizaran nusprodukt pokušaja da se sistemu podari specifična, „štreberska“ ličnost.

Dok tehnološki giganti nastavljaju trku u naoružavanju veštačkom inteligencijom kako bi povećali angažovanost korisnika, primeri poput ovog pokazuju da je put do pouzdane tehnologije još uvek pun nepredvidivih i često komičnih prepreka.