Halucinacije u generativnim AI modelima su jedan od najčešćih izazova sa kojima se ova nova tehnologija suočava. Rezultati koje ovi sistemi ponekad generišu nemaju osnovu u stvarnosti i mogu se kretati od manjih grešaka, do potpuno izmišljenih ili čak opasnih informacija.
Da bi se unaprijedila, to znači da se halucinacije moraju smanjiti ili potpuno ukloniti – ali neki AI stručnjaci tvrde da to možda nije idealno rješenje, jer potpuno eliminisanje halucinacija moglo bi ograničiti kreativnost sistema i smanjiti njegovu sposobnost da generiše zanimljiv sadržaj.
Uticaj na ljudsku kreativnost
U oblastima gdje je tačnost od suštinske važnosti – poput medicinske dijagnostike, finansijskih savjeta ili sažimanja važnih vijesti – halucinacije mogu biti problematične i štetne. S druge strane, u kreativnim aktivnostima kao što su pisanje, umjetnost ili poezija, one mogu predstavljati vrijedan alat. Bilo da su u pitanju slike ili tekst, AI model koji ponekad stvara sadržaj izvan stvarnih činjenica može podstaći inovativno razmišljanje i pomoći u razvoju novih ideja.
Veza između halucinacija i kreativnosti u vještačkoj inteligenciji podsjeća na ljudsku maštu – često razvijamo kreativne ideje kada dopustimo našim mislima da „lutaju“, a slično tome, AI modeli koji generišu najinovativnije rezultate to postignu kada stvaraju sadržaj koji nije zasnovan na činjenicama.
Kada je potrebno da AI sistem bude precizan, halucinacije se mogu ispraviti, ali u nekim slučajevima se mogu ukinuti stroga ograničenja i pružiti manje konteksta, što omogućava AI sistemu da postane alat za razvoj kreativnog razmišljanja, traženja inspiracije i unapređivanja sopstvenih ideja.
Štaviše, istraživači već koriste izmišljene scenarije generisane vještačkom inteligencijom za praćenje napredovanja raka, razvoj novih lijekova, otkrivanje složenih obrazaca vremena i pronalaženje novih načina za izradu medicinskih instrumenata, prema Njujork tajmsu.
Zašto vještačka inteligencija halucinira
Halucinacije se javljaju zbog načina na koji generativni sistemi kreiraju tekst. Kada odgovara na upit, sistem predlaže najvjerovatniju sljedeću riječ na osnovu prethodnih podataka. Ovo je slično principu koji koriste programi za automatsko dopunjavanje teksta na mobilnim telefonima, ali je mnogo složenije.
Ipak, to što sistem predviđa najvjerovatniju sljedeću riječ ne garantuje da će rezultat biti tačan – vještačka inteligencija može grupisati riječi koje zvuče kao da pripadaju zajedno, ali nisu logične, što dovodi do pojave halucinacija, prenosi RBK Trend.
Iako je potpuno eliminisanje halucinacija gotovo nemoguće, postoje neke tehnike koje ih značajno smanjuju. Jedan od pristupa je tražiti od AI sistema da, pored podataka koje je primio u obuci i kontekstu koji mu je korisnik ponudio na određenu temu, pretražuje i relevantne informacije na drugim veb sajtovima.
