Sistemi vještačke inteligencije (AI) pokazuju visok stepen povjerenja prema netačnim medicinskim informacijama ukoliko su predstavljene kroz izvore koji na prvi pogled djeluju vjerodostojno ili stručno, pokazuje najnovija studija.
Istraživanje ukazuje da modeli vještačke inteligencije, koji se sve češće koriste za pružanje zdravstvenih savjeta, imaju ozbiljan nedostatak – podložni su dezinformacijama kada su one upakovane u formu koja imitira naučni autoritet.
Studija je pokazala da AI čatbotovi i veliki jezički modeli (LLM) često ne uspijevaju da razlikuju provjerene medicinske činjenice od lažnih tvrdnji ukoliko se one nalaze na sajtovima koji koriste stručnu medicinsku terminologiju, uvjerljive reference ili vizuelni identitet sličan onome koji imaju relevantne zdravstvene institucije.
Kao ključni problemi identifikovani u istraživanju navode se:
AI modeli pridaju veći značaj strukturi teksta i autoritativnom tonu nego stvarnoj provjeri podataka kroz baze kliničkih dokaza
Sve veće oslanjanje građana na AI alate za samoliječenje i tumačenje simptoma predstavlja ozbiljan rizik po javno zdravlje
Kreatori dezinformacija svjesno koriste slabosti AI sistema kako bi plasirali opasne medicinske savjete u odgovore koje generišu popularni AI asistenti
Stručnjaci uključeni u istraživanje upozoravaju da postojeći zaštitni mehanizmi nijesu dovoljni. Iako tehnološke kompanije poput OpenAI-ja, Google-a i Mete kontinuirano unapređuju svoje modele, studija zaključuje da je neophodan suštinski drugačiji pristup načinu na koji AI procjenjuje vjerodostojnost izvora.
„Problem nije samo u tome što AI može pogriješiti, već u tome što aktivno uči iz sofisticirano plasiranih neistina koje imitiraju nauku“, navodi se u izvještaju.
Dok se tehnologija dodatno ne unaprijedi, ljekari i istraživači apeluju na građane da alate vještačke inteligencije koriste isključivo kao informativnu pomoć, te da se za dijagnozu i terapiju uvijek obraćaju kvalifikovanim zdravstvenim radnicima i provjerenim medicinskim institucijama.
(Vesti)
