Hakeri zloupotrebljavaju ChatGPT za sajber napade
OpenAI je otkrio je da je od početka 2024. godine poremećeno više od 20 operacija i mreža širom svijeta, uključujući mreže iranskih i kineskih hakera koje sponzorišu države.
Iz OpenAI-a su saopštili da je u ovim operacijama ChatGPT korišćen za otklanjanje grešaka u malverima, pisanje članaka za veb sajtove, generisanje sadržaja koji objavljuju lažne ličnosti na nalozima društvenih mreža i širenje dezinformacija u vezi sa izborima.
U izvještaju kompanije se navodi da su sajber kriminalci i prevaranti koristili vještačku inteligenciju tokom međufaza svojih kampanja, „u specifičnoj, srednjoj fazi aktivnosti – nakon što bi imali osnovne alate kao što su pristup internetu, email adrese i nalozi na društvenim mrežama, ali prije nego što bi primenili „gotove“ proizvode kao što su objave na društvenim mrežama ili malvere širom interneta“, napisali su istraživači kompanije u izveštaju.
Međutim, oni su naglasili da je uprkos učešću vještačke inteligencije u sajber napadima i kampanjama uticaja, stvarni uticaj vještačke inteligencije do sada bio ograničen i da nisu pronašli dokaze da AI doprinosi stvaranju novih, naprednih malvera ili značajno poboljšava kampanje širenja dezinformacija.
Izvještaj OpenAI navodi tri ključne grupe koje su iskoristile ChatGPT za sajber napade.
Jedna od njih je grupa SweetSpectre povezana sa Kinom, koja je koristila ChatGPT za izviđanje, istraživanje ranjivosti, podršku za skriptovanje, izbjegavanje otkrivanja anomalija i razvoj. Grupa je takođe slala spear phishing mejlove sa zlonamjernim prilozima na korporativne i lične email naloge nekih zaposlenih u OpenAI-u, ali su blokirani pre nego što su stigli do njih.
Druga grupa koja se pominje u izvještaju je CyberAv3ngers koja je povezana sa iranskom Islamskom revolucionarnom gardom. Ona je poznata po svojim napadima na industrijske upravljačke sisteme (ICS) i programabilne logičke kontrolere (PLC) koji se koriste u vodovodnim sistemima, proizvodnji i energetskim sistemima. Grupa je koristila ChatGPT za istraživanje ranjivosti, otklanjanje grešaka koda i traženje savjeta za skriptovanje za napade na infrastrukturu koja je uglavnom povezana sa Izraelom, Sjedinjenim Državama ili Irskom.
Još jedna grupa koja je zloupotrebljavala ChatGPT je STORM-0817 čije je sedište u Iranu. Ova grupa je pokušala da koristi ChatGPT za otklanjanje grešaka u malveru, kreiranje alata kao što je Instagram scraper, prevođenje LinkedIn profila na persijski, kao i za podršku za otklanjanje grešaka i kodiranje u implementaciji Android malvera, zajedno sa podrškom za komandnu i kontrolnu infrastrukturu.
Djelovi koda u upitima koje je dostavio napadač uz pomoć OpenAI-jevog četbota ukazuju na to da malver može ukrasti kontakte, evidenciju poziva, instalirane pakete, skrinšotove, IMEI uređaja i model, istoriju pretraživanja, fajlove sa eksterne memorije (pdf, excel dokumenti) i sadržaj preuzet na eksternu memoriju, uključujući fajlove koje šalju aplikacije za bezbjednu komunikaciju kao što su WhatsApp i IMO.
Iako su ove grupe pokušavale da iskoriste ChatGPT za svoje ciljeve, OpenAI je naglasio da im vještačka inteligencija nije pružila značajne nove mogućnosti za razvoj malvera. Hakeri su mogli da uz pomoć ChatGPT-a steknu samo neke prednosti, koje su već bile ostvarljive putem javno dostupnih alata bez AI.
Iako je učešće vještačke inteligencije u sajber napadima zabrinjavajuće, OpenAI je naglasio da primjenjuje mjere da identifikuje i prekine ove zlonamjerne aktivnosti.
(Informacija.rs)