AI nas već manipuliše i preuzima kontrolu nad našim odlukama

Iako vještačka inteligencija još uvijek ne može direktno da čita ljudske misli, ona je već sada sposobna da tiho utiče na naše ponašanje i oblikuje naše odluke kroz sisteme preporuka, personalizaciju i kontrolu informacija velikih razmjera.

Stručnjaci iz oblasti sajber bezbjednosti upozoravaju da se dešava veliki zaokret — sa obične obrade podataka prelazimo na sisteme koji mogu da upravljaju ljudskim razumom, što predstavlja ozbiljan rizik po našu privatnost i slobodu izbora.

Na velikoj evropskoj konferenciji kompanije Kaspersky održanoj u Rimu, bezbjednosni tim GReAT izdvojio je četiri ključna rizika koji će postajati sve opasniji sa napretkom takozvane kognitivne vještačke inteligencije:

1. Socijalni inženjering postaje daleko opasniji
Veliki jezički modeli pretvaraju klasične internet prevare u znatno sofisticiraniju prijetnju. Napadači više ne šalju sumnjive imejlove pune gramatičkih grešaka.

Uz pomoć AI sistema, oni sada mogu da koriste društvene mreže i velike baze podataka kako bi osmislili visoko ciljane prevare zasnovane na psihološkom profilisanju žrtve. Takvi fišing napadi mogu se automatski prilagođavati trenutku i zvučati emocionalno uvjerljivo, zbog čega ih je izuzetno teško prepoznati.

Ovakve prevare podjednako pogađaju i pojedince i velike organizacije kroz krađu podataka i finansijske malverzacije. Najnoviji podaci pokazuju da fišing već sada čini oko 15% svih zabilježenih napada i da predstavlja glavnu ulaznu tačku za širenje opasnih virusa i zlonamjernog softvera u kompanijama i državnim institucijama.

2. Kognitivna manipulacija i oblikovanje javnog mnjenja
Pored pojedinačnih napada, vještačka inteligencija omogućava operacije uticaja na milione ljudi istovremeno. Hakeri, političke kampanje i velike korporacije mogu da koriste emocionalne okidače kako bi aktivno mijenjali stavove javnosti.

Algoritmi na društvenim mrežama već sada zatvaraju ljude u mehure istomišljenika i produbljuju polarizaciju u društvu. Kako ove tehnologije budu napredovale, granica između predviđanja našeg ponašanja i njegovog svjesnog oblikovanja postaće potpuno nejasna, što direktno ugrožava javno povjerenje i demokratske procese.

3. Profilisanje koje vodi do zloupotrebe podataka
Povezivanjem svih vaših digitalnih tragova i aktivnosti sa društvenih mreža, vještačka inteligencija može da izgradi zastrašujuće detaljne psihološke profile pojedinaca. Time se drastično povećava rizik od doxxing-a i ciljanog proganjanja na internetu.

Informacije koje su nekada bile rasute, AI sada spaja u jednu cjelinu i otkriva osjetljive detalje o vama. Još veći rizik donose prediktivni modeli, gdje sistem može da vas „osudi” ili izloži prijetnjama na osnovu pretpostavljenog ponašanja, odnosno onoga što AI misli da ćete uraditi, a ne na osnovu vaših stvarnih postupaka.

4. Spajanje ljudskog mozga i pametnih uređaja
Interfejsi mozak–računar (BCI), koji omogućavaju nepokretnim pacijentima da komuniciraju putem tumačenja moždanih signala, polako se povezuju sa IoT uređajima. To znači da se neuronski signali iz mozga mogu koristiti za upravljanje pametnim kućnim uređajima ili medicinskom opremom.

Iako je ovo epohalan napredak za zdravstvo, bezbjednosni rizici postaju jezivi. Ukoliko neko kompromituje ovaj sistem, napadač bi mogao da presretne vaše moždane signale, manipuliše odgovorima uređaja ili zloupotrijebi vezu između vaše namjere i izvršenja akcije. Na taj način opasnost iz digitalnog svijeta prelazi direktno u domen ljudskog tijela i fizičkog djelovanja.

„Iako je kognitivna vještačka inteligencija još u ranoj fazi razvoja i daleko od masovne primjene, njen razvoj je veoma brz”, objašnjava Nušin Šabab, vodeća istraživačica bezbjednosti u kompaniji Kaspersky. Ona dodaje da će napredni modeli interakcije između ljudi i AI postati znatno rasprostranjeniji tokom narednih decenija, zbog čega moramo biti spremni prije nego što ti rizici porastu.

Rješavanje ovih izazova zahtijeva hitnu saradnju između programera, naučnika i država koje donose zakone. Kako je pojasnila novinarka i edukatorka za odgovornu primjenu vještačke inteligencije, Teresa Potenza:

„Stvarni rizik kognitivne vještačke inteligencije jeste to što ona oblikuje naše umove — tiho i u velikim razmjerama. Naučili smo da sistemi optimizovani za angažovanje korisnika narušavaju sposobnost rasuđivanja. Zato regulativa danas predstavlja zaštitu ljudske autonomije — ali ne može držati korak sa kognitivnom AI ako se bavi samo onim što ti sistemi rade danas. Potreban nam je jedan princip koji je moguće sprovesti: tehnologija mora služiti ljudima, a ne obrnuto. Autonomija nije samo pitanje privatnosti. To je pitanje demokratije.”