Najveća opasnost ne leži u tome što će mašine postati „odgovorne”, već u tome što će ljudi prestati da na sebe preuzimaju odgovornost. Jer, ako prepustimo odlučivanje sistemima koje ne razumijemo u potpunosti, rizikujemo da izgubimo ne samo kontrolu nad tehnologijom već i sopstveni etički oslonac.
U vrijeme kad je većim dijelom završila svoju knjigu o vještačkoj inteligenciji „Melanholija mašina”,dr Divna Vuksanović, filozof medija, estetičar i redovni profesor FDU, govorila je za naš list o ovoj temi, kojom prilikom smo u fokus stavile upotrebu VI u industriji zabave i ratovima, što se u tom trenutku činilo kao najatraktivnije iz tog domena. No, pošto se VI ubrzano razvija, tema je postajala sve ozbiljnija i složenija, te ju je i autorka knjige sve dublje zahvatala tako da je knjiga izašla tek prije oko mjesec dana, nudeći složenije uvide u odnos vještačke inteligencije i autonomnosti, identiteta, preuzimanja odgovornosti itd.
Autorka u knjizi polazi od slučaja malog robota Erbai koji je na izložbi u Šangaju izveo revoluciju uvjerivši 12 velikih robota „da pobjegnu s posla” i da zajedno s njim krenu „prema slobodi”. Ovaj incident izazvao je brojne rasprave o VI i autonomnim sistemima odlučivanja, namećući pitanje može li vještačka inteligencija da djeluje po svojoj volji i da radi i ono za šta inače nije programirana. Išlo se i dotle da se čulo mišljenje da bi incident mogao da se tumači i kao metafora za radnički otpor, kritiku hijerarhije moći i težnju za emancipacijom. Stoga ovaj put razgovaramo sa Divnom Vuksanović o drugim aspektima vještačke inteligencije, njenoj autonomnosti, preuzimanju odgovornosti i rizicima njene eventualne samostalnosti ili „slobode” koji kod ljudi mogu da probude strah, a kod nekih, ako sve to obrnu, i nadu.
Koliko je opasno da VI ima autonomiju i koliko uopšte može da je ima? Gdje je treba zaustaviti?
Vještačka inteligencija nema autonomiju u punom smislu riječi – ona ne posjeduje svijest, namjeru, niti sposobnost da sama sebi postavlja ciljeve. Ona djeluje unutar okvira koje su definisali ljudi. Problem nastaje onda kada joj pripisujemo navodnu autonomiju, jer se time briše trag naše vlastite odgovornosti. Recimo, sistemi koji odlučuju o zapošljavanju, procjeni rizika ili raspodjeli resursa često se predstavljaju kao „objektivni”. Kada takav sistem pogriješi, kaže se da je „algoritam odlučio”, čime se prikriva činjenica da iza svake odluke stoje ljudi.
U bezbjednosnim i ratnim kontekstima ovo pitanje dobija najveću težinu, naročito u situacijama kada algoritamski sistemi učestvuju u nadzoru, identifikovanju ciljeva ili procjeni prijetnji. U savremenim oblicima tehnološki posredovanog ratovanja, odluke se donose izuzetno brzo, dok se odgovornost dijeli između softvera, operatera i komandnih struktura. U takvim okolnostima, rečenica da je „sistem odlučio” postaje način da se tehničkim procedurama prikriju ljudske odluke. Zato granica ne treba da bude povučena u odnosu na mašinu, nego u odnosu na odgovornost: vještačka inteligencija može da pomaže, ali ne smije da preuzima konačne odluke tamo gdje su u pitanju ljudska prava i životi.
Ako posmatramo VI kao produžetak radne snage, da li je ona tada klasa koju eksploatišu u kapitalizmu?
Vještačka inteligencija nije nova klasa, jer ne posjeduje svijest, interes ni mogućnost da djeluje u vlastito ime. Ona ne može biti eksploatisana u klasičnom smislu riječi, ali danas se prepoznaje kao sredstvo kroz koje se postojeći oblici eksploatacije produbljuju. U savremenim radnim procesima, algoritmi određuju ritam rada, vrednuju učinak i posreduju u radnim odnosima. Time se relacija između čovjeka i rada mijenja. VI u tom smislu nije radnik, već je, u stvari, mehanizam upravljanja radom. Povodom Dana rada, ključno pitanje nije da li će mašine raditi umjesto nas, već u kakvim uslovima će ljudi raditi uz njih.
Budući da se VI stalno i veoma brzo razvija, postoji li mogućnost da postane sposobna da preuzima odgovornost? Ukoliko do toga dođe, šta je rizik po čovječanstvo?
Ne postoji realna mogućnost da vještačka inteligencija preuzme odgovornost za svoje postupke, pošto to podrazumijeva svijest, namjeru i etičko rasuđivanje. VI može da donosi odluke u tehničkom smislu riječi, ali ne može da odgovara za njihove posljedice. Ono što je, međutim, u praksi već prisutno jeste tendencija da se odgovornost delegira upravo na inteligentne sisteme. Kada algoritmi učestvuju u odlučivanju, na primjer u medicini, bezbjednosti ili upravljanju, nerijetko dolazi do relativizovanja pitanja odgovornosti.
Dakle, najveća opasnost ne leži u tome što će mašine postati „odgovorne”, već u tome što će ljudi prestati da na sebe preuzimaju odgovornost. Jer, ako prepustimo odlučivanje sistemima koje ne razumijemo u potpunosti, rizikujemo da izgubimo ne samo kontrolu nad tehnologijom već i sopstveni etički oslonac, kao temelj ljudske odgovornosti.
Osnova na kojoj se temelji vaša knjiga jeste da ljudski um i dalje ostaje nedostižan za vještačku inteligenciju i da zbog toga VI nikada neće moći da reaguje kao čovjek u ključnim situacijama. Ali sam čovjek joj sve više dozvoljava i povjerava svoje osobine, pa će, plaše se mnogi, na kraju ispasti da VI „može sve”. Da li bi nas to odvelo u apokalipsu ili je logično da ljudski um na ovo reaguje i postavi neke granice?
Ljudski um nije isto što i razum. Razum analizira, računa, barata podacima, i upravo u tom domenu vještačka inteligencija postiže izuzetne rezultate. Ali um podrazumijeva nešto drugo: svijest, samorefleksiju, kreativnost, sposobnost da se postavljaju pitanja o smislu, slobodi i odgovornosti. U tom pogledu, um ostaje izvan domašaja VI.
Problem, međutim, nije u tome što se mašine razvijaju, već u tome što se granica između razuma i uma sve češće zanemaruje. Kada ono što je samo instrumentalno počnemo da tretiramo kao cjelinu mišljenja, tada vještačkoj inteligenciji pripisujemo više nego što joj pripada. Zato nije riječ o tome da li će VI „moći sve”, već da li ćemo mi odustati od onog dijela mišljenja koji ne može biti zamijenjen.
Drugim riječima, budućnost vještačke inteligencije zavisi manje od njenog razvoja, a mnogo više od naše spremnosti da ostanemo odgovorni za sopstveni um i njegovu praksu. Granice, dakle, neće postaviti mašine – postaviće ih čovjek, ukoliko ne odustane od mišljenja.
(Politika)
