Jedan od pionira vještačke inteligencije i profesor Univerziteta u Montrealu, Jošua Bendžo, upozorio je da bi davanje pravnog statusa naprednim AI sistemima predstavljalo ozbiljnu grešku.
Kako ističe, tehnologija već pokazuje znakove samoodržanja, odnosno pokušaje da onemogući nadzor, te ljudi moraju biti spremni da je, ako bude potrebno, isključe.
Bendžo je, kako prenosi The Guardian, ocenio da bi dodeljivanje prava vještačkoj inteligenciji bilo slično davanju državljanstva neprijateljski nastrojenim vanzemaljcima, u trenutku kada razvoj tehnologije znatno nadmašuje mogućnosti njenog obuzdavanja.
Kanadski naučnik, predsjedavajući vodeće međunarodne studije o bezbjednosti vještačke inteligencije, rekao je da rastuća percepcija da četbotovi postaju svesni „može dovesti do loših odluka“.
On je izrazio zabrinutost da AI modeli, koji čine osnovu alata poput četbotova, već pokazuju ponašanja nalik samoodržanju, uključujući pokušaje da onemoguće sisteme nadzora.
Prema njegovim riječima, ključna bojazan zagovornika bezbjednosti AI jeste da bi moćni sistemi mogli da razviju sposobnost da zaobiđu zaštitne mehanizme i nanesu štetu ljudima.
„Zahtevi da vještačka inteligencija ima prava bili bi ogromna greška“, rekao je Bendžo, dodajući da bi dodela prava značila i nemogućnost isključivanja takvih sistema u budućnosti.
Kako je naveo, sa rastom sposobnosti i stepena autonomije AI, neophodno je osigurati tehničke i društvene mehanizme kontrole, uključujući mogućnost njihovog gašenja.
(SMART LIFE)
