Britanska organizacija za zaštitu djece upozorila je da se alati vještačke inteligencije u vlasništvu Ilona Maska koriste za generisanje ilegalnih eksplicitnih snimaka djece, nakon što su istražitelji identifikovali materijal koji je navodno nastao uz pomoć funkcije Grok Imagine i kružio na forumima dark weba.
Internet Watch Foundation (IWF) saopštio je u srijedu da su njihovi analitičari pronašli eksplicitne snimke djevojčica u dobu od 11 do 13 godina koji ispunjavaju pravnu definiciju materijala seksualnog zlostavljanja djece u Velikoj Britaniji i za koje se čini da su generisani pomoću ovog AI alata.
„Alati poput Groka sada rizikuju da seksualizovane AI snimke djece uvedu u mejnstrim. To je neprihvatljivo“, rekla je Ngaire Aleksander, šefica IWF.
Ovi nalazi pojačali su politički pritisak u Velikoj Britaniji.
Odbor za žene i jednakost u Donjem domu parlamenta saopštio je da će prestati da koriste društvenu mrežu X, koja je u Maskovom vlasništvu, navodeći zabrinutost zbog zloupotrebe Groka.
Iz Dauning strita je poručeno da su sve opcije na stolu, dok je ministarka nauke Liz Kendall rekla da X mora to hitno da riješi.
Kendal je dodala da vlada podržava OFCOM, britanskog regulatora za komunikacije, da hitno ispita slučaj i preduzme mjere tamo gdje su zakoni prekršeni.
Kancelarija poverenika za informacije saopštila je da je kontaktirala X i xAI „kako bi zatražila pojašnjenje o mjerama koje imaju na snazi za poštovanje britanskog zakona o zaštiti podataka i zaštitu prava pojedinaca“.
X je saopštio da uklanja ilegalni sadržaj, uključujući materijal seksualnog zlostavljanja djece, suspenduje naloge koji krše pravila i sarađuje sa organima za sprovođenje zakona.
Nadzor i kritike su se proširili i izvan Velike Britanije, a Indonezija je upozorila da bi X mogao da bude zabranjen zbog opscenog sadržaja koji uključuje maloletnike.
Džakarta je navela da preliminarni nalazi ukazuju na to da Grok nema adekvatne zaštitne mehanizme za sprečavanje stvaranja i širenja pornografskog materijala zasnovanog na stvarnim snimcima.
„Ova situacija ima potencijal da naruši pravo na privatnost i pravo na vlastiti lik“, rekao je Aleksander Sabar, generalni direktor indonezijskog Direktorata za nadzor digitalnog prostora, dodajući da bi pristup Groku i platformi Iks mogao biti ukinut ako se kršenja nastave.
Upozorenje dolazi nakon reakcija u Evropi, gdje su francuske vlasti prijavile istražiteljima navodne seksualno eksplicitne „deepfake“ snimke generisane pomoću Groka na platformi X.
Evropska komisija saopštila je da izlaze chatbot alata ispituje „vrlo ozbiljno“.
(SMART LIFE)
