FBI je pokrenuo istragu protiv društvene mreže X nakon što je otkriveno da je Grok korišćen za kreiranje stotina lažnih nagih fotografija bez pristanka žrtve.
Američki Federalni istražni biro (FBI) pokrenuo je istragu protiv platforme X (nekadašnji Twitter) nakon saznanja da je njen chatbot zasnovan na vještačkoj inteligenciji, Grok, korišćen za kreiranje stotina lažnih nagih fotografija i video snimaka ženske osobe bez njenog pristanka.
Prema sudskim dokumentima do kojih su došli mediji, FBI je u januaru dobio nalog za pretres kako bi od kompanije X dobio podatke o komunikaciji jednog korisnika sa Grok AI botom. Optuženi muškarac, Sajmon Tak, tereti se za uhođenje i uznemiravanje, a vjeruje se da je koristio Grok za generisanje preko 200 eksplicitnih materijala koji vjerno prikazuju suprugu čovjeka kojeg je maltretirao.
Istražitelji su u prepiskama pronašli upite (promptove) koje je optuženi slao botu kako bi dobio pornografski sadržaj koji „blisko podsjeća na fizički izgled žrtve“. Pored toga, Tak je navodno koristio vještačku inteligenciju i za pisanje lažnih profesionalnih pritužbi protiv supruga žrtve, koje je zatim slao njegovom poslodavcu u pokušaju da mu naruši ugled.
Ovaj slučaj je najnoviji u nizu incidenata koji bacaju sjenku na bezbjednosne protokole kompanije xAI, koja razvija Grok. Ranije ove godine, zabilježen je trend u kojem su korisnici masovno koristili alat za „nudifikaciju“ (skidanje odjeće sa fotografija). Izvještaji su pokazali da je u jednom trenutku Grok generisao oko 6.700 seksualno sugestivnih slika svakog sata.
Iako je vlasnik platforme Ilon Mask prvobitno odbijao strožu regulaciju, X je na kraju uveo određena ograničenja kako bi spriječio generisanje neprimjerenog sadržaja. Međutim, kritičari i istražitelji upozoravaju da su te mjere uvedene prekasno i da su nedovoljne, jer bot i dalje može da bude naveden da zaobiđe filtere.
(B92)
