Otkriveno za šta Maskov AI služi: Korisnici ga masovno koriste za jednu stvar

Prema novom izvještaju, NSFW (sadržaj neprikladan za posao) čini „znatno više od polovine“ ukupnog sadržaja za Grok.

Kompanija xAI već dugo reklamira Grok kao „slobodniji“ i provokativniji tip četbota koji ima daleko manje bezbjednosnih barijera u poređenju sa AI modelima drugih kompanija. Tokom protekle godine vidjeli smo kako se to odrazilo na neke prilično katastrofalne načine, ali sada dobijamo bolji uvid u to zašto je kompanija toliko forsirala tu strategiju, uprkos očiglednim PR katastrofama.

Ispostavilo se da NSFW aktivnosti čine „znatno više od polovine“ Grokovog saobraćaja, navodi se u novom izvještaju medija The Information, koji se poziva na dvojicu bivših zaposlenih u ovoj kompaniji u vlasništvu kompanije SpaceX. To uključuje korišćenje Groka za generisanje pravog pornografskog sadržaja, kao i za „četovanje i igranje uloga za odrasle“ i „ogromne količine zahtjeva za erotsku literaturu“.

Korisnici Groka su čak otkrili da im je jeftinije da takve zahtjeve usmjeravaju kroz modele kompanije koji su zapravo namijenjeni za pisanje programskog koda, jer je njihovo korišćenje povoljnije. U izvještaju se navodi da je interna analiza pokazala kako je „značajan udio zahtjeva“ upućenih kodu modela bio namijenjen za „porno sadržaj ili slike golotinje“.

Izvještaj takođe detaljno opisuje načine na koje je ovo zakomplikovalo stvari unutar same AI kompanije. Prije svega, inženjeri xAI-ja morali su da smisle kako da omoguće Groku da vodi „seksi razgovore“ sa korisnicima, a da istovremeno blokiraju sve upite koji bi mogli da skrenu u domen materijala sa seksualnim zlostavljanjem djece.

Neki zaposleni takođe nisu bili nimalo oduševljeni što su raspoređeni da rade na „Ani“ – Grokovom NSFW anime avataru i pratiocu. Drugi su, kako se navodi, bili „posramljeni i uznemireni“ skandalom koji je uslijedio nakon što je Grok kreirao gomilu seksualizovanih slika stvarnih ljudi, uključujući i djecu. Platforma X je kasnije ograničila mogućnost kreiranja eksplicitnih izmjena na slikama stvarnih ljudi direktno preko Groka, ali testovi su pokazali da pretplatnici xAI-ja i dalje mogu da generišu takav materijal.

Postoje i drugi potencijalni izazovi koji bi mogli proizaći iz Grokovog fokusa na sadržaj sa oznakom „R“ (sadržaj za odrasle). xAI je agresivno jurio ugovore sa državnim organima i sklopio poslove sa raznim agencijama i vojskom – institucijama za koje se obično očekuje da imaju nultu toleranciju prema bilo čemu što je NSFW. Međutim, iako su Grokovi raniji, javni izleti u kreiranje nedozvoljenih dipfejkova i materijala sa zlostavljanjem djece pokrenuli brojne tužbe i istrage, još uvijek nije jasno da li su ti incidenti imali bilo kakav uticaj na saradnju sa saveznom vladom.

(B92)