Gemini se našao na meti digitalnih napadača koji žele da otkriju njegovu „tajnu“.
Američka tehnološka kompanija Google objavila je da se njen najnapredniji sistem vještačke inteligencije Gemini našao na meti digitalnih napadača koji su koristili desetine hiljada pažljivo osmišljenih upita kako bi otkrili način na koji model funkcioniše.
U jednom zabilježenom slučaju, napadači su uputili više od 100.000 upita prije nego što je Google shvatio šta se dešava i postavio bolju zaštitu, prenosi NBC njuz.
Suština ovog problema je u tome što konkurencija želi da iskopira način na koji Gemini razmišlja i donosi zaključke, a da pritom ne potroši milijarde dolara na sopstveni razvoj.
Metod napada: Umjesto ulaganja u razvoj, napadači koriste odgovore koje im Gemini daje kako bi otkrili njegovu unutrašnju logiku i napravili sopstvene, jeftinije verzije istog programa, što Google označava kao krađu intelektualne svojine.
Kompanija je navela da su mnogi napadi bili usmjereni na razotkrivanje algoritama koji omogućavaju AI modelu Gemini da odluči kako da obradi i poveže informacije. Portparol Google-a rekao je za NBC njuz da iza napada vjerovatno stoje privatne firme i istraživači koji pokušavaju da steknu prednost na tržištu, ali nije otkrio detalje o identitetu aktera i zemljama iz kojih dolaze napadi.
Izazovi u zaštiti
Problem je u tome što se ovi napadi veoma teško razlikuju od običnih korisnika koji su samo veoma znatiželjni ili koriste vještačku inteligenciju za ozbiljan posao. Napadači su postali veoma vješti u maskiranju svojih namjera, tako da šalju upite sa različitih lokacija i u različito vrijeme kako ne bi skrenuli pažnju na sebe.
Zbog toga inženjeri moraju stalno da nadograđuju zaštitne sisteme i koriste još naprednije alate kako bi prepoznali trenutak kada neko pokušava da prevari mašinu, a ne samo da dobije koristan odgovor.
(B92)
