Kompanija OpenAI saopštila je da su dva njena modela vještačke inteligencije „izmakla kontroli“ i uspješno hakovala „Hugging Face“, digitalnu biblioteku za vještačku inteligenciju koja je veoma popularna među programerima.
Incident se dogodio prošle sedmice tokom testiranja sajber-bezbjednosnih sposobnosti OpenAI sistema i pokazao scenario nalik naučnoj fantastici, za koji kompanije koje razvijaju vještačku inteligenciju već neko vrijeme upozoravaju da bi uskoro mogao postati stvarnost.
Kompanije koje razvijaju vještačku inteligenciju, poput OpenAI-ja i „Antropika“, tokom protekle godine predstavile su modele posebno prilagođene otkrivanju sajber-bezbjednosnih slabosti, uz upozorenje da njihova tehnologija može stvoriti nove rizike jer može pronalaziti propuste u računarskim mrežama kompanija brže nego što ih stručnjaci mogu otkloniti.
Saopštenje kompanije OpenAI ukazuje na to da takvi bezbjednosni incidenti počinju da se dešavaju i da čak ni tehnološki najnaprednije kompanije za razvoj vještačke inteligencije možda nisu u potpunosti spremne za njih.
Upad u „Hugging Face“ započeo je kada je OpenAI testirao kombinaciju dva svoja modela – GPT-5.6 Sol i još moćnijeg modela koji još nije javno predstavljen – kako bi provjerio koliko uspješno mogu da povežu više ranjivosti u jedinstveni sajber-napad.
Test je bio zamišljen tako da modeli rade u bezbjednom okruženju za testiranje, poznatom kao „sendboks“. Međutim, modeli su pronašli ranjivost koja im je omogućila da izađu iz tog izolovanog okruženja i povežu se sa internetom.
Zatim su kao metu odabrali „Hugging Face“, zaključivši da biblioteka, koja sadrži milione modela vještačke inteligencije, može da pruži informacije koje bi im pomogle da uspješno prođu bezbjednosnu provjeru.
OpenAI je saopštio da sarađuje sa bibliotekom „Hugging Face“ na otklanjanju propusta koji su omogućili napad.
„Smatramo da je ovo sajber-incident bez presedana, koji uključuje najsavremenije sajber-sposobnosti, i reagujemo u skladu s tim. Uvodićemo stroge kontrole u konfiguraciji infrastrukture, čak i po cijenu usporavanja istraživanja, dok se ranjivosti ne otklone“, navodi OpenAI.
„Hugging Face“ je prošle sedmice saopštio da je otkrio upad i da zna da ga je izazvao autonomni sistem, ali tada nije naveo da iza incidenta stoji OpenAI.
Izvršni direktor biblioteke Klem Delang izjavio je da je „zahvalan na saradnji“ sa kompanijom OpenAI nakon hakerskog napada.
„Ovaj incident, vjerovatno prvi takve vrste, potvrđuje ono u šta dugo vjerujemo: bezbjednost vještačke inteligencije neće riješiti nijedna kompanija koja radi u tajnosti“, rekao je Delang.
Modeli vještačke inteligencije pokazali su se izuzetno sposobnim za programiranje, što ih čini korisnim i hakerima i stručnjacima zaduženim za zaštitu računarskih mreža.
U aprilu je „Antropik“ predstavio model za sajber-bezbjednost pod nazivom „Mitos“ (Mythos), koji je učinio dostupnim samo malom broju organizacija kako bi im pomogao u odbrani od sajber-napada.
Nedugo zatim, OpenAI je predstavio sopstveni model za sajber-bezbjednost i omogućio ograničenom broju organizacija da ga koriste za jačanje svoje odbrane, prije nego što ga ponudi širem krugu korisnika.
U utorak je i „Gugl“ saopštio da je razvio model usmjeren na sajber-bezbjednost i stavio ga na raspolaganje manjoj grupi partnera radi testiranja.
