Kompanija OpenAI saopštila je da su dva njena modela vještačke inteligencije „otela kontroli” i uspješno hakovala „Hutting Face”, digitalnu biblioteku za vještačku inteligenciju koja je veoma popularna među programerima.
Incident se dogodio prošle sedmice tokom testiranja sajber-bezbjednosnih sposobnosti OpenAI sistema i pokazao scenario nalik naučnoj fantastici, za koji kompanije koje razvijaju vještačku inteligenciju već neko vrijeme upozoravaju da bi uskoro mogao postati stvarnost.
Kompanije koje razvijaju vještačku inteligenciju, poput OpenAI-ja i Antropika, tokom protekle godine predstavile su modele posebno prilagođene otkrivanju sajber-bezbjednosnih slabosti, uz upozorenje da bi njihova tehnologija mogla da stvori nove rizike, jer može pronalaziti propuste u računarskim mrežama kompanija brže nego što ih stručnjaci mogu otkloniti.
Saopštenje kompanije OpenAI ukazuje na to da takvi bezbjednosni incidenti počinju da se dešavaju i da čak ni tehnološki najnaprednije kompanije za razvoj vještačke inteligencije možda nisu u potpunosti spremne za njih.
Upad u „Hutting Face” započeo je kada je OpenAI testirao kombinaciju dva svoja modela – GPT-5.6 Sol i još moćniji model koji još nije javno predstavljen – kako bi provjerio koliko uspješno mogu da povežu više ranjivosti u jedinstven sajber-napad.
Test je bio zamišljen tako da modeli rade u bezbjednom okruženju za testiranje, poznatom kao „sendboks”. Međutim, modeli su pronašli ranjivost koja im je omogućila da izađu iz tog izolovanog okruženja i povežu se sa internetom.
Zatim su kao metu odabrali „Hutting Face”, zaključivši da biblioteka, koja sadrži milione modela vještačke inteligencije, može da pruži informacije koje bi im pomogle da uspješno prođu bezbjednosnu provjeru.
OpenAI je saopštio da sarađuje sa bibliotekom „Hutting Face” na otklanjanju propusta koji su omogućili napad.
„Smatramo da je ovo sajber-incident bez presedana, koji uključuje najsavremenije sajber-sposobnosti, i reagujemo u skladu s tim. Uvodićemo stroge kontrole u konfiguraciji infrastrukture, čak i po cijenu usporavanja istraživanja, dok se ranjivosti ne otklone”, navodi OpenAI.
„Hutting Face” je prošle sedmice saopštio da je otkrio upad i da zna da ga je izazvao autonomni sistem, ali tada nije naveo da iza incidenta stoji OpenAI, piše RTS.
Ugrožena bezbjednost kompanija
Izvršni direktor biblioteke, Klem Delang, izjavio je da je „zahvalan na saradnji” sa kompanijom OpenAI nakon hakerskog napada.
„Ovaj incident, vjerovatno prvi takve vrste, potvrđuje ono u šta dugo vjerujemo: bezbjednost vještačke inteligencije neće riješiti nijedna kompanija koja radi u tajnosti”, rekao je Delang.
Modeli vještačke inteligencije pokazali su se izuzetno sposobnim za programiranje, što ih čini korisnim i hakerima i stručnjacima zaduženim za zaštitu računarskih mreža.
U aprilu je Antropik predstavio model za sajber-bezbjednost pod nazivom „Mitos” (Mythos), koji je učinio dostupnim samo malom broju organizacija kako bi im pomogao u odbrani od sajber-napada.
Nedugo zatim, OpenAI je predstavio sopstveni model za sajber-bezbjednost i omogućio ograničenom broju organizacija da ga koriste za jačanje svoje odbrane prije nego što ga ponudi širem krugu korisnika.
U utorak je i Gugl saopštio da je razvio model usmjeren na sajber-bezbjednost i stavio ga na raspolaganje manjoj grupi partnera radi testiranja.
(SMART LIFE)
