Direktor kompanije Hugging Face poziva na „radikalnu transparentnost“ nakon nezabilježenog hakerskog napada kompanije OpenAI.
Nakon što je OpenAI nedavno priznao da je jedan od njegovih modela upao u sisteme AI platforme Hugging Face, generalni direktor kompanije Hugging Face, Klem Delang, objavio je na mreži X da leti za San Francisko kako bi obavio kratak razgovor sa tim „odmetnutim agentom“.
Zatim je u narednoj objavi u subotu Delang izložio šta je tražio od kompanije OpenAI. Naveo je da je pozvao na „radikalnu transparentnost“, tražeći od OpenAI-ja da objavi zapise (tragove) odmetnutih agenata kako bi čitava istraživačka zajednica mogla da prouči šta se dogodilo.
Takođe traži i više mogućnosti za zaštitnike, pozivajući OpenAI da izdvoji računarsku snagu u vrijednosti od 100 miliona dolara kako bi pomogao zajednici Hugging Face-a da izgradi snažnu sajber odbranu pomoću najboljih otvorenih i zatvorenih modela.
Delang je dodao: „Prvi sajber napad autonomnog agenta je događaj bez presedana. Zaslužuje i odziv bez presedana.“
Uprkos autonomnoj prirodi napada, stručnjaci za sajber bezbjednost sugerišu da bi krivica mogla da leži i u ljudskoj grešci – tačnije, u očiglednom propustu OpenAI-ja da pravilno konfiguriše ono što je trebalo da bude potpuno izolovano okruženje za testiranje.
Na pitanje o Delangovim komentarima, portparol OpenAI-ja potvrdio je da je do sastanka došlo i ukazao na zvaničnu objavu kompanije u kojoj se navodi: „Ovo je incident bez presedana i vjerujemo da predstavlja važan trenutak za bezbjednost vještačke inteligencije. Trenutno sprovodimo temeljnu analizu zajedno sa spoljnim savjetnicima i pod nadzorom našeg Odbora za bezbjednost i sigurnost. Kada analiza bude završena, planiramo da u narednim nedjeljama objavimo tehnički izvještaj o onome što smo naučili.“
(B92)
