Open AI osnovao novi tim za procjenu rizika vještačke inteligencije

Kalifornijska kompanija Open AI objavila je da je stvorila novi tim koji je zadužen za bezbjednost modela vještačke inteligencije i garantuje da AI ne predstavlja prijetnju za čovječanstvo.

Tim stručnjaka nazvan „Pripravnost“ će predvoditi profesor Tehnološkog instituta u Masačusetsu (MIT) Aleksandar Madri, navodi se na veb stranici kalifornijske firme za razvoj AI.

Zadatak tima je da „prati, procjenjuje, predviđa i štiti od rizika“ koji mogu da dovedu do globalne katastrofe zbog sve moćnijih modela vještačke inteligencije.

Ovo je treći OpenAI tim koji će biti odgovoran za to da proizvodi kompanije budu u skladu sa bezbjednosnim standardima.

Tim „Sistemi bezbjednosti“ je fokusiran na sprečavanje zloupotreba postojećih proizvoda kao što je ChatGPT, a tim „Superusklađivanje“ razvija bezbjednosne standarde za buduće AI modele.