Kako se generativna umjetna inteligencija sve više ugrađuje u razvoj softvera, trošak pokretanja temeljnih AI modela – poznat kao inferencija – postaje stavka koju finansijski direktori ne mogu zanemariti.
Softverski inženjeri i istraživači u tehnološkim kompanijama već se bore za pristup procesorima, dok se računalni kapaciteti za AI pažljivo raspoređuju prema važnosti projekata.
AI resursi jednako važni kao plata
Upotreba AI po korisniku raste znatno brže od ukupnog rasta resursa, što znači da pristup AI kapacitetima postaje kritičan za produktivnost. Programeri bez dovoljnog pristupa resursima mogli bi proizvesti manje softvera od svojih kolega, što direktno utiče na karijeru i pregovore o plati.
U razgovorima za posao kandidati sve češće pitaju koliki će biti budžet za AI obradu i traže dodatne benefite poput pretplate na Microsoftov Copilot ili tokena za računalne resurse, koje nude firme poput OpenAI i Anthropic.
Šta su tokeni?
Tokeni razlažu riječi i ulazne podatke u numeričke jedinice koje AI može obraditi. Jedan token je otprilike tri četvrtine riječi. Korišteni su i za određivanje cijene AI modela – standardno se naplaćuje po milion tokena.
Za finansijske direktore ovo predstavlja novi značajan trošak, koji bi u budućnosti mogao činiti više od 20% troška na plate, prema procjenama Business Insidera.
U eri AI, pristup računalnim resursima postaje jednako važan kao i visina plate i bonusa, a tokeni i AI pretplate sve češći su dio paketa pogodnosti za vrhunske softverske inženjere.
(tportal)
