Microsoft razvija novi računalni čip za umjetnu inteligenciju

Upotreba ChatGPT-a navodno OpenAI-u dnevno generira troškove do 700.000 dolara zbog skupog tehnološkog infrastrukturnog sustava na kojem se temelji ovaj sustav umjetne inteligencije, rekao je Dylan Patel, glavni analitičar tvrtke SemiAnalysis koja se bavi istraživanjem poluvodiča.

Patel kaže kako su troškovi održavanja ChatGPT-a iznimno visoki zato jer ChatGPT zahtijeva ogromne količine računalne snage za izračunavanje odgovora na temelju korisničkih zahtjeva.

"Većina ovog troška temelji se na skupim poslužiteljima na kojima radi ChatGPT", rekao je Patel za tehnološki časopis The Information.

U razgovoru s Insiderom, Patel je rekao kako su stvarni troškovi danas vjerojatno još veći jer je novi model ChatGPT-a, GPT-4, još skuplji za rad i održavanje.

Iako obuka jezičnih modela ChatGPT-a vjerojatno košta desetke milijuna dolara, operativni troškovi" značajno premašuju troškove obuke kada se model implementira na bilo kojoj razumnoj razini", rekli su Patel i Afzal Ahmad, još jedan analitičar tvrtke SemiAnalysis, u razgovoru za Forbes.

U nastojanju da smanji troškove rada generativnih AI modela, Microsoft razvija čip za AI koji naziva Athena, prvi je objavio The Information. Projekt, koji je započeo 2019. godine, dolazi nakon nekoliko godina Microsoftovog dogovora vrijednog milijardu dolara s OpenAI-jem, koji je zahtijevao da OpenAI pokreće svoje modele isključivo na Microsoftovim Azure cloud poslužiteljima.

Na projektu navodno radi 300 zaposlenika Microsofta, a Athena će ugledati svjetlo dana već iduće godine, piše The Information.