Menu
Tik pred otkaz Samu Altmanu, izvršnom direktoru OpenAI-a, istraživači OpenAI-a napisali su pismo upravi kompanije upozoravajući na otkriće u tehnologiji umjetne inteligencije koje, kako oni tvrde, može zaprijetiti opstanku čovječanstva, piše Reuters, pozivajući se na izvore unutar OpenAI-a.
Navedeno pismo i algoritam umjetne inteligencije, o kojima se do tada nije izvještavalo, ključni su događaji prije smjene Altmana, za kojeg se smatra da je globalni predvodnik razvoja generativne umjetne inteligencije, tvrde ova dva Reutersova izvora. Prije njegovog trijumfalnog povratka u utorak kasno navečer, više od 700 zaposlenika prijetilo je da će dati otkaz i pridružiti se Microsoftu u znak solidarnosti s otpuštenim Altmanom.
Izvori navode pismo kao jedan od faktora među dugim popisom pritužbi uprave koje su dovele do Altmanova (privremenog) otkaza, a među njima su i zabrinutosti zbog komercijalizacije tehnologije prije razumijevanja posljedica koje donosi.
OpenAI je ovih dana svojim zaposlenicima priznao postojanje tajnog projekta projekta Q* (Q-Star), koji navodno skriva ključne razvojne tehnologije koje bi mogle dovesti do stvaranja opće umjetne inteligencije (AGI) koja ima mogućnost shvaćanja i razumijevanja konteksta.
S obzirom na ogromne računalne resurse, novi model uspio je riješiti određene matematičke probleme, rekao je Reutersov izvor. Iako izvodi matematiku samo na razini učenika osnovne škole, uspješno rješavanje takvih testova potaknulo je istraživače na veliki optimizam glede budućeg uspjeha Q*.
Istraživači smatraju da je matematika granica razvoja generativne umjetne inteligencije. Trenutačno, generativna umjetna inteligencija dobra je u pisanju i prevođenju jezika statističkim predviđanjem sljedeće riječi, a odgovori na isto pitanje mogu varirati. No, usvajanje sposobnosti rješavanja matematičkih zadataka - gdje postoji samo jedan ispravan odgovor - implicira da bi AI imala veće sposobnosti rasuđivanja slične ljudskoj inteligenciji.
Za razliku od kalkulatora koji može riješiti ograničen broj operacija, AGI može generalizirati, učiti i shvaćati.
U pismu upravi, OpenAI-jevi istraživači su ukazali na moć i potencijalnu opasnost umjetne inteligencije, rekli su Reutersovi izvori, ne precizirajući točan sadržaj pisma. Među računalnim znanstvenicima dugo se raspravlja o opasnosti koju predstavljaju visoko inteligentni strojevi, primjerice ako bi odlučili da je uništavanje čovječanstva u njihovom interesu.
Osim što je najavio niz novih alata na demonstraciji ovog mjeseca, povratnik u OpenAI, Sam Altman, prošlog je tjedna nagovijestio na summitu svjetskih lidera u San Franciscu kako vjeruje kako su veliki pomaci u razvoju AI tehnologije na vidiku.
"Četiri puta dosad u povijesti OpenAI-a, posljednji put bio je upravo prije nekoliko tjedana, imao sam priliku biti u prostoriji kad smo doslovno pomaknuli veo neznanja unatrag i granicu otkrića naprijed, i imati tu priliku profesionalna je čast života", rekao je na summitu Azijsko-pacifičkog gospodarskog suradnje.
Dan kasnije, uprava je otpustila Altmana.
