Suosnivač OpenAI-a pokrenuo vlastitu tvrtku Safe Superintelligence

Ilya Sutskever, jedan od suosnivača OpenAI-a, pokrenuo je novu tvrtku, Safe Superintelligence Inc. (SSI), samo mjesec dana nakon formalnog odlaska iz OpenAI-a, piše Bloomberg.

Sutskever, koji je dugo godina bio glavni znanstvenik u OpenAI-u, osnovao je SSI zajedno s bivšim partnerom Y Combinatora Danielom Grossom i bivšim inženjerom OpenAI-a Danielom Levyjem.

U OpenAI-u, Sutskever je bio ključan za napore tvrtke u poboljšanju sigurnosti umjetne inteligencije (AI) s pojavom "superinteligentnih" AI sustava, područjem na kojem je radio zajedno s Janom Leikeom, koji je vodio OpenAI-ov tim za tzv. "superusklađivanje". I Sutskever i Leike napustili su tvrtku u svibnju nakon ranijeg dramatičnog sukoba s vodstvom OpenAI-a oko pristupa pitanjima sigurnosti AI-a. Leike sada vodi tim u konkurentskoj AI tvrtki Anthropic, podsjeća TechCrunch.

Sutskever već dugo piše o složenijim aspektima sigurnosti AI-a. U blogu objavljenom 2023. godine, Sutskever, zajedno s Leikeom, predvidio je kako bi AI s inteligencijom superiornom od one ljudske mogao biti stvoren već unutar idućih nekoliko godina - i da, kada se to dogodi, neće nužno biti dobronamjeran, što zahtijeva istraživanje načina za kontrolu i ograničavanje ovakve vrste napredne tehnologije..

"SSI je naša misija, naše ime i cijeli naš plan proizvoda, jer je to naš jedini fokus. Naš tim, investitori i poslovni model su usklađeni kako bi postigli SSI. Pristupamo sigurnosti i sposobnostima istovremeno, kao tehničkim problemima koje treba riješiti kroz revolucionarno inženjerstvo i znanstvena otkrića", poručuju iz kompanije.

Zanimljivo, za razliku od OpenAI-a koji je u izvorno pokrenut kao neprofitna organizacija, SSI je od početka dizajniran kao klasična kompanija. Sudeći prema interesu koji vlada za tehnologijom umjetne inteligencije, uopće nema sumnje da će SSI bez problema doći do željenog kapitala.

"Od svih problema s kojima se suočavamo, prikupljanje kapitala neće biti jedan od njih", rekao je Gross u razgovoru za Bloomberg.

SSI je otvorio urede u Palo Altu (Kalifornija) i Tel Avivu, gdje trenutno regrutira AI stručnjake.