Menu
Govoreći na seminaru "Great AI Debate" na četverodnevnom Abundance Summitu ranije prošlog mjeseca, Elon Musk je ponovno promijenio svoju procjenu rizika za tehnologiju umjetne inteligencije rekavši kako postoji vjerojatnost od 10 ili 20 posto da AI uništi čovječanstvo.
"(No), mislim da pozitivan scenarij vjerojatno nadmašuje negativan scenarij."
Roman Yampolskiy, istraživač sigurnosti umjetne inteligencije i direktor Laboratorija za kibernetičku sigurnost na Sveučilištu Louisville, rekao je za Business Insider da je Musk u pravu kad kaže kako AI može biti egzistencijalni rizik za čovječanstvo, ali "ako išta, malo je previše konzervativan" u svojoj procjeni opasnosti.
"Stvarna vjerojatnost je puno veća prema mom mišljenju", rekao je Yampolskiy, govoreći o "vjerojatnosti propasti" ili vjerojatnosti da AI preuzme kontrolu nad čovječanstvom ili izazove događaj koji bi okončao ljudsku vrstu, poput stvaranja novog biološkog oružja ili izazivanja kolapsa društva zbog masovnog kibernetičkog napada ili nuklearnog rata.
Yampolskiy procjenjuje rizik od takvog scenarija na "99.99999%".
"Nisam siguran zašto itko misli da je dobra ideja slijediti ovu tehnologiju na bilo koji način", dodao je Yampolskiy. "Ako Musk misli da će njegovi konkurenti ostvariti veći napredak od njega, to nije važno jer je nekontrolirana nadmoćna inteligencija jednako loša, bez obzira tko je stvori."
Iako je zagovornik regulacije AI-ja, Musk je prošle godine osnovao tvrtku pod nazivom xAI, posvećenu daljnjem razvoju AI tehnologije. xAI je konkurent OpenAI-u, tvrtki koju je Musk suosnovao sa Samom Altmanom prije nego što je 2018. godine odstupio s iz tvrtkinog upravnog odbora.
Musk sada procjenjuje kako će digitalna inteligencija nadmašiti svu ljudsku inteligenciju do 2030. godine. Iako tvrdi da su potencijalne pozitivne strane primjene AI-a važnije od negativnih, Musk je priznao rizik za svijet ako se razvoj AI-ja nastavi u trenutnom smjeru.
"Vi doslovno uzgajate AGI (opća umjetna inteligencija, op.a.) To je gotovo kao odgajanje djeteta, ali onog koji je poput super genijalca, kao dijete s božanskom inteligencijom - i važno je kako odgajate to dijete", rekao je Musk. "Jedna od stvari koju smatram iznimno važnom za sigurnost AI-ja je imati maksimalnu vrstu istraživanja istine i znatiželju AI-ja."
Musk je rekao da je njegov "konačan zaključak" u vezi s najboljim načinom postizanja sigurnosti AI-ja taj da se AI razvija na način koji ga prisiljava da bude istinit.
"Ne prisiljavajte AI da laže, čak i ako je istina neugodna", rekao je Musk o najboljem načinu da se ljudi zaštite od tehnologije. "To je vrlo važno. Nemojte natjerati AI da laže."
