Menu
Geoffrey Hinton, jedan od pionira moderne umjetne inteligencije i dobitnik Nobelove nagrade za fiziku, ponovno upozorava da čovječanstvo možda razvija tehnologiju koju više neće znati kontrolirati jednom kada postane inteligentnija od svojih tvoraca.
U novom intervjuu za CNN Hinton je rekao da bismo trebali biti "vrlo zabrinuti" ako prije razvoja superinteligentnih sustava ne pronađemo način kako ih pouzdano držati pod nadzorom.
Problem je, tvrdi, u tome što se najveće tehnološke kompanije danas utrkuju u razvoju sve sposobnijih AI modela, dok se razmjerno malo resursa ulaže u razumijevanje njihova ponašanja i sigurnost.
"Trenutačno se velike kompanije natječu u tome tko će razviti inteligentniji AI, zbog čega AI agenti postaju sve moćniji, a da pritom nemamo jasnu ideju kako ih kontrolirati", rekao je Hinton.
Hinton već neko vrijeme tvrdi da bi umjetna inteligencija u relativno bliskoj budućnosti mogla nadmašiti ljude u gotovo svim intelektualnim zadacima.
Prema njegovoj procjeni, to bi se moglo dogoditi unutar sljedećih pet do 20 godina.
U tom slučaju čovječanstvo bi se prvi put moglo naći u situaciji u kojoj više nije najinteligentniji oblik inteligencije na Zemlji.
Hinton pritom koristi prilično jednostavnu, ali neugodnu usporedbu.
Ako budući AI bude inteligentniji od čovjeka otprilike onoliko koliko je čovjek inteligentniji od kokoši, teško je očekivati da ćemo takav sustav moći jednostavno nadmudriti ili trajno držati pod kontrolom.
Prema Hintonu, pravo pitanje zato nije možemo li spriječiti superinteligentni AI da se riješi ljudi ako bi mu oni postali prepreka.
Pitanje je kako postići da takav cilj uopće nikada ne razvije.
Tu Hinton zagovara pomalo neobično rješenje.
Umjesto pokušaja da čovječanstvo trajno zadrži potpunu kontrolu nad inteligentnijim AI sustavima, smatra da bi istraživači trebali razvijati sustave čiji bi temeljni ciljevi uključivali zaštitu ljudi i brigu o njihovoj dobrobiti.
Hinton je tu ideju ranije usporedio s svojevrsnim "majčinskim instinktom".
Njegova logika je da već poznajemo primjer u kojem fizički slabije i manje sposobno biće može imati velik utjecaj na inteligentnije i moćnije: odnos djeteta i majke.
Ako AI jednog dana doista postane znatno sposobniji od čovjeka, Hinton smatra da bi možda bilo sigurnije osigurati da njegovi temeljni ciljevi uključuju zaštitu ljudi, umjesto da pokušavamo beskonačno održavati tehnološku nadmoć nad njim.
Problem je što zasad nitko ne zna kako takav mehanizam pouzdano ugraditi u napredne AI sustave.
Hintonova upozorenja dolaze u trenutku kada se unutar same industrije umjetne inteligencije sve otvorenije raspravlja o potencijalnim ekstremnim rizicima tehnologije.
Dio istraživača koji rade ili su radili u vodećim AI kompanijama upozorava da razvoj sve sposobnijih sustava napreduje brže od sposobnosti industrije da razumije njihovo ponašanje i zajamči da će ostati pod ljudskom kontrolom.
To stvara neobičan paradoks.
Kompanije istodobno tvrde da bi njihova tehnologija mogla potpuno promijeniti gospodarstvo, znanost i svakodnevni život, dok neki od ljudi koji su sudjelovali u njezinu razvoju upozoravaju da bi njezin najekstremniji mogući ishod mogao biti katastrofalan.
Hinton smatra da utrka za komercijalizacijom tehnologije taj problem dodatno pogoršava.
AI kompanije imaju snažan ekonomski motiv što prije predstavljati sposobnije modele, dok ulaganja u sigurnost nemaju jednako brz i izravan komercijalni povrat.
Rezultat bi mogla biti tehnološka utrka u kojoj nijedna velika kompanija ne želi biti prva koja će usporiti.
