Menu
Američki Kongres možda ima još samo godinu dana za uvođenje ozbiljnih sigurnosnih mjera vezanih uz umjetnu inteligenciju prije nego što daljnji razvoj tehnologije dodatno oteža njezin nadzor, upozorio je Geoffrey Hinton, jedan od pionira moderne umjetne inteligencije.
„Možda godinu dana, ali ne puno više od godinu dana”, rekao je Hinton nakon zatvorenog sastanka stručnjaka za umjetnu inteligenciju s članovima Senata i Zastupničkog doma na Capitol Hillu.
Hinton, profesor emeritus Sveučilišta u Torontu i dobitnik Nobelove nagrade za fiziku, često se opisuje kao jedan od „kumova umjetne inteligencije” zbog svog pionirskog rada na neuronskim mrežama, tehnologiji koja čini jedan od temelja današnjih sustava umjetne inteligencije.
Njegovo upozorenje prvenstveno se odnosi na mogućnost razvoja superinteligencije – hipotetskih sustava umjetne inteligencije koji bi u širokom rasponu intelektualnih zadataka mogli nadmašiti ljudske sposobnosti.
Hinton tvrdi da su se procjene o tome kada bi takva tehnologija mogla biti razvijena posljednjih godina znatno skratile. Dok se nekoć govorilo o nekoliko desetljeća, dio istraživača danas smatra da bi takvi sustavi mogli nastati već u sljedećih nekoliko godina.
Njegove izjave dolaze u trenutku kada se u Washingtonu intenzivira rasprava o tome kako regulirati najnaprednije modele umjetne inteligencije, uključujući mogućnost uvođenja strožeg testiranja, neovisnog nadzora i mehanizama za zaustavljanje sustava koji pokažu ozbiljne sigurnosne rizike.
Velike tehnološke kompanije pritom nisu jedinstvene oko pitanja koliko bi daleko regulacija trebala ići. OpenAI i Anthropic posljednjih su mjeseci pozivali na snažnije sigurnosne mehanizme i neovisni nadzor, dok dio industrije upozorava da bi pretjerana regulacija mogla usporiti tehnološki razvoj i oslabiti konkurentnost američkih kompanija.
Posebnu zabrinutost izaziva razvoj AI agenata – sustava koji, za razliku od klasičnih chatbotova, mogu samostalno obavljati niz zadataka, koristiti računalne alate, raditi s drugim programima i poduzimati određene radnje uz relativno malo ljudskog nadzora.
Hinton već godinama upozorava da bi dovoljno napredni sustavi umjetne inteligencije jednog dana mogli postati toliko sposobni da bi njihovo zadržavanje pod ljudskom kontrolom postalo vrlo teško.
Ipak, među stručnjacima ne postoji konsenzus o tome koliko je takav scenarij vjerojatan ni koliko bi brzo mogao postati stvarnost.
Dio uglednih istraživača smatra da su upozorenja o neposrednoj egzistencijalnoj prijetnji pretjerana te da bi veću pozornost trebalo posvetiti problemima koji su prisutni već danas, poput prijevara, dezinformacija, diskriminacije, zloupotrebe umjetne inteligencije i utjecaja automatizacije na tržište rada.
Pitanje sigurnosti umjetne inteligencije u međuvremenu je postalo i važno političko pitanje u SAD-u. Dio demokratskih i republikanskih zastupnika traži snažnije zaštitne mjere, dok administracija predsjednika Donalda Trumpa naglašava potrebu očuvanja američke tehnološke prednosti nad Kinom i opreznija je prema novim saveznim ograničenjima za AI industriju.
