UN: Umjetna inteligencija postaje egzistencijalna prijetnja cijelom čovječanstvu

Umjetna inteligencija više nije samo tehnološka priča o većoj produktivnosti, chatbotovima i milijardama dolara koje se ulažu u podatkovne centre. Prema upozorenju visokog povjerenika UN-a za ljudska prava Volkera Türka, razvoj naprednih AI sustava mogao bi prerasti u nešto daleko ozbiljnije – potencijalnu egzistencijalnu prijetnju čovječanstvu.

Türk je u ponedjeljak pred Vijećem UN-a za ljudska prava u Ženevi poručio kako dijeli zabrinutost stručnjaka iz same AI industrije da bi dovoljno napredni sustavi umjetne inteligencije mogli predstavljati rizik za opstanak čovječanstva. Istodobno je pozvao države i tehnološke kompanije da mnogo ozbiljnije pristupe pitanju sigurnosti umjetne inteligencije prije nego što tehnologija postane toliko moćna da će biti jako teško uspostaviti učinkovit nadzor nad istom.

Njegova poruka dolazi u trenutku kada vodeće tehnološke kompanije ubrzano razvijaju sve autonomnije AI modele, dok regulatorni okvir i dalje pokušava držati korak s tehnologijom koja napreduje iznimno brzo.

Sve veća moć u rukama malog broja kompanija

Türk nije imenovao pojedine kompanije, ali je posebno upozorio na činjenicu da se golema moć nad razvojem umjetne inteligencije nalazi u rukama vrlo malog broja ljudi i korporacija.

Među vodećim igračima na tržištu danas su OpenAI, Google, Meta i Anthropic, kompanije koje ulažu desetke milijardi dolara u razvoj novih modela umjetne inteligencije, podatkovnih centara i računalne infrastrukture potrebne za razvoj i rad naprednih AI sustava.

Problem više nije samo u tome tko će imati najbolji chatbot ili najprofitabilniji AI proizvod. Kako modeli dobivaju sposobnost samostalnog obavljanja sve složenijih zadataka, sve važnije postaje pitanje tko određuje granice njihove primjene.

Türk smatra da bi države koje razvijaju najnaprednije AI sustave, ali i zemlje uključene u njihove opskrbne lance, trebale barem dogovoriti zajedničke granice preko kojih razvoj tehnologije ne bi smio prijeći.

Strah od AI-ja više nije nišna tema

Ideja da bi umjetna inteligencija jednog dana mogla predstavljati egzistencijalni rizik još se prije nekoliko godina često smatrala hipotetskim ili čak znanstvenofantastičnim scenarijem.

Danas o tome otvoreno govore i čelnici nekih od najvažnijih kompanija koje razvijaju tu tehnologiju.

Među njima je i izvršni direktor OpenAI-ja Sam Altman, koji je ranije upozoravao da razvoj vrlo napredne umjetne inteligencije zahtijeva međunarodni nadzor i jasne sigurnosne standarde.

Türk je upravo takva upozorenja iz tehnološke industrije naveo kao jedan od razloga zbog kojih političke institucije više ne bi smjele AI sigurnost promatrati kao apstraktan problem iz neke daleke budućnosti.

UN posljednjih godina sve snažnije zagovara međunarodno usklađivanje pravila za razvoj i uporabu umjetne inteligencije.

Regulacija pokušava držati korak s tehnologijom

Upravo bi to mogao biti jedan od ključnih problema sljedeće faze razvoja AI industrije.

Tehnološke kompanije imaju snažan komercijalni interes da što brže razvijaju nove modele. Svaki novi skok u sposobnostima može donijeti milijarde dolara nove vrijednosti, privući korisnike i osigurati prednost pred konkurencijom.

Regulatori, s druge strane, djeluju znatno sporije.

Europska unija već je usvojila Akt o umjetnoj inteligenciji, poznatiji kao AI Act, jedan od najambicioznijih pokušaja regulacije umjetne inteligencije na svijetu. Ipak, ubrzani razvoj najnaprednijih modela već otvara pitanja koja postojeći propisi nisu nužno mogli u potpunosti predvidjeti.

Primjerice, što se događa ako AI agenti mogu samostalno pisati računalni kod, obavljati financijske transakcije, provoditi znanstvena istraživanja ili upravljati drugim AI sustavima?

I što ako njihove sposobnosti počnu napredovati brže nego što ih njihovi tvorci mogu pouzdano testirati?

Upravo takvi scenariji stoje iza sve češćih poziva na međunarodni sustav sigurnosnih pravila za razvoj najnaprednijih modela umjetne inteligencije.