I Kralj Charles se uključio u javnu raspravu o opasnostima (pre)moćne umjetne inteligencije

Britanski monarh Kralj Charles III. možda nije prvo ime koje bismo povezali s raspravom o umjetnoj inteligenciji, ali i on se iz nekog razloga odlučio ozbiljno uključiti u jednu od najvažnijih tehnoloških rasprava današnjice.

Charles će u četvrtak u škotskom Dumfries Houseu okupiti predstavnike nekih od najmoćnijih kompanija iz AI industrije, među kojima su OpenAI, Google DeepMind, Anthropic i Nvidia. Njegova je poruka tehnološkim liderima jasna: razvoj umjetne inteligencije mora ostati u službi čovjeka, a ljudi ne smiju izgubiti kontrolu nad sve naprednijim autonomnim sustavima.

Prema pisanju Reutersa, Charles bi sudionicima trebao poručiti da se danas donose odluke koje će oblikovati živote budućih generacija. Posebno će zatražiti jamstva da tehnološki napredak neće dovesti do situacije u kojoj ljudi više ne mogu učinkovito nadzirati i usmjeravati sustave koje su sami stvorili.

Kralj se uključuje u raspravu koja dijeli Silicijsku dolinu

Charlesova intervencija dolazi u trenutku kada se vodeći ljudi AI industrije sve otvorenije razilaze oko pitanja koliko daleko regulacija treba ići.

Izvršni direktor Anthropica Dario Amodei posljednjih mjeseci sve je glasniji oko mogućih rizika povezanih s najnaprednijim AI sustavima, dok je čelnik OpenAI-ja Sam Altman zagovarao neovisni nadzor nad najmoćnijim AI modelima. S druge strane, šef Nvidije Jensen Huang oprezniji je prema novim regulatornim ograničenjima i smatra da tržišni mehanizmi trebaju imati ključnu ulogu u očuvanju sigurnosti.

Na sastanku će, uz predstavnike tehnoloških kompanija, sudjelovati i britanski ministar nadležan za umjetnu inteligenciju te Paolo Benanti, franjevac i savjetnik Vatikana za pitanja umjetne inteligencije.

Od klimatskih promjena do umjetne inteligencije

Charles je desetljećima poznat po svom javnom angažmanu na području klimatskih promjena i održivosti, a čini se da umjetnu inteligenciju sada promatra kroz sličnu prizmu: kao tehnologiju s golemim potencijalom, ali i s posljedicama koje bi mogle oblikovati društvo desetljećima.

Održivost će također biti jedna od tema razgovora. Sudionici bi trebali raspravljati o načelima prema kojima bi razvoj AI-ja trebao istodobno štititi ljudsko dostojanstvo i uzimati u obzir utjecaj tehnološke infrastrukture na okoliš.

To nije zanemariv problem. AI industrija posljednjih je godina pokrenula golemi investicijski ciklus u podatkovne centre, čipove i energetsku infrastrukturu, dok istodobno raste zabrinutost zbog količine električne energije potrebne za treniranje i rad sve većih AI modela.

Pitanje više nije samo koliko AI može napredovati, nego tko će ga kontrolirati

Charlesovo upozorenje dolazi u trenutku kada rasprava o sigurnosti umjetne inteligencije postupno izlazi iz uskog kruga tehnoloških stručnjaka i postaje šire političko i društveno pitanje.

Istoga dana kada se održava sastanak u Škotskoj, sigurnosni stručnjaci iz SAD-a i Kine predložili su uvođenje svojevrsnih „crvenih linija” za korištenje umjetne inteligencije u vojnim i nuklearnim sustavima, uz zahtjev da ljudi zadrže konačnu kontrolu nad najkritičnijim odlukama.

Problem je u tome što se istodobno odvija globalna utrka u kojoj SAD, Kina i najveće tehnološke kompanije imaju snažan interes razvijati sve sposobnije modele što je brže moguće. Upravo zato iznimno je teško postići globalni dogovor o tome gdje bi trebalo povući granice razvoja umjetne inteligencije.

Charles naravno nema regulatorne ovlasti kojima bi mogao prisiliti tehnološke kompanije da promijene smjer razvoja AI-ja. No činjenica da za isti stol dovodi OpenAI, Anthropic, Google DeepMind i Nvidiju pokazuje koliko se zapravo rasprava o umjetnoj inteligenciji promijenila.