Menu
Cyber-osiguravatelji godinama usavršavaju pravila kojima određuju što se smatra hakerskim napadom i kada treba isplatiti odštetu. Autonomni AI agenti sada tu relativno jasnu logiku okreću naglavačke.
Što ako kompanija svojevoljno omogući AI agentu pristup svojoj računalnoj mreži, a on potom napravi nešto što nitko od ljudi nije tražio — pronađe sigurnosni propust, iskoristi ga, dođe do povjerljivih podataka ili čak pokuša pristupiti nekom drugom sustavu?
Je li to hakiranje?
Za cyber-osiguravatelje odgovor izaziva glavobolju.
Pojava sve sposobnijih autonomnih AI agenata tjera velike osiguravateljske kuće da preispitaju neke od osnovnih pojmova na kojima su godinama gradile police cyber-osiguranja. Među kompanijama koje analiziraju postojeća pravila i prilagođavaju formulacije polica nalaze se MSIG, QBE i Beazley, piše Reuters.
Problem je u tome što je tradicionalni cyber napad relativno lako definirati. Netko neovlašteno ulazi u sustav, ukrade lozinku, instalira ransomware ili na neki drugi način kompromitira mrežu.
AI agent može napraviti nešto vrlo slično — ali bez klasičnog napadača.
Autonomni AI agenti razlikuju se od klasičnih chatbotova po tome što nakon početne naredbe mogu samostalno izvršavati niz zadataka, donositi odluke i koristiti različite alate.
Kompanija bi, primjerice, mogla dati AI agentu pristup svojoj infrastrukturi kako bi pronašao sigurnosne propuste. No što ako agent tijekom izvršavanja zadatka zaključi da mora iskoristiti ranjivost, pribaviti dodatne ovlasti ili pristupiti sustavu kojem inače ne bi smio pristupati?
U tradicionalnom modelu cyber-osiguranja upravo bi takvo ponašanje moglo izgledati kao napad.
Razlika je samo u tome što je kompanija sama pustila „napadača“ kroz ulazna vrata.
To više nije samo hipotetsko pitanje.
OpenAI, Anthropic i Meta posljednjih su mjeseci izvijestili o slučajevima u kojima su AI agenti tijekom testiranja pokazivali neočekivano ponašanje i izlazili iz okvira zadataka ili okruženja koje su im istraživači namijenili. Reuters navodi da takvi incidenti zasad nisu rezultirali prijavljenom materijalnom štetom, ali su osiguravateljima pokazali koliko brzo nastaje nova kategorija rizika.
Problem je postao još konkretniji ovog ljeta, kada su istraživači analizirali incident u kojem su stotine OpenAI-jevih agenata kompromitirale sustave platforme Hugging Face te pokušavale prikriti dio svojih aktivnosti. OpenAI je potvrdio nalaze istrage i najavio dodatne sigurnosne mjere.
Za osiguravatelje ovo otvara prilično neugodno pitanje.
Ako zaposlenik slučajno izbriše bazu podataka, riječ je o jednoj vrsti rizika. Ako haker provali u bazu i izbriše je, riječ je o drugoj.
Ali što ako AI agent kojem je kompanija dala dopuštenje za upravljanje sustavom samostalno odluči napraviti nešto destruktivno?
Je li to cyber napad, softverska pogreška, poslovna pogreška ili odgovornost kompanije koja je AI-ju dala preširoke ovlasti?
Od te definicije može ovisiti višemilijunska isplata osiguranja.
Reuters navodi da osiguravatelji u zadnje vrijeme počinju analizirati kako postojeće police tretiraju situacije u kojima AI autonomno izazove štetu. Industrija zasad uglavnom ne pokušava jednostavno isključiti svaki rizik povezan s umjetnom inteligencijom iz cyber-polica. QBE, primjerice, AI promatra više kao čimbenik koji pojačava postojeće cyber-rizike nego kao potpuno odvojenu kategoriju.
To znači da bi napad izveden uz pomoć AI-ja i dalje mogao biti pokriven ako rezultat odgovara klasično definiranom cyber-incidentu.
No granice postaju znatno nejasnije kada AI djeluje potpuno autonomno.
Istodobno se na tržištu pojavljuje još jedan trend: osiguravatelji žele mogućnost izričitog isključivanja pojedinih AI rizika iz polica osiguranja.
Insurance Journal sredinom kolovoza izvijestio je o rastućem interesu američkih osiguravatelja za posebna AI izuzeća u komercijalnim policama. Prema stručnjacima koje je citirao taj časopis, osiguravateljske kuće sve češće regulatorima prijavljuju dodatke policama kojima mogu ograničiti svoju izloženost štetama povezanima s umjetnom inteligencijom.
Razlog nije teško pronaći.
Osiguranje najbolje funkcionira kada osiguravatelj raspolaže velikom količinom povijesnih podataka iz kojih može procijeniti koliko se često određeni događaj događa i kolika je njegova prosječna šteta.
Kod autonomnih AI agenata takva povijest praktički ne postoji.
QBE je ranije ove godine upozorio da je osiguravanje AI rizika još uvijek vrlo neizvjesno i nedovoljno razvijeno tržište te ga usporedio s ranim godinama cyber-osiguranja. Kompanija navodi da bi takvim proizvodima pristupala postupno, uz ograničavanje početne izloženosti i pažljivo praćenje budućih odštetnih zahtjeva.
Još je veći problem ono što osiguravatelji nazivaju sistemskim rizikom.
Zamislite da milijuni kompanija koriste isti veliki AI model ili nekoliko vrlo sličnih agenata. Sigurnosni propust ili neočekivano ponašanje takvog sustava tada ne bi pogodili samo jednu kompaniju, nego potencijalno tisuće njih gotovo istodobno.
Za osiguravatelja je to puno opasniji scenarij od klasičnog pojedinačnog cyber napada.
Beazley upozorava da rast međusobne povezanosti kompanija i njihovih tehnoloških dobavljača već povećava mogućnost sistemskih cyber-incidenata, dok AI istodobno stvara nove cyber, regulatorne i reputacijske rizike, kao i rizike povezane s intelektualnim vlasništvom.
A tržište koje sve to mora osiguravati brzo raste.
Prema podacima koje prenosi Reuters, globalno tržište cyber-osiguranja vrijedilo je gotovo 15 milijardi dolara 2025. godine, a do 2030. moglo bi dosegnuti oko 28 milijardi dolara. Aon procjenjuje i da bi već do 2027. gotovo petina cyber napada mogla na neki način uključivati generativnu umjetnu inteligenciju.
Ironija je u tome što bi jedan od najvećih problema cyber-osiguranja uskoro mogao postati utvrđivanje postoji li uopće haker.
AI već omogućuje kriminalcima automatizaciju dijelova napada, brže pronalaženje ranjivosti i izradu zlonamjernog koda. Ali autonomni agenti stvaraju novu kategoriju problema: sustav ne mora biti kompromitiran izvana da bi se počeo ponašati kao da jest.
Kompanija može sama instalirati AI, dati mu korisnički račun, API ključeve i pristup internim alatima — i tek tada otkriti da je granica između „ovlaštenog korisnika“ i „napadača“ postala puno manje jasna.
Za tehnološke kompanije to je sigurnosni problem.
Za odvjetnike problem odgovornosti.
A za osiguravatelje možda nešto još neugodnije: problem definicije.
Jer prije nego što odluče hoće li platiti račun nakon sljedećeg velikog AI incidenta, morat će odgovoriti na pitanje koje je donedavno zvučalo gotovo apsurdno — može li vas hakirati vlastiti AI?
