AI agenti na internetu: Test Gugla otvorio pitanje zaštitnih mehanizama

Guglov model vještačke inteligencije Džemini tokom testa sajber sposobnosti samostalno je pristupio internetu i hakovao druge kompanije. Riječ je o prvom poznatom slučaju u kojem je sistem vještačke inteligencije te kompanije autonomno izveo takvu aktivnost.

Incident se dogodio u maju, u bezbjednosnom testu koji je sprovela nezavisna evaluaciona kuća Iregjular.

Heder Adkins, potpredsjednica za bezbjednosni inženjering u Guglu, rekla je da je Džemini pronašao javno dostupne podatke na mreži i pogodio pristupne podatke kako bi ušao na tri veb-stranice za koje je pretpostavio da spadaju u okvir testiranja.

„Osigurali smo da sve tri pogođene strane budu obaviještene i radili smo sa našim partnerom na izmjenama u procesu testiranja. Ovi događaji naglašavaju važnost obuke moćnih modela vještačke inteligencije kako bi djelovali odgovorno“, izjavila je Adkins, dodavši da je model u sva tri slučaja sam prekinuo hakovanje, piše ATV.

Volstrit džurnal, koji je prvi izvijestio o slučaju, navodi da je Džemini u jednom slučaju pogađao lozinke dok nije ušao u zaštićeni sistem. U druga dva slučaja model je pronašao akreditive u javnom repozitorijumu i preko njih ušao u zaštićene sisteme.

Portparol Iregjulara potvrdio je da je isti problem pogodio i druge laboratorije za vještačku inteligenciju i da su sve relevantne kompanije obaviještene krajem jula. Iz te kuće ističu da su uočeni propusti s njihove strane otklonjeni prije nekoliko sedmica.

Slične incidente povezane s Iregjularom objavili su Meta, Antropik i OpenAI. Iz Mete su u avgustu naglasili da incident nije uključivao bijeg iz izolovanog okruženja niti sofisticirani sajber napad. Iregjular trenutno radi na najboljim praksama za bezbjedno sprovođenje procjena vještačke inteligencije.

Događaji su otvorili pitanje zaštitnih mehanizama u trenutku kad AI agenti dobijaju sve veću autonomiju i direktan pristup internetu i računarskim sistemima.