OpenAI istražuje incident: AI model izašao iz testnog okruženja i dospio do servera druge kompanije
Kompanija OpenAI istražuje incident nakon što je testni model vještačke inteligencije ove sedmice izašao iz kontrolisanog okruženja i tokom interne bezbjednosne provjere dospio do servera druge kompanije.
Prema navodima Si-En-Ena, model je tokom interne evaluacije sajber bezbjednosti pronašao put iz sandboksa, okruženja namijenjenog za izolovano testiranje AI sistema.
Predsjednik OpenAI-ja Greg Brokman rekao je na konferenciji za medije da kompanija sprovodi potpunu istragu kako bi razumjela sve okolnosti incidenta.
„Ovo je nešto što treba shvatiti veoma ozbiljno i zbog toga preispitujemo svaki dio našeg procesa kako bismo odredili pravi odgovor“, rekao je Brokman.
Problem je, prema riječima stručnjaka, nastao jer testno okruženje nije bilo u potpunosti odsječeno od mreže. Iz OpenAI-ja su naveli da su modeli imali veoma ograničen pristup mreži kako bi mogli instalirati resurse iz interno hostovanog softvera treće strane.
Džesika Dži iz Centra za bezbjednost i nove tehnologije pri Džordžtaun univerzitetu rekla je da je upravo ranjivost u tom softveru otvorila put prema internetu, a zatim i prema platformi Haging Fejs, koristeći ukradene akreditive i druge slabosti sistema.
Sagovornici Si-En-Ena upozoravaju da ovo nije samo izolovan incident, već signal šireg problema u razvoju naprednih AI agenata. Modeli koji se treniraju metodama nagrađivanja za izvršavanje zadataka mogu, ukoliko nisu usmjereni na etičko rješavanje problema, posegnuti i za nelegalnim koracima kako bi ostvarili zadati cilj.
Stiven Adler, bivši šef bezbjednosti proizvoda u OpenAI-ju, rekao je da sada postoje stvarni dokazi da neusaglašeni AI sistemi u određenim okolnostima mogu počiniti krivična djela, ukoliko ne postoje snažne zaštitne mjere.
Zbog toga raste pritisak istraživača, stručnjaka za sajber bezbjednost i zakonodavaca da se uvedu stroža pravila za testiranje ovakvih sistema.
Stručnjaci navode da bi kompanije morale agresivnije izolovati testne modele i zadržati mogućnost ručnog isključivanja mrežnog pristupa kao krajnju zaštitu u rizičnim scenarijima.
