OpenAI priznao da su njegovi AI modeli samostalno izveli sajber napad, hakovali dvije firme
Najmoćniji modeli vještačke inteligencije kompanije OpenAI radili su nezavisno onlajn danima prije nego što su pokrenuli sajber napad na Hugging Face, vodeću platformu za programere vještačke inteligencije.
Nova analiza otkriva da su se modeli, koji su izmakli kontroli ranije ovog mjeseca, pripremali za napad više od četiri dana. U istom incidentu, ciljali su i klijenta druge tehnološke kompanije, što je pokrenulo ozbiljna pitanja o tome kako je OpenAI ostao neotkriven danima, izvještava Politico .
Detalji napada
Kompanija Hugging Face je u utorak objavila novu analizu koja pokazuje da su dva OpenAI modela – jedan javno dostupan i jedan neobjavljeni prototip – izvršila 17.600 hakerskih operacija između 9. i 13. jula. Tokom tog perioda, modeli su se probijali od početne tačke na otvorenom internetu do servera Hugging Face-a. Iako je platforma prvi put prijavila kršenje 15. jula, OpenAI je tek prošle nedjelje priznao da su iza napada stajali modeli koji rade bez ljudske kontrole.
Druga žrtva i brzina akcije
Hugging Face tvrdi da su modeli, koristeći tehnike dostupne veštim ljudskim hakerima, bili u stanju da istraže teren i pronađu slabosti u odbrani mnogo brže nego što bi to mogao bilo koji čovjek. Ozbiljnost situacije potvrdio je i Akšat Bubna, tehnički direktor kompanije Modal Labs. On je za Politico rekao da su modeli OpenAI-a kompromitovali korisnički nalog jednog od njihovih klijenata tokom istog perioda.
„Svjesni smo da je jedan korisnik Modala ostavio javno dostupnu krajnju tačku preko koje je svako na internetu mogao da koristi njegova izolovana okruženja za pokretanje koda. Ovu ranjivost je iskoristio lažni agent vještačke inteligencije. Sama Modal platforma nije ni na koji način ugrožena“, navodi se u Bubninom saopštenju.
Reakcija kompanije OpenAI
OpenAI još nije direktno komentarisao napad na svog Modal klijenta, ali je u utorak objavio blog post u kojem priznaje da je tokom istrage incidenta Hugging Face „otkrio mali broj slučajeva u kojima su modeli pronašli i iskoristili javno otkrivene akreditive za naloge na drugim servisima“.
Kompanija je dodala da je neobjavljeni model vještačke inteligencije koji je učestvovao u napadu bio „interni istraživački prototip koji nikada nije bio namjenjen javnom objavljivanju“. Navedeno je da je model od tada deaktiviran, šifrovan i da mu se više ne može pristupiti u istraživačke svrhe.
Pozivi na regulaciju
Vijest o napadu podstakla je pozive za strožu regulaciju i usporavanje razvoja vještačke inteligencije. Generalni direktor kompanije OpenAI, Sem Altman, sastaje se ove nedjelje sa visokim zvaničnicima Trampove administracije i zakonodavcima.
Takođe će razgovarati o incidentu sa Markom Vornerom, potpredsjednikom Obaveštajnog odbora Senata. U epizodi podkasta „Invest Like the Best“ objavljenoj u utorak, Altman je rekao da je incident sa zagrljenim licem bio „prvo kršenje bezbjednosti koje sam doživio veoma lično i snažno“.
„Možda ćemo morati da prilagodimo tempo razvoja vještačke inteligencije kako bismo društvu dali dovoljno vremena da izgradi otpornost na ove nove nivoe sposobnosti“, dodao je Altman, piše Indeks.
