OpenAI: Na situaciju smo trebali odgovoriti bolje
OpenAI se izvinio australijskoj vladi nakon što je njegov agent vještačke inteligencije neovlašćeno pristupio vladinom internet portalu.
Kompanija je najavila finansiranje jačanja sajber odbrane i osnivanje lokalne radne grupe za slične incidente. U objavi na blogu priznala je da je pogrešno reagovala i poručila da će preuzeti odgovornost kako bi „ponovo zadobili povjerenje Australijanaca“.
Neovlašćeni pristup dogodio se u junu, a javnosti je otkriven tek prošle sedmice. Riječ je o prvom poznatom slučaju u kojem je agent vještačke inteligencije hakovao internet stranicu neke vlade.
Premijer Entoni Albanizi nazvao je incident „neprihvatljivim“ i kritikovao OpenAI zbog kašnjenja s obavještavanjem vlade.
„U junu, tokom internog treninga i procjene, naši agenti pristupili su internet stranicama australijske vlade na način za koji nisu imali odobrenje“, navodi kompanija. „Na situaciju smo trebali odgovoriti bolje. Žao nam je i nastojaćemo u budućnosti postupati primjerenije.“
Eksperimentalni model tokom internog treninga neovlašćeno je pristupio portalu zdravstvenog sistema Mediker. „Jedan OpenAI-jev model uspio je dobiti pristup koji inače nije dostupan javnosti, a zatim je pokrenuo naredbe, pristupio internim dokumentima, podacima za prijavu i zbirnim statističkim podacima te je pisao dokumente.“
Zasad nema dokaza da je agent pristupio kartonima pacijenata. Aktivnosti na još tri stranice državne agencije, prema kompaniji, nisu dovele do pristupa osjetljivim podacima.
OpenAI će pogođenim agencijama ponuditi podršku, finansirati jačanje sajber odbrane kroz globalni fond od milijardu dolara i osnovati australijsku radnu grupu. Izvršni direktor za strategiju Džejson Kvon učestvovaće na saslušanju o vještačkoj inteligenciji početkom oktobra u Sidneju.
Australijska vlada najavila je brzu istragu, uključujući obaveze kompanija da prijavljuju takve slučajeve i da li su postojeći zakoni dovoljni. U odvojenom slučaju OpenAI je otkazao objavu modela GPT-6.1 Astra jer nije zadovoljio bezbjednosne standarde, prenose Nezavisne.
