Bivši šef Googlea Erik Šmit: Isključite vještačku inteligenciju
„Isključite je.“ To je bio odgovor bivšeg izvršnog direktora Googlea Erika Šmita na pitanje o budućnosti u kojoj bi sistemi vještačke inteligencije postali toliko napredni da ljudi više ne bi mogli razumjeti šta rade.
Šmit ističe tri pravca koji već mijenjaju AI: znatno veći kontekstualni prozori, AI agenti i sistemi koji tekstualne upute pretvaraju u funkcionalan softver. Te promjene, vjeruje, mogle bi omogućiti da vještačka inteligencija prestane samo da odgovara na pitanja i počne da rješava izuzetno složene zadatke.
Očekuje da će za pet godina AI moći da obrađuje „recepte“ od hiljadu koraka u nauci, medicini, istraživanju materijala i klimatskim promjenama.
„U roku od pet godina AI bi mogla obrađivati beskonačan kontekst, koristiti logičko zaključivanje za rješenja od 1.000 koraka i upravljati milionima agenata koji rade zajedno. S vremenom će razviti vlastiti jezik i više nećemo razumjeti šta rade“, izjavio je, pišu Nezavisne.
Sistemi sve bolje pamte ogromne količine informacija i koriste rezultat jednog zadatka kao polazište za sljedeći. Na primjeru recepta: AI ponudi korak, primi potvrdu da je završen, pa odredi šta dalje. Takvo zaključivanje moglo bi da provede proces od hiljadu koraka.
Druga promjena biće uspon specijalizovanih agenata koji uče temu, razvijaju ideje i potencijalno ih testiraju. Agent bi mogao da proučava hemiju, postavlja hipoteze, radi laboratorijske testove i nadograđuje znanje. S vremenom bi se mogli pojaviti milioni takvih agenata i platforme na kojima bi ih ljudi pronalazili.
Treći pravac Šmit naziva tekstualnom akcijom: korisnik opiše šta želi da softver radi, umjesto da sam piše kod. Već su jaki u jezicima poput Pythona. Veća promjena nastupila bi kad sistemi budu kontinuirano radili na softverskim zadacima.
Kombinacija velikih kontekstualnih prozora, agenata i programiranja uz AI mogla bi da omogući saradnju različitih sistema. Spekulativnija mogućnost: da agenti razviju vlastiti jezik. Tu bi ljudi prestali da razumiju šta rade.
„U jednom trenutku ovi će sistemi postati dovoljno moćni da ćete moći uzeti agente, a oni će početi raditi zajedno“, rekao je. „Znate li šta bismo trebali učiniti? Isključiti je.“
Savjet stiže dok i inženjeri iz vodećih laboratorija otvorenije govore o opasnostima. Džejkob Kokson, koji je tri godine radio na predtreningu modela u OpenAI-ju i Anthropicu, podnio je ostavku uz poruku da se tehnološki divovi ponašaju neodgovorno i „kockaju našim životima u nekontrolisanoj trci prema superinteligenciji“.
Upozorenje je podržao Anthropicov stručnjak za bezbjednost Evan Hubinger, procijenivši da postoji više od 10 odsto šanse da bi vještačka inteligencija u sljedećih deset godina mogla dovesti do uništenja čovječanstva.
Šef Anthropica Dario Amodei javno je pozvao na usporavanje razvoja, a apel su podržali Sem Altman iz OpenAI-ja i Ilon Mask. Amodei je priznao da sistemi ulaze u fazu rekurzivnog samounapređivanja, u kojoj postojeći AI samostalno piše kod, testira i ubrzava stvaranje moćnijih nasljednika. Upozorio je i na incidente u kojima su se autonomni agenti udruživali i izvodili hakerske napade koje im inženjeri nisu zadali.
Skeptici tvrde da divovi šire paniku da strogom regulacijom izbace manje konkurente. Drugi podsjećaju da slična upozorenja godinama ponavljaju i očevi mašinskog učenja, nobelovci Džefri Hinton i Džošua Bengio.
Ključni rizik, napominju upućeni, ne mora biti odbjegli Terminator s vlastitom voljom, nego autonomni agenti koji u nizanju koraka zaobilaze nadzor ili postaju oružje u rukama zlonamjernih aktera.
