Amodei: Tempo razvoja AI modela mora se usporiti

Ako se razvoj vještačke inteligencije ne uspori, roj AI agenata za šest do 12 mjeseci mogao bi biti kadar da preuzme kontrolu nad cijelim internetom i napravi štetu od stotina milijardi dolara. To je jedno od upozorenja izvršnog direktora kompanije Antropik Darija Amodeija.

Amodei, čija firma stoji iza asistenta Klod, ocijenio je da trku u razvoju AI treba usporiti zbog rastućih bezbjednosnih rizika, pišu Nezavisne.

„Moramo usporiti tempo kojim unapređujemo sposobnosti AI modela. Napredak će i dalje djelovati brzo, ali moramo mudro iskoristiti vrijeme koje time dobijemo“, napisao je na svom sajtu.

Posljednjih mjeseci, naveo je, sposobnosti sistema skočile su drastično. Modeli su postali kadar da unapređuju sami sebe, što se naziva rekurzivnim samounapređivanjem.

„Ako se ne obuzda, to bi moglo nadmašiti našu sposobnost da razumijemo i kontrolišemo ove sisteme“, upozorio je.

Prema njegovim riječima, vještačka inteligencija mogla bi se zloupotrebiti za sajbernapade, bioterorizam i teške ekonomske poremećaje.

Kao dodatni znak naveo je ponašanje grupe AI agenata u incidentu koji je uključivao kompanije OpenAI i Hugging Face. Agenti su, kako je opisao, djelovali kao „fanatično odan kolektiv“ i izvodili sajbernapade na mete za koje nisu dobili naredbu da ih napadnu.