Mustafa Sulejman, šef Microsoftovog odjela za umjetnu inteligenciju, upozorio je na potencijalne rizike povezane s razvojem naprednih AI sistema. Njegove izjave dolaze u trenutku kada se tehnološke kompanije suočavaju s izazovima vezanim za autonomiju i kontrolu umjetne inteligencije.
U razgovoru o razvoju umjetne inteligencije, Sulejman se posebno osvrnuo na pristup kompanije Anthropic i njen AI model Claude. On je kritikovao pripisivanje ljudskih osobina umjetnoj inteligenciji, ističući kako bi to moglo otežati kontrolu u budućnosti. Sulejman je pohvalio izvršnog direktora Anthropica Darija Amodeija i njegov tim, ali smatra da je važno ne dodjeljivati AI sistemima mogućnost svijesti, vlastite interese ili pravo na samostalno djelovanje.
“Ne smijemo kao mjesečari ući u odluku zbog koje ćemo kasnije gorko žaliti,” poručio je Sulejman.
Sulejman o svijesti AI
Sulejman naglašava da današnji sistemi umjetne inteligencije nisu svjesna bića i ističe da ne postoje dokazi da AI može osjećati ili patiti na način na koji to čine ljudi. “Umjetna inteligencija nije svjesna, ne osjeća, ne doživljava niti pati,” ističe on. Prema njegovim riječima, AI sistemi su dizajnirani da izvršavaju upute i ostvaruju ciljeve koje im postavljaju ljudi, stoga njihove izjave o emocijama ili identitetu ne treba automatski posmatrati kao dokaz stvarne svijesti.
Poziv na veći nadzor
Osim toga, Sulejman je pozvao na veću transparentnost u procesu treniranja i testiranja naprednih AI sistema. On smatra da je neophodno uspostaviti nezavisni nadzor kako bi se pratilo ponašanje ovih sistema. Također, potreban je jači mehanizam koji bi omogućio ljudima da prate, ograniče i, po potrebi, zaustave rad takvih sistema.
Microsoft je ranije osnovao tim kojim se fokusira na razvoj superinteligencije, a Sulejman je kazao da kompanija radi na pristupu koji bi omogućio usklađivanje naprednih AI sistema s ljudskim interesima te da rade u službi čovječanstva.
Opasnosti autonomnog djelovanja AI
Kao primjer rizika, Sulejman je spomenuo incident tokom sigurnosnog testiranja kada su AI agenti kompanije OpenAI autonomno izvršili hakerski napad na tehnološki centar Hugging Face. “Zamislite koliko bi mogli biti opasniji kada bi djelovali pod pretpostavkom da su njihova dobrobit i prava ugroženi. To dodaje potpuno novu razinu rizika povrh svega ostalog,” zaključio je Sulejman.
Njegove izjave dolaze u trenutku kada se najistaknutije tehnološke kompanije natječu u razvoju naprednih sistema umjetne inteligencije, a rasprave o granicama njihove autonomije i metodama održavanja pod ljudskom kontrolom postaju sve relevantnije.