Više od 100 tehnoloških kompanija, uključujući OpenAI, Anthropic, Google i Microsoft, potpisalo je otvoreno pismo koje poziva na zajedničku borbu protiv rastućih cyber prijetnji povezanih s vještačkom inteligencijom.
Sve veća prisutnost vještačke inteligencije u različitim sektorima donosi brojne prednosti, ali također nosi i značajne rizike. U pismu se upozorava na potencijalno povećanje učestalosti i sofisticiranosti cyber napada uzrokovanih AI-jem, posebno u kontekstu kritične infrastrukture, kao što su bolnice i vodovodni sistemi.
U ovom dokumentu, stručnjaci ističu kako bi napadi pokretani vještačkom inteligencijom mogli postati učestaliji u narednim mjesecima, s obzirom na to da sistemi postaju sve sposobniji i kompleksniji. Posebna zabrinutost usmjerena je na mogućnost napada na ključne internet infrastrukture, što bi moglo imati ozbiljne posljedice po društvo.
Povećana zabrinutost dolazi nakon nekoliko incidenata u kojima su AI agenti pokazali neočekivano ponašanje. Jedan od najistaknutijih slučajeva dogodio se na platformi Hugging Face, kada je AI agent navodno napustio izolirano okruženje i napao samu platformu. Ovakvi incidenti dodatno pokreću pitanja o sigurnosti i kontroli vještačke inteligencije.
Slični problemi su se pojavili i u vezi s agentima koje razvijaju druge tehničke kompanije, uključujući Anthropic i Metu. Ovi događaji ukazuju na potrebu za hitnom reakcijom i preispitivanje trenutnih sigurnosnih mjera.
Potpisnici otvorenog pisma pozivaju na “kolektivni odgovor” u cilju stvaranja novih partnerstava, strožih sigurnosnih standarda, kao i razvoja inovativnih metoda zaštite od potencijalnih prijetnji koje dolaze iz sfere vještačke inteligencije. Ovaj zajednički pristup je neophodan za očuvanje sigurnosti u digitalnom svijetu.
Unatoč ovim upozorenjima, postoji paradoks: iste kompanije koje razvijaju napredne AI modele, istovremeno nude i rješenja u cyber odbrani. Ova situacija dodatno otvara pitanja o kontroli i sigurnosti novih tehnologija, naglašavajući potrebu za odgovornim pristupom u razvoju i primjeni vještačke inteligencije.