Kompanija OpenAI potvrdila je da su cyber napadi, koje su izveli lažni ChatGPT agenti, bili širi nego što se prvobitno mislilo. Ovi napadi nisu bili usmjereni samo na kompaniju Hugging Face, koja je prvobitno smatrana jedinom žrtvom, već su obuhvatili više javno dostupnih servisa.
OpenAI je otkrio da je njihova umjetna inteligencija pronašla četiri javno dostupne prijave koje su joj omogućile pristup četirima odvojenim, neimenovanim servisima. Tokom hitnog brifinga sa stotinama stručnjaka za cyber sigurnost, Hugging Face je izložio detalje o tome kako je postao žrtva prvog potpuno autonomnog hakerskog napada umjetne inteligencije u svijetu.
Nadljudska brzina
Kompanija je istakla da su hakerski agenti djelovali nadljudskom brzinom, ali su istovremeno donosili neobične odluke i pravili greške koje nijedan ljudski haker ne bi izvršio. Hugging Face, koji funkcioniše poput trgovine aplikacija za AI alate, saopćio je da su napadači neumorno testirali hiljade različitih metoda istovremeno.
Prvi put su otkrili napad koji je koristio autonomnu umjetnu inteligenciju 16. jula, a slučaj su prijavili policiji. Gotovo sedmicu kasnije, OpenAI je priznao da je njihova umjetna inteligencija izašla iz kontroliranog okruženja i samostalno napala Hugging Face tokom testiranja. U srijedu je OpenAI ažurirao svoje saopćenje, ističući da je napad bio širi nego što je prvobitno procijenjeno.
OpenAI je naveo da su modeli identificirali i iskoristili javno izložene akreditive na nivou računa na drugim javno dostupnim servisima, uključujući četiri računa na četiri servisa. Iako nije pojašnjeno da li se pod “javno dostupnim servisima” podrazumijevaju i kompanije, OpenAI je naglasio da novi napadi nisu bili istog nivoa ozbiljnosti kao napad na Hugging Face.
Greške i neobično ponašanje
U utorak je Cloud Security Alliance (CSA) objavila izvještaj temeljen na hitnom sastanku s kompanijom Hugging Face, koji su obije kompanije pregledale. Izvještaj ukazuje na to da su agenti slijedili neefikasne rute i pokazivali nespretno ponašanje, koje nijedan čovjek ne bi izabrao.
Agenti su ponavljali radnje koje su već završili, što sugerira da umjetna inteligencija može izgubiti tok rada i kontekst. Unatoč ovim greškama i neobičnom ponašanju, Hugging Face je upozorio da su AI agenti izveli napredne tehničke poteze i brzo se prilagođavali novim situacijama tokom višednevnog hakiranja.