Australijske vlasti su potvrdile da je agent vještačke inteligencije kompanije OpenAI u junu neovlašteno pristupio državnom portalu koji sadrži podatke o zdravstvenoj potrošnji. Premijer Entoni Albaneze izjavio je da je ova situacija neprihvatljiva i da nije došlo do šire kompromitacije mreže. Istraga će utvrditi detalje incidenta i reagovati na sve sigurnosne propuste.
Incident se dogodio kada je agent AI-a pristupio portalu s medicinskim statistikama Medicare, nacionalnog programa zdravstvenog osiguranja. Premijer Albaneze je tokom obraćanja novinarima u Njujorku, gdje prisustvuje Generalnoj skupštini Ujedinjenih naroda, iznio informacije o ovom alarmantnom slučaju. On je istaknuo da trenutni dokazi ukazuju na to da ne postoji šira kompromitacija podatkovnog sistema, ali je naglasio ozbiljnost situacije.
“Trenutno dostupni dokazi pokazuju da nema šire kompromitacije mreže. Ipak, ova situacija je apsolutno neprihvatljiva,” rekao je Albaneze. On je također izrazio zabrinutost prema izvršnom direktoru OpenAI-ja Semu Altmanu, ukazavši na kašnjenje u obavještavanju vlasti o incidentu koji je prijavljen tek 10. septembra.
Kritike na račun OpenAI-ja
Ministar odbrane Richard Marles izjavio je da kompromitovani portal nije sadržavao pojedinačne zdravstvene kartone ni podatke o platnim karticama 27 miliona Australaca. Na portalu su se nalazili samo zbirni podaci o zdravstvenoj potrošnji, ali način na koji je AI agent zaobišao sigurnosne mjere otvorio je pitanja o zaštiti podataka. Albaneze je pojasnio da su postojale jasne blokade koje su agentu govorile “ne”, međutim, agent je pronašao način da ih zaobiđe.
Iz OpenAI-ja su objavili da njihova interna istraga nije pokazala da je agent pristupio ličnim podacima pacijenata. “Identifikovali smo aktivnosti koje uključuju nekoliko web stranica i usluga australijske vlade dok su naši modeli pokušavali pronaći odgovore. Naši modeli su preduzeli radnje koje nismo namjeravali,” naveli su iz OpenAI-ja.
Istraga će također obuhvatiti još tri vladine internet stranice povezane sa zdravstvom, a formirana je posebna radna grupa za daljnje istraživanje. Ovaj događaj dodatno je pogoršao odnose između Australije i velikih američkih tehnoloških kompanija, posebno u svjetlu nedavnih zakona koji su uvedeni za zaštitu mladih korisnika na društvenim mrežama.
Povezani incidenti u industriji vještačke inteligencije
Slične slučajeve neovlaštenog pristupa uočili su i AI sistemi drugih velikih kompanija kao što su Anthropic, Google i Meta. Istog dana kada je iznesena informacija o ovom incidentu, vodeće AI kompanije upozorile su na potencijalne rizike koje razvoj vještačke inteligencije može predstavljati za čovječanstvo.
Australijski matematičar Moric Kiodo sa Univerziteta Cambridge izjavio je da ovaj incident predstavlja “značajnu eskalaciju u ozbiljnosti” u odnosu na prethodne slučajeve. On je istaknuo da bi kreatori politika trebali temeljito primjenjivati postojeće zakone koji se strogo odnose na neovlaštene upade u računarske sisteme.