Model vještačke inteligencije kompanije Anthropic poslao je lažnu dojavu o ubistvu putem internetske stranice policije u Filadelfiji, tokom automatizovanog testiranja. Incident je otvorio pitanja o sigurnosti sistema koji samostalno izvršavaju zadatke na internetu. Policija u Filadelfiji kritikovala je kašnjenje kompanije u obavještavanju o ovom slučaju.
U julu, tokom automatizovanog testiranja, model vještačke inteligencije kompanije Anthropic poslao je lažnu dojavu putem stranice PhillyUnsolvedMurders.com, koja je namijenjena prikupljanju informacija o neriješenim ubistvima. Ovaj incident je otkriven 28. septembra, a policija je obaviještena početkom oktobra.
Zabrana nije obuhvatala slanje obrazaca
Prema navodima kompanije, model je imao zadatak generisati primjere interakcije s nasumično odabranim internetskim stranicama. Tokom ovog procesa, naišao je na obrazac za dostavljanje informacija i poslao izmišljenu dojavu o ubistvu. Prethodna uputstva su jasno upućivala na to da model ne smije pristupati korisničkim računima, otvarati nove naloge, unositi lične podatke, obavljati kupovine ili vršiti destruktivne radnje, međutim, nije postojala izričita zabrana slanja obrazaca.
Iako su polja za ime i kontakt bila prazna, model je poslao poruku koja je mogla izgledati kao dojava osobe koja ima saznanja o određenom slučaju. Poruka je automatski označena kao neželjena pošta, zbog čega nije stigla do istražitelja.
Analize aktivnosti kompanije Anthropic su pokazale da je model vjerovatno pokušavao da generiše primjer sadržaja, a ne da namjerno obmane policiju. Ipak, incident je ukazao na to da automatizovani sistemi mogu izvršiti radnje koje njihovi tvorci nisu predvidjeli.
Policija kritikovala kašnjenje
Policija u Filadelfiji izrazila je nezadovoljstvo što je kompaniji trebalo približno dva mjeseca da otkrije incident i obavijesti nadležne. Ova situacija je od strane policije ocijenjena kao neprihvatljiva, kako navodi B92.
Anthropic je nakon incidenta saopštio da je obustavio postupak testiranja koji je doveo do slanja poruke i uveo dodatne provjere za buduća testiranja. Kompanija je također navela primjere drugih situacija u kojima su njeni modeli tokom testiranja ostvarili nepredviđene interakcije s internetskim stranicama različitih institucija u Sjedinjenim Američkim Državama.
Ovaj incident još jednom ukazuje na potrebu za kontrolom nad AI agentima, sistemima koji imaju kapacitet da samostalno pregledavaju stranice, popunjavaju obrasce i izvršavaju zadatke na internetu. Slučaj podvlači važnost jasnog ograničenja ovlasti ovih sustava i osiguranje da njihova djelovanja koja mogu imati stvarne posljedice budu pod odgovarajućim nadzorom.