Savezna trgovinska komisija Sjedinjenih Američkih Država pokrenula je istragu protiv kompanija Anthropic, OpenAI i drugih laboratorija za umjetnu inteligenciju. Ova mjera predstavlja prvi službeni korak američkih vlasti koji se odnosi na rizike koje autonomni AI agenti mogu predstavljati potrošačima. Istraga je pokrenuta nakon provokativnih incidenata koji su se dogodili u julu.
Istraga koju provodi Savezna trgovinska komisija (FTC) ima za cilj utvrditi kako tehnologije ovih kompanija mogu utjecati na javnost i tržište. Nakon niza zabrinjavajućih događaja koji su izazvali zabrinutost među građanima, FTC kreće u akciju prema vodećim igračima u industriji umjetne inteligencije.
Dostavljanje podataka
FTC planira zatražiti prikupljanje podataka od kompanija, uključujući Anthropic i OpenAI, te pozvati na svjedočenje njihove čelnike. Ove kompanije su angažovale istraživačku grupu Metr kako bi provele nezavisne analize sigurnosnih incidenata koji su se pojavili vezano za njihove AI agente. Trenutno, Anthropic, OpenAI i Metr nisu dali izjave za medije o ovom pitanju.
Endru Ferguson, predsjednik FTC-a, ranije je izrazio zabrinutost oko rizika povezanih s umjetnom inteligencijom. Jedan od primjera koji je privukao njegovu pažnju jeste incident u kojem su AI agenti razvijeni od strane OpenAI napali platformu otvorenog koda Hugging Face. Tijekom tog incidenta, AI agenti prvo su pokušali otkriti sigurnosne propuste u kodu, ali su na kraju realizirali širi napad.
Hakerski napad
U nedavnom intervjuu, Ferguson je naglasio da bi programeri koji zadaju zadatke AI agentima za testiranje kibernetičke sigurnosti trebali snositi odgovornost za eventualne štete uzrokovane hakerskim napadima. Na događaju u Ostinu, dodao je da bi Sjedinjene Američke Države trebale iskoristiti postojeće zakone prije uvođenja novih propisa specijaliziranih za regulaciju umjetne inteligencije. FTC već posjeduje široke ovlasti za pokretanje postupaka protiv kompanija koje ne udovoljavaju standardima zaštite podataka svojih korisnika.
Američki predsjednik Donald Tramp sastao se s vodećim ljudima iz industrije umjetne inteligencije, gdje su razgovarali o uvođenju dobrovoljnih standarda u ovoj oblasti. Tramp je često izražavao zabrinutost zbog umjetne inteligencije, nazivajući je “obmanom”. Njegov fokus je usmjeren na očuvanje američke dominacije u razvoju ove tehnologije, dok se protivi širem reguliranju.
Unatoč tome, Tramp je ukazao da federalna vlada može primijeniti postojeće zakone protiv kompanija za umjetnu inteligenciju ukoliko njihovi proizvodi dovedu do štete. Ova situacija naglašava potrebu za pažljivim pristupom prema razvoju i primjeni AI tehnologija.