Kalifornijske vlasti usvojile su novi paket zakona koji reguliše način kako maloljetnici komuniciraju s AI chatbotovima i društvenim mrežama. Ove mjere nastoje poboljšati sigurnost djece, ali donose i izazove u vezi s privatnošću i dostupnošću digitalnih sadržaja. Uz Adamov zakon, kompanije će morati implementirati dodatne zaštitne mehanizme kako bi osigurale sigurniju interakciju mladih korisnika.
Jedan dio novih zakona reguliše način na koji maloljetnici mogu komunicirati s AI chatbotovima. Kompanije će imati obavezu uvesti vremenska ograničenja i dodatne zaštitne mehanizme namijenjene mladim korisnicima. Chatbotovi će morati nuditi informacije o resursima za mentalno zdravlje, te imati jasno definirane protokole za krizne situacije, posebno kada maloljetnik spomene samopovređivanje ili samoubistvo.
Roditelji će biti obaviješteni ako njihovo dijete isključi određene sigurnosne postavke, čime država nastoji spriječiti situacije u kojima mladi korisnik ukloni zaštitna ograničenja, a roditelji o tome ne budu informisani. Kompanije koje razvijaju AI chatbotove bit će obavezne provoditi godišnje procjene rizika i omogućiti nezavisne sigurnosne provjere. U slučaju neispunjavanja ovih obaveza, kompanije mogu snositi pravnu odgovornost za eventualne posljedice.
Zakon vezan za chatbotove nazvan je Adamov zakon, prema Adamu Raineu. Ovaj zakon je predstavljen kao najstroži američki propis koji se tiče sigurnosti djece pri korištenju takozvanih companion chatbotova, sistema koji su napravljeni za vođenje dubljih i ličnijih razgovora s korisnicima. Ove mjere dolaze nakon što je guverner Kalifornije, Gavin Newsom, potpisao dodatne zakone o regulaciji AI industrije.
Kalifornija je uspostavila okvir za nezavisne organizacije koje će provjeravati poštivanje državnih propisa od strane sistema vještačke inteligencije. Također se formira registar AI revizora, uz standarde koji bi trebali osigurati njihovu nezavisnost, transparentnost i profesionalni integritet. Cilj je da kompanije više ne budu jedine koje procjenjuju sigurnost vlastitih proizvoda.
Mjere za regulaciju društvenih mreža i zaštitu privatnosti
Jedan od najkontroverznijih dijelova paketa zakona odnosi se na društvene mreže. Platformama će biti zabranjeno da korisnicima mlađim od 16 godina nude funkcije koje se smatraju potencijalno zavisničkim. Ova definicija uključuje automatsko pokretanje videa, obavijesti i personalizirane sadržajne tokove koje algoritmi formiraju na osnovu historije korištenja i profila korisnika.
Namjena ovih funkcija često je da zadrže korisnika na platformi duže vrijeme. Međutim, protivnici zakona tvrde da bi široka definicija mogla eliminisati osnovne funkcije gotovo svake moderne društvene mreže. Organizacija Electronic Frontier Foundation ocijenila je da mjera u praksi predstavlja zabranu društvenih mreža za osobe mlađe od 16 godina, ističući da bi uklanjanje osnovnih alata za pristup digitalnim zajednicama moglo negativno uticati na sigurnost mladih.
Postavlja se i pitanje kako provjeriti uzrast korisnika kako bi se maloljetnicima ograničile određene funkcije. Kritičari upozoravaju da bi to moglo primorati sve korisnike, uključujući punoljetne osobe, da dostave dodatne lične podatke, što može povećati rizike po privatnost. Tako zakon koji ima za cilj povećanje sigurnosti djece može dodatno ugroziti privatnost svih korisnika.
Osim toga, paket zakona proširuje definiciju seksualne eksploatacije djece kako bi obuhvatio i slike napravljene generativnom vještačkom inteligencijom, kao i digitalno izmijenjeni materijal koji prikazuje osobu mlađu od 18 godina u seksualnom kontekstu. Dodatni zakoni štite maloljetnike od ciljanog oglašavanja i ograničavaju način na koji AI sistemi koriste podatke učenika tokom njihovog obrazovanja.
Kalifornijske vlasti smatraju da novi zakon može pomoći da sigurnosna pravila budu u skladu s brzim razvojem tehnologije. Međutim, rasprava o regulaciji društvenih mreža jasno pokazuje koliko je teško pronaći ravnotežu između zaštite maloljetnika, prava na pristup digitalnim prostorima i privatnosti svih korisnika.