Novi kalifornijski zakon SB 243 propisuje da, ako bi prosječan korisnik mogao pomisliti da razgovara s osobom, chatbot mora jasno i uočljivo obavijestiti da je riječ o umjetnoj inteligenciji. Zakon dodaje i sigurnosne mjere za “companion” botove, uključujući obvezu izvještavanja državnom Uredu za prevenciju suicida o mehanizmima za prepoznavanje i reagiranje na slučajeve suicidalnih poruka. U paketu s time Kalifornija je nedavno usvojila i SB 53, širi set pravila o transparentnosti za napredne AI modele. Time najveća američka tech država postavlja standarde dok na razini cijelog SAD-a još nema jedinstvenog AI zakona. 

EU-ov AI Act već traži nešto vrlo slično, a to je da pružatelji AI sustava koji izravno komuniciraju s ljudima moraju jasno reći da je riječ o AI ako to nije očito. Drugim riječima, pravila o označavanju botova dolaze i u Europu, pa će korisnici i tvrtke u Hrvatskoj sve češće nailaziti na oznake tipa “ovo je AI”. Kako se digitalne usluge prelijevaju preko granica, usklađenost s ovakvim pravilima smanjuje rizik manipulacije, deepfakeova i “catfishinga”, a korisnicima daje brzu informaciju s kime zapravo komuniciraju.

Očekujemo da će chatboti na webu i u aplikacijama češće imati jasne badgeve i upozorenja, pogotovo u servisima za podršku, savjetovanje ili druženje. Ako se zakonodavstvo u US i EU nastavi približavati, standard će morati postati dosljedan, AI morati biti označen, a osjetljiva područja poput mentalnog zdravlja moraju imati dodatne zaštite i javno izvještavanje o protokolima. To je mali, ali važan korak da tehnologija bude transparentnija i sigurnija za širu publiku, ne samo za “tehnički potkovane”.