U prvih sedam mjeseci ove godine Internet Watch Foundation (IWF) zabilježio je čak 400-postotni porast prijava o zlostavljanju djece na internetu u Velikoj Britaniji, koje su specifično vezane za materijale generirane umjetnom inteligencijom. Podatak je to koji izaziva zabrinutost stručnjaka diljem svijeta, a u fokus stavlja novo pitanje: Olakšava li razvoj umjetne inteligencije širenje online zlostavljanja djece?
Problem je veći nego što se prijavljuje
Chris Hughes, direktor hotlinea IWF-a, neprofitne organizacije koja djeluje na međunarodnoj razini s ciljem smanjenja dostupnosti materijala seksualnog zlostavljanja djece i drugog štetnog internetskog sadržaja, ističe da je riječ o iznimno zabrinjavajućem trendu.
– Od siječnja do srpnja 2025. prijavljeno nam je 1286 AI slika i videa koji prikazuju seksualno zlostavljanje djece. Znamo iz istraživanja da se AI sadržaj širi u mnogo većem opsegu nego što se prijavljuje IWF-u. Naši partneri u NCMEC-u izvijestili su da je broj AI prijava iz industrije porastao za 1325%, s 4700 prijava godinu ranije na 67.000 prijava prošle godine – upozorava Hughes te ističe da stvoreni sadržaj postaje sve ekstremniji i realističniji.
Prema njegovim riječima, umjetna inteligencija stvara dvostruki rizik: s jedne strane olakšava proizvodnju potpuno izmišljenih slika, a s druge strane omogućava manipulaciju stvarnim fotografijama djece.
– AI otežava identifikaciju i zaštitu žrtava seksualnog zlostavljanja, a postoje i dokazi da takav AI sadržaj povećava želju seksualnih prijestupnika te ih potiče da počine stvarno zlostavljanje. U svakom slučaju, šteta je golema jer čak i djeca koja nikad ne bi bila izložena zlostavljanju mogu postati žrtve manipuliranih AI slika – dodaje Hughes.
Visoki seksualni rizici
Da je riječ o prijetnji svjetskih razmjera, potvrđuju i podaci iz Nacionalne strateške procjene 2025. koju je objavila britanska Nacionalna agencija za kriminal (NCA). Prema toj analizi, između 710.000 i 840.000 odraslih ljudi u Velikoj Britaniji predstavlja određeni seksualni rizik prema djeci.
U izvješću koje je javnosti predstavila Caitlin Jenkins-Watson iz Nacionalne agencije za kriminal (NCA) navodi se da su najčešće žrtve tinejdžeri od 13 do 14 godina, no sve je više slučajeva u kojima su mete djeca od svega 7 do 10 godina. Izvješće upozorava da digitalna povezanost omogućuje počiniteljima ne samo kontakt sa žrtvama nego i širenje materijala, sextortion i različite oblike iskorištavanja.
Umjetna inteligencija u toj priči postaje novi alat koji povećava opseg i brzinu širenja zlostavljačkog sadržaja.
U Velikoj Britaniji odgovornost za rješavanje ovog problema dijele policija, specijalizirane agencije, škole i nevladine organizacije. Suradnja s tehnološkim kompanijama i organizacijama kao što su Internet Watch Foundation i Childline te specijalizirani alati poput Report Remove ili Take It Down pomažu djeci i mladima ukloniti kompromitirajuće slike iz internetskog prostora, no NCA upozorava da razvoj AI tehnologija stalno stvara nove izazove.
Iako je umjetna inteligencija donijela značajan tehnološki napredak i nudi brojne prednosti, iznimno je važno educirati se i o njezinim potencijalnim opasnostima. Unatoč svim koristima, AI sa sobom nosi i određene rizike o kojima je potrebno otvoreno govoriti.
Konferencija Cyber Guard 2025
Detaljnije o ovoj temi raspravljat će se 2. listopada na konferenciji Cyber Guard 2025 u zagrebačkome Mozaik centru. Riječ je o drugoj konferenciji posvećenoj digitalnoj sigurnosti, kibernetičkoj otpornosti i zaštiti djece na internetu, koju organiziraju A1 Hrvatska i Centar za sigurniji internet (CSI).
Konferencija je zatvorenog tipa i namijenjena je prvenstveno nastavnicima, psiholozima, pedagozima i ostalom stručnom osoblju u školama, ali i ICT stručnjacima te predstavnicima državnih institucija.
Uz Chrisa Hughesa i Caitlin Jenkins-Watson, u Mozaiku će govoriti Aaron Greenberg, viši regionalni savjetnik za zaštitu djece u UNICEF-ovu Regionalnom uredu za Europu i središnju Aziju, Andrea Čović Vidović, zamjenica voditelja Predstavništva Europske komisije u Hrvatskoj i voditeljica medijskog tima, kao i niz drugih stručnjaka s međunarodne i domaće scene. Program uključuje predavanja, panele i praktične radionice, a očekuje se da će Cyber Guard 2025 ponuditi konkretne preporuke za škole, roditelje i zajednicu.
Osim situacije u Velikoj Britaniji, na konferenciji će biti predstavljeni rezultati nacionalnog znanstvenog istraživanja o vršnjačkom i elektroničkom nasilju među učenicima viših razreda osnovnih škola u Hrvatskoj. Istraživanje su proveli CSI te Centar za nestalu i zlostavljanu djecu (CNZD) u partnerstvu s A1 Hrvatska, u okviru međunarodnog projekta deSHAME.
Hrvatska perspektiva: Prijave rastu
Podaci Centra za sigurniji internet potvrđuju da problem raste i kod nas. Na njihovu anonimnom helplineu u protekloj su godini zabilježili čak 993 upita, što je 500 više nego prethodnu godinu. Preračunamo li to u postotke, riječ je o porastu od čak 200 posto!
Najčešći razlozi za traženje pomoći uključuju:
-
dijeljenje fotografija i snimki bez pristanka
-
izradu lažnih profila i javno ismijavanje
-
hakiranje računa i phishing prevare
-
prijetnje i ucjene, posebno kod mlađih korisnika platformi poput Robloxa.
Jedno je sigurno: sve veći broj prijava cyberbullyinga i seksualnog zlostavljanja na internetu jasno pokazuje da digitalna sigurnost nije više sporedna tema.
Umjetna inteligencija možda je donijela nove mogućnosti, ali ne smijemo zanemariti ni nove opasnosti. Ako ne razvijamo sustave zaštite u školama, institucijama i zajednici, riskiramo da broj žrtava nastavi rasti.