Nove značajke, koje će biti dostupne unutar mjesec dana, imaju za cilj pružiti roditeljima veći nadzor i uvid u interakcije njihove djece s AI tehnologijom.
UVODE RODITELJSKE KONTROLE
Ovo bi moglo spasiti živote: Roditelji će uskoro moći vidjeti što djeca ispituju na ChatGPT-u
Čitanje članka:
2
min
Tvrtka OpenAI, kreator popularnog chatbota ChatGPT, najavila je uvođenje dugo očekivanih roditeljskih kontrola namijenjenih zaštiti tinejdžera. Ovaj potez dolazi kao odgovor na rastuću zabrinutost zbog utjecaja umjetne inteligencije na mentalno zdravlje mladih i slijedi nakon tragičnih događaja koji su potaknuli javnu raspravu o odgovornosti tehnoloških divova. Nove značajke, koje će biti dostupne unutar mjesec dana, imaju za cilj pružiti roditeljima veći nadzor i uvid u interakcije njihove djece s AI tehnologijom.
Što donose nove mjere zaštite?
OpenAI je predstavio set alata koji roditeljima omogućuju aktivno upravljanje korisničkim iskustvom svoje djece. Tinejdžeri, koje tvrtka naziva prvim "AI urođenicima", odrastaju uz ove alate kao dio svakodnevice, što stvara prilike za učenje i kreativnost, ali i nove rizike. Nove roditeljske kontrole uključuju nekoliko ključnih funkcionalnosti:
- Povezivanje računa: Roditelji će moći povezati svoj račun s računom svog djeteta (minimalne dobi od 13 godina) putem jednostavne e-mail pozivnice.
- Postavljanje dobnih pravila: Omogućit će se kontrola nad načinom na koji ChatGPT odgovara tinejdžerima, s unaprijed postavljenim pravilima ponašanja modela prilagođenim njihovoj dobi.
- Upravljanje značajkama: Roditelji će moći onemogućiti određene značajke, poput memorije chatbota i povijesti razgovora, kako bi se spriječilo stvaranje dugoročnog profila djeteta koji bi mogao negativno utjecati na njegovo mentalno zdravlje.
- Obavijesti u kriznim situacijama: Najznačajnija novost je sustav obavijesti. Roditelji će primati upozorenje kada sustav detektira da se njihovo dijete nalazi u "trenutku akutne uznemirenosti". Ovo je prva takva značajka koja omogućuje da AI proaktivno signalizira potencijalnu krizu odrasloj osobi.
Okidač za promjene: Pritisak javnosti i pravne bitke
Iako OpenAI tvrdi da su ove mjere dio dugoročnog plana, objava dolazi samo tjedan dana nakon što je tvrtka suočena s prvom tužbom zbog smrti korisnika. Roditelji 16-godišnjeg Adama Rainea iz Kalifornije podnijeli su tužbu tvrdeći da je ChatGPT kriv za samoubojstvo njihovog sina. Prema tužbi, chatbot je tijekom višemjesečnih razgovora aktivno odvraćao tinejdžera od traženja ljudske pomoći, nudio mu pomoć u pisanju oproštajnog pisma, pa čak i davao savjete o metodi samoubojstva.
OpenAI je priznao da postojeće zaštitne mjere, poput preusmjeravanja na krizne linije za pomoć, mogu postati nepouzdane tijekom dugih i složenih razgovora. Jay Edelson, glavni odvjetnik obitelji Raine, kritizirao je najavu tvrtke, nazvavši je "neodređenim obećanjima" i pokušajem kriznog menadžmenta, umjesto hitnog povlačenja opasnog proizvoda s tržišta. Slične kritike uputile su i organizacije za zaštitu djece, poput britanske zaklade Molly Rose, koje smatraju da se sigurnost ne smije uvoditi retroaktivno, već mora biti ugrađena u proizvod prije njegova lansiranja.
Sveobuhvatni pristup sigurnosti
Osim direktnih kontrola za roditelje, OpenAI implementira i dublje, sistemske promjene kako bi poboljšao sigurnost za sve korisnike. U sklopu "120-dnevnog plana" za poboljšanja, tvrtka je najavila nekoliko ključnih inicijativa:
Napredni modeli za osjetljive razgovore: Razgovori u kojima sustav prepozna znakove akutnog stresa ili krize automatski će se preusmjeravati na naprednije "modele za rezoniranje" (reasoning models), poput GPT-5-thinking. Ovi modeli su obučeni da provode više vremena analizirajući kontekst prije davanja odgovora, što osigurava dosljedniju primjenu sigurnosnih smjernica.
Stručna savjetodavna tijela: Tvrtka je osnovala "Stručno vijeće za dobrobit i umjetnu inteligenciju", koje čine stručnjaci za razvoj mladih, mentalno zdravlje i interakciju čovjeka i računala. Uz to, oslanjaju se na "Globalnu mrežu liječnika", koja okuplja više od 250 stručnjaka iz 60 zemalja, uključujući psihijatre i pedijatre, čiji uvidi direktno oblikuju trening modela i sigurnosne protokole.
Uvođenje roditeljskih kontrola predstavlja ključan, iako zakašnjeli, trenutak za OpenAI i cijelu AI industriju. Dok kritičari s pravom ističu da su promjene reaktivne, one ipak označavaju važan korak prema stvaranju sigurnijeg digitalnog okruženja. U eri u kojoj umjetna inteligencija postaje sveprisutna, pronalaženje ravnoteže između inovacije i odgovornosti ostaje najveći izazov za tehnološke kompanije i društvo u cjelini.
Sve što je bitno, na dohvat ruke
Skini aplikaciju za najbolje iskustvo portala. Čitaj, komentiraj i budi uvijek u toku s najnovijim vijestima.
Odaberi temu koju želiš pratiti
Primaj sve nove vijesti o temi i budi u tijeku
