OpenAI je najavio uvođenje novog modela procene uzrasta za ChatGPT, koji ima za cilj da identifikuje korisnike koji su maloljetni i automatski primenjuje strože mere zaštite. Ova funkcija deo je OpenAI-ovih napora da učini svoje AI alate bezbednijim za mlađu publiku, s obzirom na rastuće globalne zabrinutosti oko izlaganja maloljetnika internetu.
Šta je OpenAI uveo?
Nova nadogradnja dodaje model procene uzrasta ChatGPT-u, koji procenjuje da li je korisnik mlađi od 18 godina. Kada sistem utvrdi da nalog verovatno pripada maloljetniku, ChatGPT automatski prebacuje korisnika u iskustvo prilagođeno maloljetnicima sa strožim kontrolama sadržaja.
Ove dodatne zaštite su osmišljene da ograniče pristup sadržaju koji može biti neprimeren ili štetan za maloljetnike, kao što su grafičko nasilje, rizični viralni izazovi, eksplicitne uloge, prikazi samopovređivanja i sadržaj koji promoviše ekstremne standarde lepote ili nezdravu ishranu. Ovaj sistem ne zavisi isključivo od izjava korisnika o njihovom uzrastu. Umesto toga, radi u pozadini kako bi primenio zaštitne mere bez prekidanja normalne upotrebe.
Kako funkcioniše sistem procene uzrasta?
Umesto da traži identifikacione dokumente unapred, OpenAI-ov model analizira kombinaciju signala na nivou naloga i ponašanja, kao što su obrasci korišćenja i istorija naloga, kako bi procenio da li je korisnik mlađi od 18 godina. Kada sistem nije siguran, podrazumeva se sigurnije, ograničeno iskustvo. Ako je odrasli korisnik pogrešno identifikovan kao tinejdžer, može potvrditi svoj uzrast koristeći proces verifikacije putem selfija, nakon čega se vraća pun pristup.
Zašto OpenAI to radi?
OpenAI navodi da je ova nadogradnja rezultat istraživanja koje pokazuje da adolescenti imaju različite razvojne potrebe u poređenju sa odraslima, posebno kada je reč o preuzimanju rizika, emocionalnoj regulaciji i donošenju odluka. Kako generativna AI postaje sve dostupnija javnosti, kompanija želi da smanji verovatnoću da maloljetnici naiđu na sadržaj koji bi mogao biti štetan ili neprimeren za njihovu uzrasnu grupu.
Ovaj potez takođe odražava rastući pritisak na tehnološke platforme da pokažu jače mere zaštite dece i tinejdžera, posebno kako se AI alati široko koriste za učenje, zabavu i socijalnu interakciju.
Zašto je to važno?
Nadogradnja OpenAI-a dolazi u vreme sve veće svesti o uticaju tehnologije na mlade ljude. Na primer, Singapur je nedavno najavio da će učenicima srednjih škola biti zabranjeno korišćenje mobilnih uređaja tokom školskih časova, uključujući odmore i vannastavne aktivnosti, počev od 2026. godine. Ovaj potez ima za cilj smanjenje distrakcija i podsticanje zdravijih digitalnih navika među tinejdžerima.
Ovi razvoj događaja pokazuju pomak ka proaktivnoj digitalnoj sigurnosti za maloljetnike. Uvođenjem automatizovanih zaštita na osnovu uzrasta, OpenAI daje do znanja da je sigurnost mlađih korisnika osnovna komponenta načina na koji bi AI proizvodi poput ChatGPT-a trebali biti razvijeni i implementirani.
