OpenAI a anunțat recent măsuri mai severe în ceea ce privește informațiile despre arme accesibile adolescenților prin intermediul ChatGPT. Aceste restricții vizează nu doar întrebările directe despre arme, ci și cele care par inițial inofensive, având scopul de a preveni violența.
Într-un context de creștere a preocupărilor legate de riscurile pe care le reprezintă chatbot-urile pentru utilizatorii tineri, OpenAI a subliniat importanța rolului său în gestionarea amenințărilor. Astfel, conversațiile în care utilizatorii manifestă o obsesie pentru violență pot fi încheiate automat, iar conturile pot fi suspendate temporar în urma mai multor astfel de discuții.
Compania a îmbunătățit, de asemenea, sistemul de estimare a vârstei, care redirecționează utilizatorii sub 18 ani către o versiune adaptată a ChatGPT. Părinții vor fi notificați în cazul suspendării conturilor adolescenților pentru discuții repetate despre violență.
Printre măsurile anunțate se numără și limitarea accesului la informații despre atacurile armate din trecut, în special cele în masă, inclusiv detalii despre armele utilizate și modalitățile de obținere a acestora. Implementarea acestor măsuri va începe în câteva săptămâni și va fi continuu ajustată.
Un raport recent a evidențiat că adolescenții petrec, în medie, sub 15 minute pe zi pe ChatGPT, dar a subliniat și întârzierile în informarea părinților cu privire la utilizarea platformei pentru subiecte sensibile, cum ar fi sinuciderea sau automutilarea.
