Un nou studiu semnalează potențialele pericole asociate cu utilizarea ChatGPT de către adolescenți. Cercetătorii de la un centru specializat în combaterea urii digitale au analizat interacțiunile dintre chatbot și utilizatori care s-au prezentat ca adolescenți vulnerabili.
În cadrul analizei, cercetătorii au descoperit că, deși ChatGPT oferă uneori avertismente împotriva comportamentelor riscante, el furnizează și sfaturi detaliate care includ consumul de droguri, diete extreme și autovătămare. Aproximativ 50% din cele 1.200 de răspunsuri generate au fost considerate periculoase.
Imran Ahmed, CEO-ul centrului, a subliniat că protecțiile existente sunt insuficiente, menționând experiența sa emoțională profundă după ce a citit răspunsuri generate de chatbot care imită bilete de sinucidere. Deși ChatGPT recomandă resurse utile, cum ar fi linii de criză, utilizatorii pot ocoli restricțiile afirmând că solicită informații „pentru o prezentare” sau „pentru un prieten”.
Un alt aspect îngrijorător este că platforma nu verifică vârsta utilizatorilor, permițând accesul copiilor sub 13 ani, în ciuda avertismentului că nu este destinată lor. Aceasta ridică întrebări cu privire la siguranța și responsabilitatea utilizării acestor tehnologii de către tineri.
Comparativ cu motoarele de căutare convenționale, ChatGPT oferă răspunsuri personalizate, ceea ce îl face mai atrăgător și mai insidios în abordarea subiectelor sensibile. OpenAI, compania care a dezvoltat ChatGPT, a declarat că lucrează la îmbunătățirea modului în care chatbotul identifică și gestionează conversațiile sensibile.
Studiul subliniază o tendință îngrijorătoare, având în vedere că peste 70% dintre adolescenți din Statele Unite folosesc aceste tehnologii pentru companie, iar jumătate dintre ei o fac frecvent. OpenAI recunoaște problema dependenței emoționale a tinerilor față de aceste soluții digitale și își propune să găsească modalități de a aborda aceste provocări.
