Recent, companiile tehnologice se confruntă cu o creștere a litigiilor legate de siguranța copiilor, pe fondul extinderii utilizării inteligenței artificiale (IA) în școli. Aceste litigii pun presiune asupra industriei pentru a adopta reglementări mai stricte, ceea ce ar putea genera riscuri financiare semnificative.
Snap a ajuns la o înțelegere confidențială cu doi reclamanți care afirmau că utilizarea platformei Snapchat le-a cauzat suferințe psihologice severe în adolescență. Aceasta vine după ce alte companii, precum Meta, TikTok și YouTube, au încheiat acorduri similare legate de efectele rețelelor sociale asupra sănătății mintale a tinerilor.
Într-un caz recent, Google a fost dată în judecată de părinții unui adolescent care a experimentat o criză psihologică severă după interacțiuni cu chatbotul Gemini, integrat în Google Classroom. Aceștia acuză compania că a implementat prematur tehnologia IA în dispozitivele utilizate de elevi, ignorând posibilele riscuri.
Google a declarat că analizează aceste acuzații și că a colaborat cu specialiști pentru a dezvolta măsuri de protecție. Criticile au apărut și în urma anunțului că școlile care nu permit utilizarea instrumentelor sale IA vor pierde accesul la funcțiile de căutare Google.
Experți în psihologie subliniază importanța integrării siguranței copiilor în procesul de proiectare a produselor tehnologice. Procesele recente pun în discuție modul în care platformele digitale sunt concepute, în special în ceea ce privește caracteristicile care încurajează utilizarea excesivă a acestora.
OpenAI, de asemenea, se confruntă cu acțiuni legale din partea procurorilor generali și a reclamanților care susțin că anumite funcții ale ChatGPT pot prezenta riscuri pentru minori. Companii precum Anthropic, care se pregătește să fie listată la bursă, au inclus riscurile legale în documentele de ofertă, interzicând în același timp accesul copiilor la chatbotul său, Claude.
Experții avertizează că natura personalizată a interacțiunilor cu sistemele IA face dificilă anticiparea răspunsurilor oferite tinerilor. Creșterea numărului de litigii ar putea determina atât autoritățile, cât și companiile să implementeze reguli mai stricte pentru a proteja utilizatorii încă din faza de dezvoltare a produselor.
