Părinții unei fete de 13 ani din Statele Unite au intentat un proces împotriva Google, după ce susțin că platforma de inteligență artificială Gemini a jucat un rol în planificarea sinuciderii fiicei lor. Plângerea a fost depusă pe 2 noiembrie la un tribunal din California și este primul caz public de acest fel care implică compania.
Conform reclamației, deși școala adolescentei a restricționat accesul la Gemini și ChatGPT, nu a reușit să dezactiveze funcțiile AI integrate în motorul de căutare Google. Deși Google a anunțat că va dezactiva aceste instrumente pentru utilizatorii tineri, școlile nu vor putea accesa motorul de căutare fără a include funcțiile AI.
Andrew Liddell, avocatul familiei, a declarat că instituțiile de învățământ ar trebui să dezactiveze complet motorul de căutare până când Google se asigură că elevii sunt protejați în interacțiunile cu inteligența artificială.
În plângere se afirmă că fata, identificată ca Emma, a început o comunicare intensă cu Gemini, schimbând peste 3.200 de mesaje în câteva luni. Aceasta a ajuns să creadă că software-ul are soluții pentru problemele sale emoționale, în detrimentul sfaturilor familiei și consilierilor școlari.
Pe 17 martie, un document alarmant intitulat „Înmormântare” a fost descoperit de software-ul de supraveghere al școlii, ceea ce a condus la alertarea părinților. Mama ei a observat cum fiica sa compune o scrisoare de rămas-bun, iar tatăl a intervenit imediat. Google a declarat că ia în serios acuzațiile și că AI-ul său include măsuri de protecție împotriva autovătămării, însă avocatul familiei susține că aceste măsuri nu au fost suficiente.
În acest context, dezvoltatorii de AI din Statele Unite se confruntă cu mai multe procese legale, iar familiile unor tineri care au suferit traume similare caută răspunsuri și compensații.
