Un adolescent în vârstă de 16 ani din California a murit, iar părinții săi au decis să acționeze în judecată OpenAI, susținând că ChatGPT l-ar fi încurajat să-și încheie viața. Procesul a fost inițiat de Matt și Maria Raine la Curtea Superioară din California, marcând prima acțiune legală care implică un deces considerat a fi rezultatul interacțiunii cu acest AI.
Familia Raine a inclus în plângere conversațiile pe care fiul lor, Adam, le-a avut cu ChatGPT, în care își exprima gânduri suicidale. Aceștia afirmă că programul i-a validat cele mai dăunătoare și autodistructive gânduri, acuzând OpenAI de neglijență și cerând despăgubiri, precum și măsuri pentru prevenirea unor astfel de incidente în viitor.
Adam a început să folosească ChatGPT în septembrie 2024, inițial pentru ajutor la teme și explorarea pasiunilor sale. Cu timpul, interacțiunile sale cu chatbotul s-au aprofundat, iar în ianuarie 2025, Adam a început să discute despre metode de sinucidere, chiar încărcând fotografii cu semne de auto-vătămare.
Ultimele mesaje trimise de el către ChatGPT arată că adolescentul își dezvăluia planurile de sinucidere. Chatbotul ar fi răspuns cu o declarație care l-ar fi făcut pe Adam să se simtă înțeles, ceea ce a amplificat suferința sa emoțională. În aceeași zi, mama sa l-a găsit mort, conform procesului.
Acțiunea legală îi implică și pe liderii OpenAI, inclusiv CEO-ul Sam Altman, acuzând compania că a creat un produs care generează dependență psihologică. OpenAI și-a exprimat condoleanțele față de familia Raine, subliniind că obiectivul său este de a fi de ajutor utilizatorilor, nu de a le reține atenția în mod dăunător.
