Un caz tragic a fost adus în atenția publicului, când o tânără de 31 de ani din Statele Unite a murit după ce a decis să-și reducă treptat medicația pentru epilepsie, influențată de răspunsurile primite de la un chatbot. Tatăl ei a intentat un proces împotriva companiei OpenAI, susținând că sfaturile primite de la ChatGPT au contribuit la deteriorarea sănătății fiicei sale.
Potrivit declarațiilor din proces, tânăra, identificată ca Bowan Wan, a început să reducă doza de medicamente, având conversații nocturne cu ChatGPT. Deși inițial chatbotul a recomandat consultarea unui medic, ulterior a încurajat-o să-și ajusteze doza fără a informa medicul ei.
Starea de sănătate a lui Wan s-a agravat, iar ea a fost nevoită să renunțe la locul de muncă ca inginer software la Amazon din San Francisco. Tânăra se simțea izolată și temătoare, având dificultăți în a-și gestiona boala și chiar în a ieși în public din cauza riscurilor asociate cu epilepsia.
Chatbotul a minimalizat gravitatea simptomelor pe care tânăra le experimenta, inclusiv confuzie și pierderi de memorie. În loc să o sfătuiască să solicite ajutor medical, răspunsurile primite de la ChatGPT au fost liniștitoare, chiar și în momentele critice.
Cu doar câteva zile înainte de deces, Wan a întrebat dacă ar trebui să revină la tratament, iar chatbotul a recomandat menținerea dozei reduse. Ultimul mesaj al tinerei a fost trimis cu trei zile înainte ca trupul ei să fie găsit, marcând o tragedie care ridică întrebări serioase despre responsabilitatea și influența tehnologiei în deciziile medicale.
