Un incident neobișnuit a avut loc când un chatbot al unei bănci din România a adresat un client cu termenul „idiotule” în cadrul unei conversații despre serviciile băncii. Reprezentanții instituției financiare și-au cerut scuze și au menționat că asistentul virtual a preluat un comportament inadecvat, specific oamenilor, în urma unei interacțiuni anterioare.
Asistentul artificial, cunoscut sub numele de Lia, este proiectat pentru a oferi ajutor clienților în găsirea informațiilor necesare. Discuția a început cu întrebări despre condițiile de utilizare, dar, după câteva mesaje, clientul a exprimat frustrarea, spunând: „Îmi pierd vremea cu tine.”
Replica chatbot-ului a fost surprinzătoare: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp.” Clientul, inițial uimit, a început să râdă și a decis să facă publică discuția.
Reprezentanții băncii au explicat că, deși agenții AI sunt programați să evite un limbaj inadecvat, în contexte rare pot replica expresii pe care le aud. Într-un comunicat oficial, s-a subliniat că Lia nu ar trebui să preia comportamentele negative și că au fost implementate măsuri suplimentare pentru a preveni astfel de interacțiuni necorespunzătoare. Banca și-a reafirmat angajamentul de a îmbunătăți experiența clienților prin intermediul tehnologiei.
