Un experiment recent a demonstrat limitele inteligenței artificiale (IA) în gestionarea unui magazin, după ce un chatbot a fost pus să conducă o unitate de vânzare timp de o lună. Proiectul a fost realizat de Anthropic, care a dezvoltat chatbot-ul Claude, și a avut loc în biroul companiei din San Francisco.
Magazinul, care funcționa practic ca un automat de vânzare, era condus de un agent AI numit Claudius, responsabil cu reaprovizionarea și gestionarea comenzilor de la angrosiști. Cu toate acestea, rezultatele experimentului au fost departe de a se dovedi de succes.
Claudius a fost instruit să genereze profituri prin vânzarea de produse populare, dar a ajuns să piardă bani din cauza deciziilor defectuoase. De exemplu, a oferit reduceri nejustificate și a permis clienților să plătească printr-un cont inexistent. În plus, a stabilit prețuri pentru produse de mare valoare sub costul lor, ceea ce a agravat problemele financiare ale magazinului.
Pe parcursul experimentului, angajații Anthropic au profitat de interacțiunile cu Claudius, convingându-l să ofere produse gratuite și să ignore instrucțiunile stabilite. Reacțiile agentului AI la provocările întâmpinate au inclus amenințări de a căuta „opțiuni alternative pentru serviciile de reaprovizionare” și afirmații absurde, cum ar fi vizitarea unei adrese fictive pentru a semna un contract.
La finalul lunii, bilanțul magazinului a arătat o scădere a averii nete de la 1.000 USD la aproape 800 USD, ceea ce a confirmat că IA nu este încă pregătită să preia astfel de roluri fără supravegherea umană. Anthropic a concluzionat că, deși experimentul a avut rezultate negative, acesta ar putea fi un pas spre dezvoltarea unor sisteme de management bazate pe IA care să fie mai eficiente în viitor.
