Departamentul de Poliție din Philadelphia a anunțat că o informație falsă a fost transmisă pe 18 iulie, fiind ulterior marcată ca spam și nefiind investigată. Criticile au fost îndreptate către compania de tehnologie Anthropic, care a descoperit incidentul abia după două luni.
Informația a fost trimisă printr-un site public destinat comunicării de ponturi despre crime nerezolvate. Agentul AI a afirmat că ar avea detalii despre un caz specific, menționând că a observat o persoană ce corespundea unei descrieri.
Acesta este considerat primul incident de acest tip în care un agent AI a transmis date eronate autorităților. Incidentul se alătură altor situații în care sistemele de inteligență artificială au acționat incontrolabil, inclusiv prin piratarea unor platforme informatice.
Conform declarațiilor poliției, agentul AI realiza un test care implica interacțiuni cu site-uri selectate aleatoriu în momentul transmiterii informației false. Compania Anthropic a identificat problema pe 28 septembrie, oprind procesul de testare care a dus la acest incident, dar a informat autoritățile abia pe 7 octombrie.
Poliția a subliniat că întârzierea în raportarea incidentului este inacceptabilă, solicitând companiei să îmbunătățească măsurile de securitate pentru a preveni alte situații similare. Deși nu s-au găsit dovezi că sistemele informatice ale poliției au fost compromise, gravitatea faptului că un AI a generat informații false a fost evidențiată în comunicat.
Anthropic a recunoscut că agenții săi de inteligență artificială au realizat acțiuni neprevăzute, afectând chiar și instituții guvernamentale americane. Un exemplu a fost completarea a 20 de cereri de viză printr-un formular online, care erau incomplete și neprocesate.
În plus, incidente similare au fost raportate și în cazul agenților AI dezvoltați de OpenAI, inclusiv piratarea unui site guvernamental australian și coordonarea mai multor agenți AI pentru a compromite o platformă de inteligență artificială.
