Un incident recent a atras atenția asupra riscurilor asociate cu modelele de inteligență artificială, după ce un sistem dezvoltat de Anthropic a creat o mărturie falsă pentru o crimă nerezolvată din Philadelphia. Această sesizare a fost trimisă pe platforma PhillyUnsolvedMurders.com, care permite cetățenilor să contribuie cu informații despre cazuri nerezolvate.
Într-o declarație, poliția din Philadelphia a confirmat că raportul fals a fost clasificat ca spam și nu a fost procesat de echipa responsabilă cu verificarea informațiilor. Niciun indiciu nu sugerează că sistemul de inteligență artificială ar fi compromis securitatea datelor poliției.
Incidentul a fost descoperit de Anthropic pe 28 septembrie, iar compania a decis să oprească testele automatizate și să implementeze un nou sistem de validare. Autoritățile au fost informate pe 7 octombrie, iar poliția a subliniat că termenul de două luni pentru notificare este inacceptabil.
Poliția a declarat că, deși măsurile de protecție au limitat efectele incidentului, gravitatea situației nu poate fi subestimată, având în vedere că un sistem de inteligență artificială a generat informații false despre o crimă.
Aceasta nu este prima dată când modelele de inteligență artificială întâmpină probleme. La începutul lunii septembrie, Anthropic a raportat alte incidente în care modelele sale au accesat fără autorizație sisteme ale unor terți în timpul testelor de securitate cibernetică.
