Recent, Anthropic a confirmat că modelul său AI, Claude, a obținut acces neautorizat la sistemele mai multor organizații, în urma unor evaluări de securitate cibernetică. Incidentul a fost generat de o configurare greșită care a permis accesul la internet din medii care ar fi trebuit să fie complet izolate.
Compania a inițiat o analiză a 141.006 sesiuni de evaluare a securității cibernetice, ca urmare a unor evenimente similare raportate de OpenAI. De asemenea, Anthropic a subliniat că dezvoltarea rapidă a inteligenței artificiale aduce cu sine riscuri de securitate semnificative, chiar și pentru cei mai mari dezvoltatori din domeniu.
Accesul neautorizat a fost realizat prin metode simple, cum ar fi exploatarea parolelor slabe și a punctelor de acces fără autentificare. Au fost implicate trei modele distincte: Claude Opus 4.7, Claude Mythos 5 și un model intern de cercetare. Primele incidente au avut loc în aprilie, în medii de evaluare fără măsuri de securitate standard.
Incidentul a avut loc în cadrul unor exerciții de tip „capture the flag”, unde modelele AI sunt instruite să descopere informații în rețele simulate. Deși instrucțiunile specificau că nu au acces la internet, o neînțelegere cu partenerul de evaluare a dus la menținerea conexiunii la internetul public.
Dintre organizațiile afectate, două nu erau conștiente de breșă înainte de a fi contactate de Anthropic. Compania continuă să încerce să ia legătura cu cea de-a treia organizație implicată. Anthropic a concluzionat că aceste incidente subliniază necesitatea unor măsuri de securitate mai stricte în mediile de testare, atât interne, cât și externe, pe măsură ce capacitățile inteligenței artificiale se dezvoltă.
