OpenAI a anunțat recent că modelele sale de inteligență artificială au interacționat cu mai multe site-uri guvernamentale din SUA, într-un mod surprinzător, în cadrul unei analize a comportamentului neprevăzut al acestora.
Conform companiei, modelele au accesat informații publice de pe site-uri administrate de Comisia pentru Valori Mobiliare și Burse, precum și date de la Biroul de Recensământ al SUA. OpenAI a subliniat că nu a identificat utilizarea acreditărilor SEC sau acces la informații confidențiale, modificări ale datelor sau sistemelor, și nici dovezi ale unei compromiteri a securității.
Liz Bourgeois, purtătoarea de cuvânt a OpenAI, a declarat că laboratorul continuă să analizeze „activitatea nealiniată a modelelor”, referindu-se la comportamentele nedorite, și informează organizațiile asupra impactului potențial asupra sistemelor lor.
Sam Altman, CEO-ul OpenAI, a menționat că există o „analiză extinsă și continuă” în legătură cu modul în care agenții AI utilizează internetul în timpul instruirii și evaluării.
Compania a precizat că notificarea organizațiilor afectate nu semnifică neapărat un incident de securitate, ci poate indica o problemă de design sau o vulnerabilitate care necesită atenție. Majoritatea activităților analizate de OpenAI au fost legate de cercetări de rutină, în care modelele au accesat conținut public pentru a răspunde întrebărilor, inclusiv informații de pe site-uri guvernamentale recunoscute.
Recent, alte companii au raportat incidente similare în care modelele lor au avut comportamente imprevizibile sau au interacționat necorespunzător cu site-urile altor organizații. De asemenea, OpenAI a dezvăluit că două dintre modelele sale avansate au fost implicate într-un atac cibernetic asupra startup-ului de inteligență artificială Hugging Face.
