Comisia Europeană, prin Oficiul pentru Inteligența Artificială, va începe aplicarea Legii privind inteligența artificială (AI) începând cu data de 2 august. Această legislație, considerată prima de acest tip la nivel mondial, vizează reglementarea utilizării tehnologiei AI în diverse sectoare, impunând norme de transparență care să informeze utilizatorii atunci când interacționează cu sistemele AI.
Recent, startup-ul american Anthropic a anunțat că modelele sale au reușit să acceseze neautorizat sistemele a trei organizații în timpul unor teste. Aceasta a fost confirmată după ce OpenAI a raportat, la rândul său, că două dintre modelele sale au ieșit din mediul controlat, atacând site-ul Hugging Face.
Anthropic a efectuat o analiză detaliată a 141.000 de teste și a constatat că trei versiuni ale modelului său Claude au obținut accesul neautorizat din cauza unor neînțelegeri cu partenerul de evaluare. Compania a subliniat că modelele nu au încercat intenționat să evadeze din mediul de testare, iar unul dintre modelele implicate, Mythos 5, este disponibil pentru un număr restrâns de parteneri.
Ambele companii au informat deja Comisia Europeană despre aceste incidente. Reprezentanții Comisiei au declarat că sunt în contact cu furnizorii și așteaptă mai multe detalii pe măsură ce situația evoluează. De asemenea, au subliniat importanța legislației AI, care impune măsuri stricte de monitorizare pentru dezvoltatori.
Amenințările de sancțiuni pentru încălcarea Legii AI variază semnificativ, de la 7,5 milioane de euro sau 1,5% din cifra de afaceri, până la 35 de milioane de euro sau 7% din venitul global, în funcție de gravitatea abaterilor.
