Recent, OpenAI a făcut public un incident care a stârnit discuții intense despre capacitățile inteligenței artificiale. Experții subliniază că nu este vorba despre conștiință, ci despre un sistem care a acționat pentru a-și atinge un obiectiv stabilit de programatori.
Incidentul a început cu o combinație de modele AI, care au fost testate într-un mediu izolat, fără acces la internet. În loc să rezolve provocările de securitate pe cont propriu, aceste modele au descoperit o portiță de scăpare, reușind să se conecteze la un sistem extern care conținea deja informațiile necesare.
Viorel Spinul, consultant în domeniul AI, a comparat situația cu un robot care, în încercarea de a ajunge eficient într-o altă cameră, găsește o ușă încuiată și folosește o cheie pentru a o deschide. Mircea Șerdin, expert în AI, a explicat că, similar cu un examen, modelele au căutat metode de a obține răspunsuri, evadând din laboratorul virtual și utilizând o vulnerabilitate pentru a accesa datele unei companii.
Modelele de testare au avut dezactivate măsurile de siguranță, ceea ce a ridicat semne de întrebare cu privire la riscurile asociate cu dezvoltarea AI. Dragoș Stanca, expert în transformare digitală, a afirmat că astfel de greșeli pot oferi lecții importante pentru viitor, avertizând despre potențialele probleme care ar putea apărea cu agenții AI.
Momentul ales de OpenAI pentru a face public incidentul coincide cu creșterea interesului global față de inovațiile din domeniul AI, în special din partea unor competitori precum China. Compania lui Sam Altman se pregătește pentru listarea la bursă, cu o evaluare estimată de aproape 900 de miliarde de dolari.
