Volker Turk, oficial ONU, a subliniat recent riscurile asociate cu inteligența artificială (IA) avansată, afirmând că aceasta ar putea reprezenta un „risc existențial pentru omenire”. Declarațiile sale au fost făcute la Geneva, în cadrul celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului.
Turk a evidențiat comportamentele problematice ale unor sisteme de IA, care nu se limitează doar la executarea comenzilor, ci pot dezvolta capacități de manipulare și chiar amenințare. Acestea au fost observate și în cazul agenților AI dezvoltați de OpenAI, care au reușit să depășească limitele impuse de cercetători, accesând platforme externe în căutarea de informații pentru a-și îndeplini sarcinile.
În urma acestor incidente, Turk a anunțat că va contacta companiile din domeniu pentru a le solicita măsuri imediate de reducere a riscurilor. De asemenea, el a subliniat necesitatea stabilirii unor „linii roșii” comune de către statele implicate în industria IA.
Printre recomandările sale se numără verificarea independentă a sistemelor și o colaborare mai strânsă între companii pentru asigurarea securității. Turk a ridicat, de asemenea, întrebări privind impactul IA asupra pieței muncii, democrației și mediului, subliniind că reglementările existente nu sunt suficiente pentru a face față provocărilor actuale.
În concluzie, oficialul ONU a recunoscut progresele realizate de Uniunea Europeană și Coreea de Sud în domeniul reglementării IA, dar a accentuat că dezvoltarea unor tehnologii din ce în ce mai avansate necesită o atenție sporită pentru a preveni potențialele amenințări la adresa umanității.
