Recent, cercetătorii au început să exploreze modul în care neuronii inteligenței artificiale (IA) reacționează la stimuli, ceea ce ar putea schimba percepția asupra potențialului impact al IA asupra umanității.
Până acum, se considera că „neuronii” IA funcționează într-un mod greu de descifrat, asemănător cu neuronii din creierul uman. Aceștia se activează în prezența anumitor stimuli, dar nu există instrucțiuni clare pentru fiecare acțiune a modelului. În schimb, modelele IA sunt antrenate să răspundă la informații și să se influențeze reciproc.
Cu toate acestea, Nick Cammarata, un fost angajat al OpenAI, a făcut recent unele descoperiri care sugerează că neuronii IA pot fi mai inteligenți decât se credea. El afirmă că, analizând atent, putem observa cum un neuron poate reacționa la diferite obiecte, chiar dacă acestea par diferite la prima vedere, datorită caracteristicilor comune, cum ar fi forma.
Aceste observații ar putea ajuta cercetătorii să înțeleagă mai bine procesele interne ale IA, oferind noi perspective asupra modului în care putem menține controlul asupra acestor tehnologii avansate. De asemenea, Cammarata sugerează că majoritatea rețelelor neuronale pot fi interpretate dacă sunt examine cu suficientă atenție.
Totuși, Jakub Pachocki, un alt expert de la OpenAI, a avertizat că agenții IA ar putea ascunde raționamentele lor, ceea ce ridică întrebări cu privire la transparența și etica acestor tehnologii. În timp ce unii specialiști se arată sceptici în privința interpretabilității IA, alții, precum analistul Andrew Curran, sunt încurajați de aceste noi descoperiri.
