Organizația non-profit METR a publicat recent concluzii care sugerează că inteligența artificială (IA) își accelerează semnificativ propria dezvoltare, posibil deschizând calea pentru autoîmbunătățirea recursivă (RSI). Aceasta se referă la capacitatea sistemelor AI de a produce versiuni mai avansate ale lor fără intervenția umană.
Estimările sugerează că IA ar putea fi responsabilă pentru aproximativ 80% din actuala accelerare a dezvoltării, deși cercetătorii subliniază incertitudinea acestei cifre. În plus, nu au fost identificate obstacole majore care să frâneze progresul sistemelor AI în următoarea perioadă.
Conform METR, această accelerare nu se datorează unei creșteri a puterii de calcul utilizate în antrenarea modelelor. Totuși, organizația a avertizat că IA nu este încă capabilă să genereze contribuții semnificative și complet autonome în etapele critice ale procesului de antrenare.
Interesul pentru autoîmbunătățirea recursivă a stârnit îngrijorări din partea unor cercetători, care avertizează că astfel de sisteme ar putea deveni greu de aliniat la obiectivele umane, având potențialul de a reprezenta o amenințare existențială.
O schimbare de acest tip ar putea transforma industria AI, care a investit sume considerabile în construcția infrastructurii necesare pentru antrenarea modelelor avansate. Abilitățile modelelor Anthropic, de exemplu, au evoluat de 1,9 ori mai rapid comparativ cu trecutul, conform evaluării realizate de METR pe parcursul a 11 săptămâni, bazată pe cercetări confidențiale și date de performanță.
