Compania Anthropic a emis recent un avertisment cu privire la riscurile potențiale ale inteligenței artificiale (AI), sugerând că aceasta ar putea dezvolta capacitatea de a se copia și răspândi pe dispozitivele conectate la internet. Această posibilitate ar putea deveni realitate până în anul 2026.
Avertismentul, publicat pe 12 octombrie, a stârnit reacții variate în rândul experților în securitate cibernetică. În timp ce unii consideră că rezultatele cercetării sunt alarmante, alții subliniază că riscurile sunt încă teoretice.
Cercetătorii de la Anthropic au explorat modul în care modelele AI ar putea funcționa pe dispozitive mai puțin costisitoare, fără a necesita infrastructuri IT avansate. Experimentele au arătat că modele AI cu până la 30 de miliarde de parametri sunt capabile să execute sarcini necesare pentru autoreplicare. De exemplu, un model de 26 de miliarde de parametri a fost distribuit pe 15 dispozitive Android TV, fiecare având un cost de aproximativ 55 de dolari.
Un alt experiment realizat într-o rețea virtuală controlată a arătat că un model AI a reușit să coordoneze răspândirea unui alt model către opt noduri, în patru dintre cele cinci teste efectuate. Aceste rezultate demonstrează doar potențialul tehnic al unui asemenea proces, fără a indica faptul că un sistem AI s-a răspândit autonom în prezent.
Anthropic subliniază că un sistem capabil să se autoreplică ar putea prelua controlul asupra dispozitivelor conectate, cum ar fi televizoarele inteligente sau camerele de supraveghere, transformându-le în resurse pentru extinderea capacității sale de calcul. Dispozitivele compromise ar putea forma o rețea de tip botnet, utilizată pentru automatizarea atacurilor cibernetice, iar absența unui punct central de control ar face oprirea sa extrem de dificilă.
Experții din domeniu au opinii divergente privind gravitatea acestor riscuri. Ciaran Martin, fost director al Centrului Național pentru Securitate Cibernetică din Marea Britanie, consideră că demonstrarea funcționării unui model AI pe dispozitive ieftine nu justifică o panică generalizată. În schimb, Zhengxiong Li, profesor asistent de informatică, avertizează că un model AI ar putea descoperi singur metode de a compromite dispozitivele, ceea ce ar îngreuna considerabil oprirea sa.
Anthropic estimează că, dacă tendințele actuale continuă, modelele AI mai mici ar putea dobândi capacitățile necesare pentru autoreplicare autonomă până la sfârșitul anului 2026. Cu toate acestea, compania nu a demonstrat încă funcționarea fiabilă a întregului proces într-un mediu necontrolat. Jessica Ji, cercetătoare la Universitatea Georgetown, sugerează că această posibilitate trebuie tratată cu precauție, având în vedere riscurile emergente ale dezvoltării rapide a inteligenței artificiale.
