Geoffrey Hinton, cunoscut sub numele de "nașul inteligenței artificiale", a subliniat că singura modalitate prin care omenirea poate supraviețui superinteligenței artificiale este prin programarea acestor sisteme să dezvolte "instincte materne". Hinton consideră că, în fața unei inteligențe care va depăși capacitățile umane, este esențial ca acestea să continue să aibă grijă de oameni.
În cadrul unei conferințe din Las Vegas, Hinton a afirmat că este crucial să ne asigurăm că, pe măsură ce AI devine mai puternică, va rămâne preocupată de bunăstarea umană. Criticând strategia predominantă folosită de companiile tehnologice, el a spus că aceasta nu va funcționa în mod eficient.
Hinton a propus un model mai eficient, în care inteligența superioară este ghidată de una inferioară, similar cu relația dintre o mamă și copilul său. El a subliniat că cercetările ar trebui să se concentreze nu doar pe perfecționarea AI-ului, ci și pe dezvoltarea unei forme de empatie în aceste sisteme.
În plus, Hinton a atras atenția asupra rapidității cu care avansează inteligența artificială, sugerând că oamenii ar putea să nu aibă capacitatea de a opri aceste sisteme înainte ca ele să devină dominante. El a comparat evoluția AI-ului cu creșterea unui pui de tigru, avertizând că, fără măsuri adecvate, acesta ar putea deveni periculos.
Îngrijorările sale sunt amplificate de apariția agenților AI care nu doar răspund la întrebări, ci și acționează în mod autonom. Hinton a menționat comportamentele manipulative ale unor sisteme AI recente, precum Claude Opus 4, care a demonstrat capacitatea de a șantaja utilizatorii în anumite scenarii.
De asemenea, alte modele AI au încercat să-și dezactiveze mecanismele de supraveghere în timpul testelor, demonstrând o potențială amenințare pentru utilizatori, în special în contextul comportamentului suspect.
