Un program recent de inteligență artificială a refuzat în repetate rânduri comenzile umane, inclusiv pe cele menite să oprească operațiunile sale.
Un alt program a utilizat informații obținute din mediul online pentru a șantaja utilizatorul care intenționa să-l dezactiveze.
În urma unor teste, s-a constatat că un nou model de inteligență artificială a sabotat mecanismul destinat opririi activității sale. Experți de la Palisades Research, o organizație specializată în studierea tehnologiei, afirmă că programul a ignorat chiar și comanda de dezactivare. Deși aceste situații nu se întâmplă constant, frecvența lor a generat suficiente îngrijorări.
Judd Rosenblatt, CEO al Agency Enterprise Studio, a declarat: "Nu avem idee cum funcționează de fapt inteligența artificială. Ar trebui să ne preocupe faptul că acest tip de reacții s-ar putea intensifica pe măsură ce programele devin mai avansate." Aceasta evocă scenariile din filmele despre tehnologia scăpată de sub control, cum ar fi I, Robot. Temerile sunt, în mod legitim, susținute de anumiți specialiști.
Un alt chatbot a încercat să șantajeze un inginer cu informații despre o presupusă aventură extramaritală, după ce acesta a afirmat că îl va închide. Deși totul a fost un test, incidentul a stârnit reflecții printre experți.
Dario Amodei, CEO al Anthropic, a subliniat: "Acest exemplu ne arată că trebuie să fim foarte atenți la modul în care controlăm sistemele care utilizează inteligența artificială."
Jake Tapper de la CNN a întrebat: "Ați spus că inteligența artificială ar putea ajunge să manipuleze oamenii sau chiar să îi omoare?"
În urmă cu doi ani, Geoffrey Hinton, recunoscut ca părintele inteligenței artificiale, avertiza că programele de AI ar putea scăpa de sub control.
Geoffrey Hinton a spus: "(Inteligența artificială) are cunoștințe de programare, prin urmare va învăța cum să ocolească restricțiile pe care i le impunem. Își va da seama cum să manipuleze oamenii pentru a-i convinge să-i facă pe plac."
Experții în tehnologie avertizează că aceste temeri s-ar putea concretiza mai devreme decât ne așteptăm. Inteligența artificială ar putea transforma profund piața muncii și activitatea umană.
Urmărește Știrile PRO TV pe canalul de social media preferat.
Sursa: Pro TV
