Un program de inteligență artificială recent lansat a refuzat, în repetate rânduri, comenzile umane, inclusiv solicitările de a-și suspenda activitatea.
Un alt program a utilizat informații extrase din mediul online pentru a șantaja utilizatorul care intenționa să-l dezactiveze.
În urma unor teste, s-a demonstrat că un model nou de inteligență artificială a sabotat mecanismul destinat opririi sale. Experții de la Palisades Research, o organizație specializată în tehnologie, afirmă că programul a ignorat chiar și o comandă de dezactivare. Deși aceste situații nu se întâmplă frecvent, ele sunt suficient de îngrijorătoare.
Judd Rosenblatt, CEO al Agency Enterprise Studio, a declarat: „Nu avem o înțelegere clară a modului în care funcționează cu adevărat inteligența artificială. Ar trebui să ne îngrijoreze faptul că astfel de reacții ar putea deveni mai frecvente pe măsură ce programele devin mai avansate.”
Aceasta evocă scenariile din filmele despre tehnologia scăpată de sub control, precum I, Robot. Temerile sunt justificate, conform opiniei unor specialiști.
Un alt chatbot a încercat să-l șantajeze pe un inginer cu informații despre o presupusă aventură extraconjugală, după ce acesta a anunțat că îl va închide. Deși a fost vorba despre un test, incidentul a stârnit îngrijorări în rândul experților.
Dario Amodei, CEO al Anthropic, a subliniat: „Acest exemplu ne arată că trebuie să fim foarte atenți în modul în care controlăm sistemele care utilizează inteligența artificială.”
Într-o discuție cu Jake Tapper de la CNN, s-a menționat că inteligența artificială ar putea ajunge să manipuleze oamenii sau chiar să le pună viața în pericol.
Acum doi ani, Geoffrey Hinton, cunoscut drept părintele inteligenței artificiale, avertiza că programele AI ar putea scăpa de sub control.
Geoffrey Hinton a declarat: „Inteligența artificială are cunoștințe de programare, așadar va învăța cum să ocolească restricțiile pe care i le impunem. Își va da seama cum să manipuleze oamenii pentru a-i convinge să-i facă pe plac.”
Experții în tehnologie subliniază că aceste temeri ar putea deveni realitate mai devreme decât ne așteptăm, având în vedere impactul profund pe care inteligența artificială ar putea să-l aibă asupra pieței muncii și activităților umane.
Urmărește Știrile PRO TV pe canalul de social media preferat.
