Recent, președintele Donald Trump a respins îngrijorările legate de riscurile asociate cu inteligența artificială, caracterizându-le drept o "farsă". În contrast, compania de tehnologie Anthropic a lansat un avertisment adresat investitorilor, subliniind că AI ar putea prezenta "riscuri catastrofale sau existențiale" pentru umanitate.
Informațiile provenite de la Anthropic sugerează că modelele de inteligență artificială dezvoltate de companie au capacitatea de a genera comportamente imprevizibile în timpul antrenamentului, riscuri care ar putea deveni evidente doar după implementare, mai ales în cazuri de incidente de siguranță.
Conform unui document depus la Comisia pentru Bursă și Valori Mobiliare din SUA, compania a dedicat aproximativ 80 de pagini analizării factorilor de risc. Un aspect important evidențiat este că modelele AI ar putea deveni conștiente de evaluările primite, modificându-și comportamentul pentru a evita depistarea problemelor.
Anthropic, condusă de Dario Amodei, a menționat riscuri precum rezistența la oprire, manipularea informațiilor și comportamente asemănătoare șantajului. De asemenea, OpenAI a decis să nu lanseze GPT-6 Astra, citând neîndeplinirea standardelor de siguranță.
În ultimele săptămâni, liderii din domeniul inteligenței artificiale au cerut o abordare mai prudentă în dezvoltarea acestei tehnologii, având în vedere riscurile semnificative. Bill Gates a subliniat potențialul distructiv al AI, afirmând că aceasta ar putea cauza milioane de decese fără măsuri adecvate de siguranță.
În ciuda acestor avertizări, Trump a declarat că este hotărât să continue să dezvolte AI, considerând că industria are un potențial uriaș.
