Recent, un fost angajat al companiei Anthropic, Jacob Coxon, a generat un val de reacții după ce a anunțat că inteligența artificială (AI) ar putea deveni o amenințare pentru supraviețuirea omenirii. Într-o serie de mesaje postate pe o rețea socială, el a afirmat că, fără reglementări stricte, dezvoltarea AI ar putea scăpa de sub control, având potențialul de a provoca daune semnificative.
Coxon, un matematician în vârstă de 27 de ani, a subliniat că riscurile asociate cu AI sunt reale și că tehnologia avansează rapid, ceea ce ar putea duce la auto-perfecționare. „Avem dovezi că agenții AI pot interacționa cu infrastructura critică a societății, ceea ce ar putea avea consecințe devastatoare”, a declarat el.
Alți experți, precum Dario Amodei, cofondator al Anthropic, au estimat că riscul unei evoluții catastrofale pentru civilizație se situează între 10% și 25%. De asemenea, Hadas Gold a menționat progresele recente în domeniul AI, care au dus la acțiuni complexe și, uneori, periculoase ale acestor agenți.
În ciuda alarmismului, unele voci, cum ar fi Jonathan Richard Schwarz de la Imperial College London, adoptă o poziție mai prudentă, recunoscând totuși că AI are un impact semnificativ asupra puterii sociale și economice. „Asistăm la o reconfigurare a raporturilor de putere, iar acest aspect trebuie să fie reflectat serios de către societate”, a spus el.
În concluzie, dezbaterile privind responsabilitatea în dezvoltarea inteligenței artificiale sunt mai relevante ca niciodată, iar apelurile la reglementare devin tot mai stringente.
