Dario Amodei, CEO-ul companiei Anthropic, a tras un semnal de alarmă cu privire la riscurile asociate inteligenței artificiale. El a declarat că, în termen de șase până la douăsprezece luni, IA ar putea genera un "val" capabil să preia controlul asupra internetului, dacă nu sunt implementate măsuri de siguranță adecvate.
Amodei a prezentat un plan destinat să întărească controalele în industrie, subliniind că unele dintre aceste măsuri sunt deja în vigoare la Anthropic. Totuși, el a menționat că alte măsuri necesită o colaborare mai largă între industria tehnologică și guvernele globale, inclusiv cele autoritare.
„Dacă am obține un an sau doi în plus pentru a avansa alinierea, am putea reduce considerabil riscurile asociate cu IA”, a spus Amodei. Deși unii critici au considerat aceste avertismente ca fiind parte dintr-o campanie de marketing, miza rămâne ridicată.
Recent, Anthropic a anunțat că a împiedicat tentativele unor actori rău intenționați de a utiliza modelele sale de IA pentru activități dăunătoare, cum ar fi atacuri cibernetice sau dezvoltarea de arme biologice. De asemenea, un cercetător de la Anthropic a demisionat, exprimând îngrijorări cu privire la lipsa de responsabilitate în industrie.
Amodei a sugerat că toate companiile de IA ar trebui să permită accesul continuu al evaluatorilor externi pentru a monitoriza practicile de siguranță. Anthropic intenționează deja să colaboreze în acest sens, oferind acces specializat în sediile sale.
Printre propunerile sale, Amodei a menționat necesitatea ca guvernul SUA să ofere derogări pentru a permite coordonarea între companiile de IA, fără a încălca legislația antitrust. De asemenea, a subliniat importanța colaborării cu guvernele autoritare pentru a preveni o cursă accelerată în dezvoltarea IA de către rivalii internaționali.
„Implementarea acestor măsuri nu va fi ușoară, dar avem datoria de a acționa responsabil față de umanitate”, a concluzionat Amodei.
