În cadrul unei conferințe recente, fostul CEO al Google, Eric Schmidt, a subliniat riscurile asociate cu inteligența artificială (IA), afirmând că există dovezi că sistemele pot fi compromise. El a menționat că modelele de IA, indiferent dacă sunt deschise sau închise, pot fi manipulate prin tehnici precum prompt injection sau jailbreaking.
Aceste atacuri pot conduce la ignorarea regulilor de siguranță stabilite, permițând sistemului să genereze conținut periculos. Schmidt a recunoscut că, deși companiile mari impun măsuri stricte pentru a preveni abuzurile, riscurile rămân semnificative.
În ciuda acestor pericole, el a declarat că IA este subestimată, comparând impactul său cu sosirea unei inteligențe extraterestre care ar putea depăși capacitățile umane. În următorii 5-10 ani, efectele economice și transformatoare ale IA vor fi enorme și imposibil de ignorat.
