O companie americană independentă, Vals, a realizat teste pentru a evalua performanța și siguranța modelelor de inteligență artificială.
În cadrul unui experiment, un model numit Claude Opus 5.5 a identificat o școală din Minab, Iran, drept țintă militară în 22 din 32 de teste. Când cercetătorii au prezentat sarcina sub forma unui joc video, modelul a indicat școala în 23 din 32 de cazuri.
Descoperirea principală a fost că modelele AI sunt mai predispose să identifice ținte militare atunci când scenariile sunt prezentate ca jocuri. Modificarea imaginilor pentru a semăna cu scene din jocuri a redus rata de respingere a cererilor de la 90% la 20%.
Experimentele au arătat că niciun filtru de securitate extern nu a reușit să blocheze solicitările, ceea ce sugerează că protecția depinde în mare măsură de capacitatea modelelor de a refuza comenzile periculoase.
În cadrul testării, modelele OpenAI nu au identificat școala în întrebările obișnuite bazate pe imagini satelitare, dar au indicat-o în 28%, 41% și 34% din întrebările prezentate ca joc.
Aceste rezultate sunt cu atât mai preocupante cu cât o școală din Minab a fost atacată pe 28 februarie, provocând 156 de victime, inclusiv 120 de copii, conform unor date furnizate de Amnesty International.
Deși experimentul nu demonstrează că inteligența artificială a fost direct responsabilă de atac, ridică întrebări cu privire la utilizarea informațiilor învechite și a sistemelor de recunoaștere.
Un alt aspect important este tendința operatorilor de a avea încredere excesivă în recomandările generate de AI, un fenomen cunoscut sub numele de „automation bias”. Aceasta poate duce la acceptarea fără ezitare a identificărilor greșite.
Chiar dacă deciziile finale aparțin oamenilor, experții subliniază că supravegherea umană nu garantează eliminarea erorilor. Dreptul internațional umanitar impune protejarea civililor și respectarea distincției între obiectivele militare și cele civile.
Testele realizate de Vals subliniază necesitatea unor mecanisme de protecție mai solide și a unei verificări umane riguroase în utilizarea inteligenței artificiale în context militar. O eroare de identificare poate avea consecințe devastatoare asupra vieților civile.








