Un agricultor din Chuzhou, provincia Anhui, în vârstă de 67 de ani, a experimentat pierderi semnificative de culturi, în urma utilizării unui software bazat pe inteligență artificială pentru gestionarea agriculturii. Fermierul a început să folosească aplicația acum un an, solicitându-i sfaturi pentru diverse activități agricole, inclusiv pentru fertilizare și combaterea dăunătorilor.
Inițial, rezultatele au fost promițătoare, ceea ce l-a determinat să aibă încredere în recomandările aplicației. Totuși, problemele au apărut când a cerut un tratament pentru culturile de susan, iar inteligența artificială i-a sugerat o combinație de erbicide care a dus la distrugerea nu doar a plantelor nedorite, ci și a propriilor culturi.
Experții în agricultură sugerează că utilizarea erbicidului flufenacet, care necesită condiții stricte de aplicare, ar fi putut contribui la aceste daune. Fermierul a relatat că „puieții nu mai erau buni a doua zi după aplicare”, iar daunele au fost semnificative.
Avertismentele aplicației, care subliniau că informațiile generate de AI ar putea fi inexacte, nu au fost suficiente pentru a preveni această situație. Acest incident evidențiază o problemă mai largă: utilizatorii pot considera răspunsurile AI ca fiind verificate, chiar și în domenii unde o eroare poate avea consecințe grave.
Un alt exemplu similar a fost observat anul trecut, când un bărbat a dezvoltat o afecțiune rară după ce a urmat recomandările unui chatbot pentru alimentație. Acest caz, împreună cu altele, subliniază riscurile asociate cu utilizarea inteligenței artificiale în domenii critice, precum agricultura și sănătatea.
