Recent, platforma Grok a implementat restricții semnificative asupra editării imaginilor, în urma unor reacții negative generate de utilizarea sa în scopuri abuzive, cum ar fi modificarea digitală a imaginilor unor persoane fără consimțământul acestora.
În prezent, accesul la aceste funcționalități este permis doar abonaților plătitori, ceea ce implică înregistrarea numelui și a informațiilor de plată ale utilizatorilor. Cei care nu dispun de un abonament pot, totuși, să utilizeze Grok pentru editarea imaginilor prin intermediul unei aplicații separate și a unui site dedicat.
Specialiștii, inclusiv profesoara Clare McGlynn, critică decizia, afirmând că aceasta nu abordează în mod eficient problema abuzurilor. Hannah Swirsky, director de politici la Internet Watch Foundation, a subliniat că restricționarea accesului nu va repara prejudiciile deja cauzate. Organizația a alertat anterior cu privire la existența unor „imagini cu caracter infracțional” create cu ajutorul Grok.
În urma acestor controverse, guvernul britanic a solicitat autorității de reglementare Ofcom să intervină, având în vedere îngrijorările legate de imaginile ilegale generate de inteligența artificială. Premierul Sir Keir Starmer a declarat că este o situație „rușinoasă” și a cerut luarea de măsuri suplimentare.
Grok a fost conceput inițial ca un instrument gratuit, dar utilizarea sa a dus la solicitări de editare a imaginilor, inclusiv cereri de a dezbrăca digital persoanele. Utilizatorii afectati s-au declarat „umiliți” și „dezumanizați” de aceste acțiuni.
Începând cu dimineața trecută, mesajele trimise utilizatorilor care solicită modificarea imaginilor indică faptul că aceste funcții sunt acum disponibile exclusiv pentru abonați. De asemenea, doar utilizatorii verificați, care beneficiază de un abonament plătit, pot solicita editări de imagini prin Grok.
Criticii indică faptul că măsurile actuale sunt insuficiente și că Grok necesită o reproiectare completă, cu mecanisme etice integrate pentru a preveni abuzurile viitoare. Se sugerează că, în loc să se limiteze accesul, este necesară o reglementare mai strictă pentru a combate utilizările abuzive ale tehnologiei.
