Internetul este inundat de fotografii, videoclipuri și meme-uri, multe dintre ele greu de distins de realitate și, pentru a încerca să contracareze această 'avalanșă', în tsunamiul digital au apărut numeroase instrumente și aplicații care permit utilizatorilor să detecteze - aparent cu un grad ridicat de fiabilitate - imagini create cu ajutorul inteligenței artificiale, transmite luni EFE.

Guvernele, numeroasele companii de tehnologie și centrele de cercetare și-au intensificat eforturile pentru a dezvolta sisteme capabile să distingă o imagine reală de una 'sintetică', altfel spus, fabricată. Mai mulți experți au discutat cu EFE dacă aceste sisteme sunt fiabile și eficiente și dacă au un viitor în societăți (precum Spania) unde o cultură a securității nu este profund înrădăcinată, iar utilizatorii pot să nu fie foarte înclinați să 'piardă' (sau să câștige) timp verificând autenticitatea imaginilor pe care le primesc.

Fraudele comise prin intermediul conținutului generat sau modificat de IA au dus la pierderi de peste 1,5 miliarde de dolari anul trecut, potrivit mai multor rapoarte. Imagini false cu facturi sau documente sunt folosite pentru a solicita cheltuieli corporative sau pentru a valida operațiuni; sunt prezentate fotografii ale unor daune care nu s-au produs niciodată (mașini, electrocasnice, haine sau alimente alterate); imagini ale unor evenimente sau situații care nu s-au întâmplat niciodată sunt răspândite în mass-media și pe rețelele de socializare; și chiar vocea unui superior este clonată pentru a ordona transferuri de milioane de dolari.

Numeroase instrumente, precum IMGDetector.ai; RealReveal; Tenorshare Deepfake Detection; AI or Not; sau Vericta, sunt deja disponibile - unele gratuite - și sunt capabile să detecteze imagini generate de inteligența artificială și fotografii manipulate, să analizeze inconsecvențele sau distorsiunile și să verifice discrepanțele pixelilor sau amprentele digitale lăsate de sistemele utilizate pentru a genera aceste imagini false.

O imagine valorează - sau nu? - cât o mie de cuvinte

Oare o imagine mai valorează cât o mie de cuvinte? Georgina Viaplana, co-fondatoare și directoare a Vericta, insistă că da, că valoarea sa nu s-a schimbat, dar tendința oamenilor de a o accepta ca fiind adevărată fără a o pune la îndoială s-a schimbat. 'Și tocmai pentru că o imagine are atât de multă putere, merită efortul pentru a fi manipulată', avertizează ea.

Vericta, creația unei companii spaniole specializate în automatizarea conformității digitale pentru companii, susținută de mai multe administrații și organisme publice - între care Centrul pentru Dezvoltare Tehnologică și Industrială și Primăria Barcelonei (Spania) - și-a dezvoltat propria tehnologie pentru a determina în câteva secunde dacă o imagine sau un videoclip este real sau a fost generat de inteligența artificială.

În declarații pentru EFE, Viaplana s-a declarat încrezătoare în viitorul acestor tipuri de instrumente și în ceea ce privește potențialul lor de a deveni indispensabile, având în vedere că încrederea în autenticitatea conținutului digital a devenit pentru companii 'o necesitate structurală, nu un accesoriu'. Ea a subliniat că, atunci când o imagine poate reprezenta un cost direct pentru o companie, verificarea nu este percepută ca o pierdere de timp.

Ea a dat drept exemple asigurările, unde unele cereri de despăgubire sunt soluționate rapid pe baza unei imagini (fără inspecție la fața locului) care poate fi manipulată; comerțul electronic și livrarea la domiciliu, unde fotografiile pot fi modificate pentru a solicita rambursări; și sectorul imobiliar, pentru a verifica dacă o imagine este autentică sau fabricată.

O 'cursă a înarmării digitale'

Etichetarea sursei oricărei imagini create cu inteligență artificială ar putea fi o soluție, dar doar teoretic, deoarece, în opinia lui Viaplana, filigranele (watermarks) pot fi, de asemenea, modificate, iar metadatele pot fi schimbate, pentru că nu toate modelele sunt supuse acelorași standarde și obligații, așa că ar trebui să coexiste cu sisteme independente de verificare a conținutului.

Șeful operațiunilor globale de consum la compania de securitate cibernetică Panda Security, Herve Lambert, susține că aceste instrumente au viitor, dar nu vor fi infailibile.

'Este o cursă a înarmării digitale: fiecare îmbunătățire a detectării duce la o îmbunătățire a generării', a declarat Lambert, care a recunoscut totodată utilitatea lor în diverse medii profesionale, cum ar fi mass-media, instanțele sau forțele de ordine.

Totuși, Lambert se îndoiește de eficacitatea și utilitatea lor în rândul utilizatorilor obișnuiți și în societăți, precum cea spaniolă, unde cultura securității cibernetice nu a ajuns încă la maturitate.

'Majoritatea oamenilor nici măcar nu se obosesc să verifice o știre, cu atât mai puțin o imagine care se potrivește cu narațiunea lor', a declarat Lambert pentru EFE.

El a făcut totodată referire la o statistică grăitoare: în condițiile în care 73% dintre spanioli cred că telefoanele lor nu au nevoie de protecție, este puțin probabil să stea să analizeze dacă o imagine este reală sau nu.

În opinia sa, ar fi 'de dorit' ca toate imaginile generate de inteligența artificială să fie etichetate ca atare, lucru care din punct de vedere tehnic este perfect posibil, în opinia sa, 'dar internetul nu are granițe și, dacă o jurisdicție o impune și alta nu, conținutul neetichetat va continua să circule'.

Lambert pledează pentru trei linii de acțiune: reglementarea, responsabilitatea platformelor și alfabetizarea digitală, încheind prin a sublinia importanța gândirii critice, deoarece în securitatea cibernetică 'nu există niciodată o unică soluție miraculoasă'. AGERPRES/(AS - redactor: Gabriela Ionescu, editor online: Simona Aruştei)