Inteligența Artificială este un instrument deosebit de puternic, capabil să reacționeze la stimuli și să producă rezultate în funcție de scopul celor care o controlează. Ea nu este, prin definiție, nici bună, nici rea, se arată în ghidul 'Inteligența artificială & manipularea percepției umane', lansat de specialiști în securitate cibernetică, educație digitală și prevenirea criminalității informatice din cadrul Poliției Române.

'În mâinile potrivite, AI-ul poate salva vieți, îmbunătăți educația, combate frauda, preveni atacuri cibernetice și susține dezvoltarea societății. În mâini criminale - sau doar iresponsabile - aceeași tehnologie poate fi injectată pentru manipulare, control, înșelătorie, programare ideologică și destabilizare socială. Tocmai de aceea putem considera că educația este una dintre cele mai potrivite forme de protecție. Dacă înțelegem cum funcționează, putem recunoaște mai ușor când și cum este folosită împotriva noastră', se arată în ghid.

Potrivit documentului, AI-ul este ideal pentru manipulare socială, deoarece accesul la volume masive de date personale și comportamentale îi oferă posibilitatea de a procesa, în timp real, informații despre cine ești, ce gândești, ce simți și cum reacționezi, construind un profil detaliat.

De asemenea, inteligența artificială poate produce conținut - texte, voci, imagini și videoclipuri - care imită perfect stilul, tonalitatea și autoritatea unor surse credibile, fie că este vorba despre un expert, o instituție sau o persoană cunoscută.

AI-ul este caracterizat prin viteză și scalabilitate. Dacă un atacator uman poate păcăli zeci de persoane, un AI bine configurat poate păcăli milioane de oameni simultan, modelând mesajul în funcție de fiecare individ. Prin persistență și adaptabilitate, AI-ul poate învăța din reacțiile utilizatorilor, adaptându-și tacticile și mesajele în timp real, fără oboseală, ezitare sau limitări etice.

Prin aceste tipuri de acțiuni se poate urmări obținerea de date sau acces neautorizat (prin phishing conversațional sau fraudă vocală), schimbarea convingerilor ideologice, religioase sau politice, influențarea deciziilor de consum (prin publicitate înșelătoare și exploatarea emoțională), subminarea încrederii în instituții, lideri sau mass-media, manipularea în masă în contexte sensibile (alegeri, crize sociale, conflicte geopolitice), precum și divizarea comunităților prin polarizare, radicalizare sau dezinformare direcționată.

Ghidul prezintă mai multe scenarii de utilizare a inteligenței artificiale:

* Bula informațională asistată de Inteligența Artificială - 'când AI-ul nu doar îți oferă ce vrei să vezi, ci te ține captiv într-o versiune confortabilă, dar distorsionată a realității.'

Acest scenariu a devenit un fenomen periculos și destul de frecvent întâlnit: izolarea utilizatorului într-o bulă informațională creată de algoritmi AI, în care conținutul afișat este exclusiv cel care îi confirmă convingerile, valorile și preferințele deja instalate la nivel de individ.

* Boți conversaționali pentru fraudă sau recrutare falsă - 'nu toate conversațiile naturale sunt umane. Unele sunt antrenate să te păcălească.'

În acest scenariu, un chatbot AI conversațional, aparent legitim, inițiază o interacțiune cu utilizatorul sub un pretext credibil: ofertă de angajare, sprijin financiar, mentorat profesional sau consiliere personală. Dialogul pare autentic, coerent, empatic - exact cum te-ai aștepta din partea unui specialist în resurse umane, a unui coleg sau a unui partener de încredere.

* Generare de materiale false hiperrealiste (deepfake) - 'o imagine face cât o mie de cuvinte. Dar ce se întâmplă când imaginea e o minciună fabricată perfect?'

În acest scenariu, atacatorii folosesc inteligența artificială vizuală pentru a genera conținut video sau audio complet fals, dar realist, credibil - înfățișând persoane reale (ex: politicieni, influenceri, lideri religioși, jurnaliști, colegi de muncă etc.) care apar în ipostaze în care nu au fost în realitate niciodată.

* Mesaje personalizate de influență (microtargeting AI) - 'când AI-ul știe exact ce să-ți spună, cum și când - ca tu să crezi că ai ales singur.'

În acest scenariu, atacatorii sau operatorii unei campanii folosesc AI pentru a crea idei ultra-personalizate, direcționate exact către persoane sau grupuri țintă, pe baza unui profil psihologic și comportamental avansat. Acestea nu sunt doar convingătoare - sunt proiectate special pentru a influența și declanșa reacția exact dorită, fie că este vorba de un vot, o achiziție, o opinie politică sau o acțiune concretă.

* Declanșarea controlată a emoțiilor (exploatarea emoțiilor negative de către AI) - 'furia, frica și anxietatea nu sunt doar reacții - sunt și instrumente.'

Acest scenariu abordează utilizarea intenționată a emoțiilor negative (ex: frica, furia, panica, rușinea sau indignarea) ca instrumente de manipulare algoritmică. Sistemele AI afective, care pot detecta stările emoționale ale utilizatorului prin analiză comportamentală, expresii faciale, tonul vocii sau istoricul de interacțiune, sunt capabile să declanșeze și să mențină aceste stări.

* Atacuri de tip spear phishing automatizat cu conținut AI - 'nu mai este nevoie de un hacker priceput - AI-ul poate construi atacuri personalizate în masă, cu precizie letală.'

În acest scenariu, atacatorii folosesc inteligența artificială pentru a automatiza campanii de spear phishing - adică tentative de înșelăciune personalizate, direcționate către o anumită persoană sau un grup restrâns de potențiale victime. Spre deosebire de phishingul tradițional, care trimite mesaje generice, spear phishing-ul creat de AI este specific,
personalizat, convingător, adaptat contextului real al victimei.

* Simulare de consens public prin rețele de conturi și boți AI - 'când mii de voci care par reale spun același lucru, ajungi să crezi că tu ești cel care greșește.'

În acest scenariu, atacatorii sau actorii manipulatori folosesc rețele de conturi automatizate controlate de AI (boți sociali) pentru a crea iluzia unui consens social larg. Aceste conturi simulează persoane reale, cu profiluri credibile, imagini generate de AI, istorii de activitate și postări convingătoare.

* Crearea de personaje publice artificiale pentru manipulare și influență - 'cine te influențează? Un om - sau o entitate creată în întregime de AI, cu o agendă precisă?'

În acest scenariu, inteligența artificială este exploatată pentru a construi de la zero personalități publice false (influenceri, analiști, activiști, experți, 'voci credibile'), controlate de operatori. Aceste personaje sunt dezvoltate cu aspect vizual generat de AI (fotografii realiste, avataruri animate), biografie convingătoare, conținut bine redactat (texte, videoclipuri, postări) sau interacțiuni automate cu publicul. Scopul este de a influența publicul, de a clădi încredere și de a injecta ulterior mesaje ideologice, comerciale sau manipulative în spațiul digital.

* Campanii orchestrate prin aplicații mobile cu AI integrat (fake news, mobilizare, radicalizare) - 'aplicația pare inofensivă. Dar în spate, AI-ul orchestrează o agendă invizibilă.'

În acest scenariu, o aplicație mobilă aparent benignă (de știri, divertisment, educație, spiritualitate, comunitate, sau chiar de sănătate) integrează în fundal mecanisme AI de manipulare informațională. Aplicația devine o platformă de natură malignă, prin care sunt livrate conținuturi distorsionate, false sau ideologizate, cu scopul de a influența opinii, dirija emoții, mobiliza utilizatorii în acțiuni colective sau radicaliza treptat anumite grupuri.

* Influențarea educației prin AI - resurse, platforme sau 'mentori' care distorsionează adevărul - 'nu toate lecțiile vin din manuale - și nu toți profesorii sunt umani sau imparțiali.'

În acest scenariu, AI este folosit pentru a influența negativ formarea tinerilor, a elevilor sau a publicului general prin resurse educaționale distorsionate, părtinitoare sau complet false, livrate sub forma unor platforme de învățare, aplicații educaționale, chatbot-uri cu rol de 'mentori' digitali, videoclipuri didactice AI-generated sau 'cursuri' alternative promovate ca fiind mai 'autentice' decât cele din sistemul formal. AGERPRES/(AS - redactor: Daniel Alexandru Florea, editor: Mihai Simionescu, editor online: Ada Vîlceanu)