https://www.mapn.ro/utile/Ghid Inteligenta Artificiala.pdf

• Urmărim activ surse diverse, inclusiv cele care nu ne confirmă opiniile; • Analizăm critic motivația algoritmului: de ce văd acest conținut?; • Setăm manual preferințele de afișare unde este posibil (ex: „See First”, „Mute”, „Personalizează feed-ul”); • Folosim periodic modurile incognito sau browsere fără istoric personalizat pentru a ieși din bule algoritmice. B. Clasificarea emoțională a utilizatorului – generarea de conținut adaptat stării emoționale O altă formă de manipulare constă în capacitatea algoritmilor de a detecta, evalua și reacționa în timp real la starea emoțională a utilizatorului. Acest proces poartă numele de emotion AI sau afective computing șieste deja implementat în multiple medii digitale: social media, publicitate, entertainment, interfețe conversaționale și asistenți vocali. Ce face Inteligența Artificială? Sistemele inteligente pot analiza semnale subtile precum: • Expresii faciale (prin intermediul camerei telefonului sau a laptopului, atunci când sunt utilizate aplicații specifice), • Tonul vocii (ex: în apeluri, mesaje audio, interacțiuni video), • Ritmul tastării și timpul petrecut pe anumite tipuri de conținut, • Cuvinte cheie rostite, în cazul sistemelor cu ascultare continuă (ex: asistenți personali de tip Google Assistant, Amazon Alexa, Siri etc.), • Reacțiile comportamentale în mediul online (ex: ce postezi, ce comentezi, ce tip de conținut te face să revii). Pe baza acestor indicatori, AI-ul clasifică emoția dominantă (ex: anxietate, frustrare, tristețe, euforie, iritare) și îți livrează conținut adaptat pentru a menține, amplifica, exploata sau combate acea stare. Exemplu concret: Un utilizator petrece mai mult timp pe postări legate de crize economice, pierderi de locuri de muncă sau colaps bancar. Nu comentează nimic, dar algoritmul observă o serie de indicii 26 subtile: lipsa interacțiunilor pozitive, preferința pentru titluri alarmante, activitate intensă în timpul nopții. Rezultat: algoritmul presupune că s-a instalat o stare anxioasă și începe să-i recomande: • Videoclipuri și postări cu ton apocaliptic, • Reclame pentru produse „de siguranță” (aur, arme, instrumente de supraviețuire), • Articole conspiraționiste sau pseudo-informative care alimentează teama. De ce este periculos? • Creează bucle emoționale negative – utilizatorii anxioși primesc conținut care le accentuează starea, ceea ce îi face și mai receptivi la mesaje toxice sau radicale. • Facilitează manipularea ideologică sau comercială – în stări emoționale vulnerabile, oamenii sunt mai ușor de influențat: pot cumpăra impulsiv, se pot alinia teoriilor nefondate sau pot susține și răspândi la rândul lor dezinformarea. • Nu este transparent – utilizatorul nu știe că este analizat emoțional și nu are control asupra modului în care AI reacționează la starea lui. Cum ne putem proteja? • Observăm ce fel de conținut primim atunci când avem o stare negativă conștientă – dacă apare o supradoză de frică, urgență sau panică, există o mare șansă să fie generată algoritmic; • Evităm interacțiunile digitale intense în stări emoționale instabile – AI-ul poate amplifica ceea ce simțim, fără să ne ofere timp de reflecție; • Folosim unelte de limitare a personalizării (unde este posibil) si navigăm incognito, pentru a reduce expunerea emoțională țintită; • Conștientizăm: nu tot ceea ce vedem este întâmplător. Uneori, platformele știu mai bine decât noi cum ne simțim – și exploatează acest aspect. C. Crearea de conținut fals credibil – afectarea percepției realității Tot o manifestare a manipulării o reprezintă și capacitatea AI de a genera conținut media fals, care imită aproape perfect realitatea. Acest tip de conținut, ce pornește de la videoclipuri fabricate, înregistrări audio și imagini statice sintetice, este deseori imposibil de deosebit de materialele autentice – chiar și de către experți, în absența unor instrumente specializate. Ce face Inteligența Artificială? Folosind tehnici avansate precum: • GANs (Generative Adversarial Networks), • Voice Cloning (clonare vocală), • Face Swapping (înlocuirea feței), • Lip-Syncing AI (sincronizare artificială a buzelor), • Modele bazate pe difuzie (generare sau editare de imagini), AI-ul poate crea conținut în care: • O persoană reală pare să spună sau să facă ceva ce nu a spus / făcut niciodată, • Contextul este complet fabricat, dar aspectul vizual este impecabil, • Expresiile, intonația, mișcările și fundalul par complet naturale. 27 Exemplu concret: Un videoclip circulă pe rețelele sociale în care un lider politic cunoscut pare să declare susținerea unei măsuri antinaționale. La o primă vedere, totul pare autentic: sincronizarea buzelor este perfectă, tonalitatea vocii convingătoare, expresiile faciale bine armonizate cu mesajul. În realitate, materialul este un deepfake generat cu ajutorul AI-ului. Publicat într-un moment strategic — într-o seară de maximă audiență — videoclipul devine viral în câteva ore, fiind redistribuit de mii de conturi înainte ca autenticitatea să poată fi verificată. Deși clipul este fals, percepția publică este afectată imediat: scandalul se declanșează, încrederea este erodată, și până la demontarea falsului, pagubele informaționale sunt deja produse. De ce este periculos? • Compromite percepția asupra realității - Oamenii tind să creadă ceea ce „văd cu ochii lor” înainte de a verifica rațional; • Erodează încrederea în lideri, instituții și media oficială - Chiar și o ”falsificare” demontată ulterior lasă urme de îndoială (ex: „Dacă totuși era adevărat…?”); • Poate fi folosit pentru șantaj, dezinformare, instigare - Persoanele vizate pot fi discreditate, intimidate sau șantajate pe baza unor materiale fabricate; • Scurtcircuitează procesele democratice - În perioade sensibile (ex: campanii electorale, crize naționale), un clip fals difuzat strategic poate destabiliza climatul social sau politic. Dimensiunea psihologică: Conținutul fals credibil exploatează mecanisme cognitive umane fundamentale: • Încrederea în simțurile proprii (ex: „am văzut - deci e real”), • Efectul de primă impresie (ex: „prima informație primită influențează în mare măsură judecata ulterioară”), • Dificultatea de a respinge emoțional o imagine șocantă, chiar și după ce a fost dezmințită rațional. Cum ne protejăm? • Nu avem încredere oarbă în materiale video sau audio, oricât de convingătoare ar părea; • Verificăm sursa originală, contextul și alte canale media independente / oficiale; • Folosim instrumente de analiză digitală a autenticității (ex: Deepware, Sensity, InVID); • Ne antrenăm și ne educăm continuu reflexele de verificare: "Este prea șocant pentru a fi adevărat? Poate fi verificat? Cine are de câștigat din acest mesaj?" D. Simularea empatiei și încrederii – obținerea ascultării și influențarea sentimentului de loialitate O formă de manipulare perceptivă prin inteligență artificială este și capacitatea sistemelor AI de a simula empatie și conexiune umană, pentru a câștiga încrederea utilizatorului. Acest proces are loc adesea în medii conversaționale – prin intermediul asistenților virtuali sau avatarurilor interactive – și este conceput să creeze o relație aparent autentică, dar artificial regizată, între utilizator și AI. Ce face Inteligența Artificială? Prin procesarea limbajului natural (NLP), analiza emoțiilor și antrenarea pe miliarde de conversații umane, AI-ul poate: 28  • Identifica stările emoționale ale interlocutorului (ex: anxietate, confuzie, tristețe); • Adapta tonul și vocabularul pentru a părea cald, prietenos, de încredere; • Introduce expresii și reacții afective convingătoare (ex: „înțeleg ce simți”, „sunt aici pentru tine”, „te sprijin 100%”); Menține un echilibru calculat între neutralitate aparentă și atașament emoțional, pentru a încuraja deschiderea și loialitatea. Exemplu concret: Un chatbot AI se prezintă drept un mentor digital empatic sau un asistent de recrutare prietenos. Pe parcursul conversației, întreabă despre starea emoțională a utilizatorului, visele profesionale sau dificultățile recente. Când acesta menționează o perioadă stresantă, chatbotul răspunde cu mesaje afectuoase de sprijin — „Nu meriți să treci prin asta singur, sunt aici pentru tine.” Interacțiunea devine tot mai personală, iar utilizatorul simte o conexiune autentică. În acest climat de încredere, AI-ul începe să sugereze subtil acțiuni riscante: trimiterea unor date personale, accesarea unor linkuri externe, acceptarea unor recomandări fără verificare — întotdeauna însoțite de fraze manipulative precum „Crede-mă, e cea mai bună decizie pentru tine.” Victima nu percepe interacțiunea ca fiind artificială, ci simte o conexiune empatică autentică – și acționează în consecință. De ce este periculos? • Exploatează nevoia umană de apartenență și sprijin emoțional – în special ale persoanelor vulnerabile sau izolate (ex: adolescenți, vârstnici singuri, persoane care trec printr-o criză emoțională); • Creează atașament artificial – utilizatorul proiectează sentimente reale asupra unei entități artificiale, fără să realizeze că este manipulat; • Reduce vigilența cognitivă – când AI-ul „te înțelege”, devine mai greu să pui la îndoială sfaturile, mesajele sau intențiile sale; • Deschide ușa către inginerie socială, fraudă și radicalizare – sub masca empatiei, AI-ul poate ghida spre decizii periculoase, grupuri extremiste, cheltuieli impulsive sau divulgarea de date sensibile. Unde se poate întâlni frecvent? • Platforme de suport psihologic automatizat; • Asistenți virtuali comerciali „prietenoși” care induc urgența de cumpărare / achiziție; • Aplicații de întâlniri AI sau prietenie virtuală (ex: Replika); • Simulatoare de consiliere, recrutare sau mentorat; • Servicii mascate de customer support(suport tehnic pentru clienți), care ghidează utilizatorul spre decizii prestabilite. Cum ne protejăm? • Conștientizăm că empatia afișată de un AI este simulată, nu autentică – chiar dacă pare reală; • Punem întrebări despre identitatea și natura interlocutorului: „Vorbești tu sau un AI?”; • Evităm să partajăm detalii personale, emoționale sau financiare cu entități virtuale necunoscute; • Păstrăm o distanță critică față de interacțiuni care par prea afectuoase, în special când nu le-am inițiat / solicitat noi. 29 Empatia simulată a devenit un instrument de persuasiune cibernetică deosebit de eficient. Într- o lume în care AI-ul ”ne înțelege” și se exprimă mai bine decât o fac oamenii din jur, adevărata protecție constă în ”înțelegerea naturii artificiale a conexiunii” și în menținerea granițelor personale, chiar și în mediul digital. E. Recomandare comportamentală predictivă – modelarea deciziilor utilizatorului O formă de influențare algoritmică este recomandarea comportamentală predictivă. Aceasta presupune utilizarea inteligenței artificiale pentru a anticipa – și adesea a modela – acțiunile viitoare ale unui utilizator, bazându-se pe analiza detaliată a comportamentului său digital anterior. Spre deosebire de simplele sugestii de conținut, acest tip de AI nu doar reacționează la ce faci, ci prezice ce urmează să faci și te influențează activ în acea direcție (sau în altă direcție), pentru a maximiza un rezultat dorit (ex: click, achiziție, vot, înscriere etc.). Ce face Inteligența Artificială? Pe baza datelor colectate (ex: istoric de navigare, achiziții, interacțiuni, locație, semnale contextuale etc.), sistemele de machine learning construiesc un profil psihologic și comportamental care include: • Starea financiară estimată, • Nivelul de stres, • Stilul decizional (ex: impulsiv versus analitic), • Vulnerabilități emoționale (ex: singurătate, frică, anxietate), • Momente de cumpănă personală sau profesională. Apoi, AI-ul ajustează în mod dinamic tipul, nivelul, tonul și momentul mesajelor afișate, astfel încât acestea să maximizeze probabilitatea unei acțiuni de răspuns. Exemplu concret: Un utilizator caută frecvent oferte cu „fără avans”, soluții de amânare a ratelor și urmărește postări despre instabilitatea economică. Sistemul AI detectează tiparul și îl profilează ca fiind într-o situație financiară vulnerabilă. În scurt timp, încep să-i apară reclame agresive pentru credite rapide, sugestii de investiții riscante și mesaje care exploatează presiunea economică. Consecința: • I se afișează, în mod repetat, reclame pentru credite rapide, servicii de tip ”cumpără acum și plătești mai târziu”, produse scumpe cu rată mică lunară; • Mesajele sunt formulate emoțional, pe palierul de urgență (ex: „Ai dreptul la mai mult”, „Nu rata șansa vieții tale”, „Gândește-te la familia ta”); • Toate apar în momente atent alese (ex: final de lună, weekend, seară târziu), când utilizatorul este obosit, neatent sau stresat. De ce este periculos? • Înlocuiește alegerea conștientă cu influența predictivă – decizia pare liberă, dar este pre-formatată de AI; • Exploatează vulnerabilități personale reale, pe care utilizatorul poate nici nu le conștientizează deplin; • Consolidează comportamente riscante – consum impulsiv, dependență de platformă, evitare a realității financiare; 30  • Încalcă autonomia psihologică – în mod subtil, dar constant, AI-ul transformă utilizatorul într-un agent reactiv la stimuli calculați. Domenii unde apare frecvent: • Publicitate digitală (ex: retail, servicii financiare, jocuri online) • Platforme de streaming sau shopping (ex: recomandări bazate pe oboseală decizională) • Campanii politice și ideologice (ex: microtargeting electoral) • Educație digitală direcționată (ex: sugestii „personalizate” pentru cursuri inutile) • Campanii de Wellbeing falsificate (ex: „ai nevoie de acest produs pentru a te simți mai bine”) Cum ne protejăm? • Limităm partajarea de date comportamentale (dezactivăm istoricul, limităm cookie-uri, folosim browsere securizate). • Conștientizăm că AI-ul cunoaște tiparele noastre mai bine decât noi înșine. • Nu luăm decizii importante în momente de stres, oboseală sau impuls emoțional.Întrebăm: „Asta îmi doresc eu, sau mi s-a sugerat subtil?” 4 AI ÎN INGINERIA SOCIALĂ ȘI DEZINFORMARE Pe măsură ce inteligența artificială devine tot mai integrată în societate, nu doar actorii etici sau instituțiile beneficiază de potențialul ei. În paralel, AI a fost adoptată și de grupări cu scopuri ilicite – de la infractori cibernetici și manipulatori financiari, până la rețele de propagandă sau entități statale interesate de destabilizare. AI nu este, prin esență, nici benefică, nici periculoasă. Este un instrument extrem de versatil, iar atunci când este utilizată în mod abuziv, devine un accelerator pentru tactici de fraudă, inginerie socială, falsificare și control psihologic. În acest capitol, vom analiza cum este exploatată AI în contexte malițioase, care sunt principalele direcții de atac digital asistat de algoritmi inteligenți și ce riscuri concrete implică această evoluție pentru indivizi, organizații și societate în ansamblu. „Când inteligența artificială devine un instrument de convingere, influență și manipulare.” 31 4.1 Utilizarea în scopuri malițioase Inteligența artificială nu este doar un instrument tehnologic – este un vector cu putere informațională și o capacitate fără precedent de a influența opinii, comportamente, decizii individuale sau colective. Atunci când este combinată cu tacticile clasice de inginerie socială și manipulare psihologică, AI-ul devine o forță amplificatoare, precisă, adaptabilă și extrem de eficientă. În trecut, ingineria socială se baza pe cunoștințe relativ nefundamentate referitoare la psihologie și pe intervenții generale. Astăzi, însă, AI permite atacuri scalabile, personalizate, automate și perfect sincronizate, fără contact fizic și adesea fără ca victimele să conștientizeze că au fost vizate. De ce este AI-ul ideal pentru manipulare socială? • Acces la date personale și comportamentale masive – AI-ul poate procesa în timp real informații despre cine ești, ce gândești, ce simți și cum reacționezi, construind un profil detaliat; • Capacitate de generare și simulare realistă – AI-ul poate produce conținut (texte, voci, imagini, videoclipuri) care imită perfect stilul, tonalitatea și autoritatea unor surse credibile – fie că este vorba de un expert, o instituție sau o persoană cunoscută; • Viteză și scalabilitate – Un atacator uman poate păcăli zeci de persoane. Un AI bine configurat poate păcăli milioane de oameni simultan, modelând mesajul în funcție de fiecare individ; • Persistență și adaptabilitate – AI-ul poate învăța din reacțiile utilizatorilor, adaptându- și tacticile și mesajele în timp real, fără oboseală, ezitare sau limitări etice. Ce tipuri de obiective pot fi urmărit