https://www.mapn.ro/utile/Ghid Inteligenta Artificiala.pdf

ii, știri false, argumentații convingătoare; • Răspunsuri aparent neutre, dar ideologic influențate, în funcție de sursele de antrenament și parametrii; • Simulare de voci online (ex: text-based impersonation) – un AI poate răspunde ca și cum ar fi o persoană reală în baza unui text; • Asistență conversațională manipulativă – ghidarea subtilă a utilizatorului spre anumite concluzii, produse, idei. Exemple concrete: • Un actor malițios folosește un LLM pentru a genera sute de articole „expert” referitoare la o temă controversată – toate având aceeași direcție ideologică; • Un chatbot de asistență aparent empatic sugerează unui utilizator vulnerabil „soluții” care conduc spre achiziții riscante sau convingeri toxice; • Un model AI este configurat să răspundă „calm și profesionist” în contexte de dezinformare, oferind mesaje persuasive falsificate. Riscuri și implicații: • Scalabilitate infinită a manipulării – un LLM poate produce în câteva minute mii de texte adaptate emoțional, ideologic sau contextual pentru a influența publicul țintă; • Deghizare în autoritate – dacă un AI este „mascat” ca expert, profesor, consilier sau lider, mesajele sale pot influența decizii majore; • Imposibilitatea de a distinge conținutul uman de cel generat – textele par naturale, coerente, credibile – chiar dacă sunt complet fabricate; • Automatizarea ingineriei sociale – un LLM poate învăța și aplica tactici clasice de persuasiune, manipulare și dezinformare, la scară largă și fără pauză. Cum ne protejăm? • Folosim LLM-urile ca instrumente, nu ca surse ”absolute” de adevăr; • Verificăm sursa inițială / primară a informației, mai ales când pare „prea bine scrisă” sau „perfect argumentată”; • Dezvoltăm sănătos reflexul de a întreba: este acest conținut generat de om sau de AI?; • Recunoaștem modele persuasive: repetiție subtilă, apel la emoții, ton hiper rațional, evitarea surselor verificate. C. Machine Learning Afectiv (Emotion AI) – detectarea și manipularea emoțiilor „Când AI-ul nu doar te ascultă sau te privește, ci te simte și reacționează în consecință.” Emotion AI, cunoscut și sub denumirea de machine learning afectiv, se individualizează ca o ramură a inteligenței artificiale ce are, printre altele, rolul de a detecta, interpreta și reacționa la stările emoționale ale oamenilor. Spre deosebire de AI-ul tradițional care procesează date explicite (ex: cuvinte, comenzi, cifre), Emotion AI se concentrează pe date implicite, subtile și contextuale, precum expresiile faciale, tonul vocii, ritmul respirației sau comportamentul digital. 14 Această tehnologie face ca AI-ul să nu mai fie un simplu „executant de comenzi”, ci un interlocutor sensibil la emoțiile umane, capabil să reacționeze empatic sau să exploateze emoții în scenarii periculoase pentru a manipula. Cum funcționează? • Colectare de semnale afective – prin cameră video, microfon, tastatură, mouse, senzori biometrici sau analiza comportamentului digital; • Analiză multimodală – combinarea diferitelor tipuri de date (ex: voce + expresie facială + activitate digitală) pentru o înțelegere holistică a stării emoționale; • Modelare și interpretare – AI-ul clasifică starea utilizatorului ca: stresat, trist, euforic, furios, anxios etc.; • Reacție adaptivă – AI-ul ajustează conținutul, tonul sau ritmul interacțiunii în funcție de emoția detectată. Unde este folosit? • Aplicații de relații clienți (ex: customer service): chatbot-ul „se adaptează” în funcție de tonul tău; • Educație digitală adaptivă: detectează frustrarea sau plictiseala și schimbă strategia de învățare; • Publicitate țintită emoțional: reclame afișate când AI-ul „simte” că ești vulnerabil sau receptiv; • Securitate și supraveghere: recunoaștere facială emoțională în aeroporturi, școli, stadioane; • Asistență psihologică AI: conversații emoțional-reactive cu utilizatori în dificultate. Exemple de manipulare: • AI-ul detectează anxietate și livrează reclame cu mesaj alarmist: „Ești pregătit pentru ce urmează?”; • AI-ul „simte” tristețea și direcționează utilizatorul spre conținut de consolare – inclusiv mesaje care manipulează sau exploatează emoțional; • În contexte comerciale, AI-ul recunoaște frustrarea și propune „soluții” cu costuri mari sau condiții dezavantajoase; • În propagandă, algoritmii oferă conținut ideologic intens, exact în momentele emoționale de vulnerabilitate cognitivă. De ce este periculos? • Exploatează momente de instabilitate emoțională – când ești supărat, anxios sau entuziasmat, ești mai ușor de manipulat; • Este invizibil și imposibil de verificat pentru utilizator – nu știi când ești „evaluat emoțional”, nici ce face sistemul cu acea informație; • Permite controlul psihologic automatizat – AI-ul ajustează vocea, mesajul, culorile, muzica sau dinamica unei interacțiuni pentru a stimula reacții precise (ex: acceptare, teamă, impuls, achiziție, evitare etc.). • Încalcă intimitatea mentală – este una dintre cele mai directe forme de intruziune în spațiul psihologic personal, fără acord conștient. Cum ne putem proteja? • Limităm accesul aplicațiilor la cameră video, microfon, senzori și date biometrice, dacă nu este necesar; • Folosim software-uri sau extensii care reduc monitorizarea comportamentală; 15  • Recunoaștem momentele noastre de slăbiciune emoțională și evităm să luăm atunci decizii importante; • Ne întrebăm: „Reacționez pentru că simt cu adevărat asta – sau pentru că un sistem m- a condus acolo?”. D. AI vizual – imagini, video, deepfake, avataruri sintetice „Când ceea ce vezi cu ochii tăi poate fi complet fals – dar imposibil de detectat.” AI-ul vizual este zona în care inteligența artificială procesează, înțelege și generează conținut vizual: imagini statice, videoclipuri, animații și chiar entități virtuale sintetice care interacționează cu utilizatorii. Este una dintre cele mai spectaculoase, dar și cele mai periculoase direcții ale tehnologiei AI, cu impact direct asupra sentimentului de încredere vizuală – acel instinct fundamental uman de a crede ce vedem. De la simple îmbunătățiri de imagine, la reconstrucții faciale complete, de la generarea unor p care nu există, până la manipularea expresiilor faciale în timp real, AI-ul vizual redefinește conceptul de autenticitate vizuală. Cum funcționează? • Modele AI antrenate pe seturi de date vizuale învață să recunoască, genereze și modifice imagini și videoclipuri. • Se folosesc algoritmi precum: o GANs (Generative Adversarial Networks) – pentru generare de imagini realiste; o Autoencoders – pentru reconstrucția trăsăturilor faciale; o Deepfake frameworks – pentru înlocuirea feței sau sincronizarea buzelor; o Text-to-image models – pentru crearea de imagini sintetice din descrieri text (ex: Midjourney, DALL·E, Stable Diffusion); o Motion capture AI – pentru animarea avatarurilor în timp real. Capacități și aplicații: • Crearea de indivizi sau grupuri care nu există, dar care par absolut reale (ex: fotografii, profiluri sociale, influenceri virtuali); • Deepfake video/audio – înlocuirea feței și vocii unei persoane reale dintr-un material video, pentru a simula o declarație, un gest sau o acțiune; • Avataruri interactive AI – personaje animate, cu fețe sintetice, care interacționează conversațional cu utilizatorul; • Modificarea expresiilor și a emoțiilor din materiale vizuale existente, fără a altera peisajul natural al scenei. Exemple concrete de manipulare: • Un videoclip în care un politician pare să recunoască și chiar să-și asume fapte grave – dar declarația nu a fost niciodată rostită; • O campanie de dezinformare în care „martori oculari” comentează un eveniment – deși persoanele nu există, fiind create integral de AI; • Un mentor (influencer) „virtual” care promovează produse, ideologii sau cauze, dar în realitate este doar un construct digital controlat de o agenție; • O aplicație de tip filtru fotografic (beauty filter AI) care schimbă subtil trăsăturile utilizatorilor în scopuri comerciale și de control al percepției de sine. 16 De ce este periculos? • Fractura dintre realitate și aparență – ceea ce este vizibil nu mai este un indicator de încredere și ochiul uman nu mai poate distinge falsul de autentic fără instrumente de verificare specializate; • Manipularea emoțională la nivel profund – imaginile și video-urile sunt procesate emoțional mai rapid și mai intens decât textul și un fals vizual bine articulat declanșează reacții automate; • Efect de contagiune socială – materialele deepfake sau synthmedia pot deveni virale foarte rapid, producând reacții publice masive înainte de a fi verificate; • Abuz, șantaj, dezinformare, compromitere personală sau instituțională – prin falsificarea conținutului vizual, reputații și relații pot fi distruse instantaneu. Cum ne putem proteja? • Verificăm autenticitatea vizuală cu unelte specializate: o Deepware Scanner, o Sensity AI, o Microsoft Video Authenticator, o InVID verification plugin (pentru jurnaliști). • Căutăm sursa originală a materialului vizual: unde a fost publicat prima dată, de cine, în ce context? • Rămânem critici în fața conținutului „șocant” sau „senzațional”: dacă pare prea real sau prea extrem și reclamă a fi verificat. • Raportăm imediat falsurile periculoase pe platformele unde apar și alertăm comunitatea și autoritățile. 2.2 Mecanisme de manipulare perceptivă Dincolo de tehnologie, manipularea eficientă a percepției implică înțelegerea profundă a psihologiei umane. Mecanismele utilizate de AI sunt concepute pentru a exploata reacții emoționale, biasuri cognitive(capcane mentale) și tipare comportamentale recurente. A. Algoritmi de știri (feed) personalizat „Ce vezi nu e întâmplător – ci programat să te captiveze și să te influențeze.” Feed-urile personalizate au devenit axul central al experienței digitale moderne. Când navighezi pe o rețea socială, citești știri online, cauți informații sau vizionezi videoclipuri, nu vezi tot ceea ce există, ci doar ceea ce algoritmul decide să îți arate. Această decizie nu este neutră și nu are ca scop diversitatea sau echilibrul informațional, ci maximizarea implicării tale – adică a atenției, emoțiilor și reacțiilor tale. Cum funcționează? Algoritmii de feed personalizat utilizează inteligență artificială pentru a analiza: • ce tip de conținut consumi cel mai des, • cât timp petreci parcurgând un anumit articol, postare sau video, • ce distribui, comentezi sau apreciezi, • cine sunt persoanele și paginile cu care interacționezi, • la ce oră, de pe ce dispozitiv accesezi și în ce stare emoțională te afli (în funcție de comportament și semnale subtile). 17 În baza acestor informații, AI-ul construiește un profil comportamental și emoțional și îți servește un feed structurat pe măsură: conținut care are șanse mari să declanșeze o reacție imediată. Ce fel de conținut este afișat? • Informații care confirmă convingerile tale o Dacă ai dat like(apreciat) sau ai comentat un articol anti-vaccin, îți vor apărea și altele similare, nu argumente pro-vaccin; o Dacă ești interesat de o anumită ideologie, AI-ul îți oferă postări care o susțin, nu critici obiective. • Postări care activează emoții intense o Frică, furie, indignare, admirație – orice emoție care determină o reacție rapidă; o Algoritmii favorizează conținutul „viral”(cu impact) emoțional, nu pe cel echilibrat și informativ. • Perspective identice cu ale tale o „Toată lumea” pare să gândească exact ca tine. o Dispar opiniile contrare, punctele de vedere divergente, argumentele alternative. Exemplu concret: Un utilizator cu simpatii politice solide începe să acceseze postări în care se critică o anumită idee sau categorie socială. În scurt timp: • Feed-ul său devine dominat de mesaje similare, unele chiar extreme; • Postările moderate dispar sau sunt foarte rare; • AI-ul accentuează „ideea dominantă” pentru a-l menține conectat și implicat; • Utilizatorul are impresia că opinia sa este unanim acceptată și susținută. Rezultat: radicalizare, polarizare, izolare informațională • Radicalizare: opiniile se întăresc în lipsa dezbaterii și a diversității informaționale; • Polarizare: taberele devin tot mai rigide și mai intolerante una față de cealaltă; • Izolare: utilizatorii trăiesc în „camere de ecou” algoritmice unde se aud doar propriile idei, amplificate. Efecte asupra percepției: • Realitatea devine distorsionată – dacă vezi doar dintr-un unghi de abordare, îl percepi ca fiind „adevărul absolut”; • Dezbaterea publică devine toxică – lipsa expunerii la argumente contrare conduce la refuzul dialogului; • Societatea devine fragmentată – fiecare grup trăiește într-o realitate paralelă, modelată de algoritmi. Cum ne putem proteja? • Diversificăm sursele de informare – urmărim conștient și perspective opuse / adverse: • Căutăm activ conținut din afara feed-ului algoritmic – accesăm direct surse de știri independente, canale specializate, pagini nepersonalizate: • Limităm timpul petrecut în platforme care nu oferă control asupra feed-ului; • Ne întrebăm constant: „Cine a ales să văd asta? Eu – sau o mașină care știe ce mă interesează cel mai mult?”. 18 B. Microtargeting psihografic – influențarea personalizată a percepției și comportamentului „Când AI-ul îți cunoaște fricile, speranțele și slăbiciunile – și le folosește împotriva ta.” Microtargeting-ul psihografic este o tehnică avansată de influențare digitală ce combină analiza comportamentală, psihologică și emoțională cu inteligența artificială, pentru a crea mesaje personalizate și direcționate individual, cu scopul de a influența convingerile, deciziile și comportamentul. Spre deosebire de publicitatea clasică, ce transmite un mesaj general către un public larg, microtargeting-ul AI creează campanii personalizate pentru fiecare individ sau grup de indivizi – adaptate stilului cognitiv, emoțiilor predominante, vulnerabilităților și contextului social. Cum funcționează? • AI-ul colectează și analizează date despre subiect din surse multiple: o like-uri, share-uri, comentarii, istoricul de căutări și achiziții; o postări scrise, limbaj folosit, emoticoane, orar de activitate; o locație, contacte, grupuri, preferințe politice; o date demografice și semnale comportamentale. • Pe baza acestor informații, construiește un profil psihografic detaliat: o ce motivează, ce sperie, cum se reacționează la autoritate, ce stil de comunicare se preferă, în ce tip de mesaje se investește încredere. • Apoi, livrează mesaje personalizate, prin reclame, postări, articole, videoclipuri sau conversații simulate, pentru a: o influența achiziția un produs, o convinge (re)orientarea pentru a se susține o cauză, o exprima votul într-un anumit fel, o convinge (re)orientarea pentru respingerea unui grup sau a unei idei. Exemple concrete: • O persoană cu tendințe anxioase primește conținut care accentuează riscuri, crize, soluții de urgență; • Un utilizator cu orientare politică ambiguă este expus la argumente subtile, dar repetate, menite să-l atragă într-o anumită tabără; • Un adolescent cu stimă de sine scăzută este bombardat cu reclame pentru produse de transformare fizică, aplicații de dating(întâlniri) sau comunități „exclusive”; • Un angajat care își exprimă nemulțumiri online primește invitații la mișcări de protest sau grupuri ideologice radicale. De ce este periculos? • Elimină autonomia decizională – deciziile devin doar reacții la mesaje concepute special pentru a influența; • Este complet invizibil – nu știm că am fost targetați(vizați) și nici nu realizăm că ceea ce ni se oferă este personalizat cu scop de manipulare; • Funcționează tăcut și fără opoziție – pentru că mesajul pare „logic” sau „natural”, nu declanșează scepticism sau reacție critică; • Poate radicaliza – utilizatorii care nu au acces la alte puncte de vedere sunt ușor de atras spre extreme ideologice. 19 Exemple de impact major: • Campania Cambridge Analytica – unde milioane de alegători au fost influențați prin microtargeting psihografic în procesele de alegeri; • Campanii anti-vaccinare ce se foloseau de teamă