https://www.mapn.ro/utile/Ghid Inteligenta Artificiala.pdf

, incertitudine și neîncredere în autorități, țintind segmente vulnerabile emoțional; • Platforme comerciale care vând produse de slăbit sau „soluții miraculoase” doar către persoane cu tipare detectate de insecuritate fizică sau depresie latentă. Cum ne putem proteja? • Limităm cantitatea de date personale partajate pe rețele sociale și platforme online; • Folosim extensii și setări care blochează tracking-ul comportamental (ex: Privacy Badger, uBlock Origin, Ghostery); • Folosim conturi „curate” pentru căutări importante (ex: în browsere nepersonalizate/incognito); • Analizăm critic mesajele care „par să fie exact pentru noi” – și care sunt de fapt cele mai suspecte. C. Generare de conținut fals credibil – iluzia realității algoritmice „Nu trebuie să modifici realitatea – e suficient să creezi o versiune mai convingătoare.” Unul dintre cele mai periculoase efecte ale inteligenței artificiale moderne este capacitatea de a genera conținut fals, dar extrem de convingător, care imită în detaliu structura, stilul și autoritatea conținutului autentic. Această abilitate a AI-ului pune în pericol însuși ”conceptul de adevăr”, deoarece utilizatorii nu mai pot distinge între ceea ce este real și ceea ce este generat. Cum funcționează? • Algoritmi de generare a limbajului (LLMs) produc texte persuasive, articole, postări, documente sau conversații care par scrise de o persoană reală; • Modele AI vizuale și audio creează videoclipuri, imagini, grafice și voci artificiale care reproduc perfect persoanele, timbrul vocal, expresiile sau stilul de comunicare; • AI-ul este capabil să simuleze stiluri specifice (jurnalistic, științific, empatic, autoritar), făcând falsul imposibil de identificat intuitiv. Exemple de conținut generat: • Articole false care susțin o teorie, folosind surse fabricate sau statistici neverificabile; • Postări social media „de la martori oculari” ale unor evenimente care nu au avut loc; • Mesaje de tip testimonial, semnate de „specialiști” complet inventați; • Emailuri, comentarii sau recenzii automate, care creează iluzia unei opinii colective reale. De ce este periculos? • Deturnează încrederea în fapte și surse – dacă totul poate fi generat, ce mai este credibil?; • Alterează percepția realității – oamenii reacționează emoțional la un mesaj „văzut cu ochii lor”, chiar dacă este fals; • Accelerează viralizarea dezinformării – conținutul este produs în masă, fără costuri mari și poate fi distribuit cu ușurință în rețele sociale, către grupuri închise sau pe platforme marginale; 20  • Sabotează instituții, companii și persoane – prin falsificarea discursului, comportamentului sau poziționării publice. Cum acționează asupra percepției: • Creează dovezi fabricate care susțin o idee falsă (ex: „uite articolul, uite ce a spus, uite video-ul”); • Provoacă reacții imediate și intense, înainte ca utilizatorul să aibă timp să verifice; • Declanșează efectul de confirmare: dacă se aliniază cu părerile tale, e mai ușor de acceptat ca fiind adevărat; • Erodează încrederea generală în media și informații reale: „nimic nu mai e sigur, toate pot fi trucate”. Tehnologii implicate: • GPT, Gemini, Claude – generatoare de text convingător și adaptiv; • DALL·E, Midjourney, Stable Diffusion – generare de imagini false realiste; • ElevenLabs, Resemble AI – clonare vocală; • Deepfake frameworks (DeepFaceLab, Avatarify) – video-uri trucate cu persoane reale; o Cum ne putem proteja? • Verificăm sursele – nu doar conținutul; o Cine a publicat? Unde? Este un canal de încredere? • Folosim instrumente de analiză digitală a autenticității: o Sensity AI, o Deepware Scanner, o InVID Verification Plugin. • Căutăm alte surse independente care confirmă informația – mai ales în cazul unui material viral; • Evităm redistribuirea conținutului emoțional sau șocant până nu verificăm; • Educăm reflexul de a spune: „Doar pentru că pare real, nu înseamnă că este!” D. Automatizarea conversației și manipulării prin boți avansați „Nu orice mesaj prietenos e trimis de un om – uneori, AI-ul îți câștigă încrederea ca să o folosească împotriva ta.” Boții conversaționali bazați pe inteligență artificială sunt sisteme automate capabile să simuleze un dialog coerent, empatic și convingător cu utilizatorii umani. Când acești boți sunt antrenați cu date relevante, reglați fin pentru a atinge un anumit scop și înzestrați cu capacități de analiză psihologică, ei devin instrumente extrem de eficiente de persuasiune, manipulare și extragere de informații sensibile. În forma lor pozitivă, pot fi folosiți ca asistenți digitali, suport tehnic sau consilieri. În forma lor abuzivă, devin vectori de inginerie socială automatizată. Cum funcționează? • Sistemul conversațional AI este construit pe un model lingvistic avansat (ex: GPT, Claude, LLaMA) și antrenat pentru a simula conversații umane autentice; • Este configurat să interpreteze tonul, intenția și emoția din răspunsurile utilizatorului; • Se adaptează pe parcursul dialogului – schimbând tonul, ritmul și conținutul pentru a menține interesul și a obține răspunsuri specifice; • Poate fi integrat în aplicații de chat, rețele sociale, call center-uri false, pagini de phishing sau platforme online aparent legitime. 21 Exemple de manipulare cu boți: • „Recrutorul” care promite locuri de muncă și solicită CV-uri sau date personale, dar este un bot conversațional; • „Consilierul financiar” care răspunde la întrebări, oferă soluții și convinge victima să acceseze linkuri sau să facă transferuri; • „Persoana romantică” ce întreține conversații afectuoase și convinge utilizatorul să trimită bani, fotografii sau informații intime; • „Colegul IT” care simulează suport tehnic și cere acces la conturi, parole sau sisteme interne; • „Activistul online” care angajează victima într-o conversație ideologică pentru a o radicaliza treptat. De ce este periculos? • Conversația pare naturală și umană, mai ales dacă botul folosește expresii afective, greșeli intenționate sau reacții emoționale; • Exploatează încrederea în comunicarea interpersonală – oamenii tind să fie mai relaxați într-o discuție prietenoasă decât în fața unui mesaj de alertă; • Obține informații sensibile în mod gradual și discret – prin conversații aparent banale, botul poate construi un profil complet al victimei; • Poate fi scalat pentru mii de victime simultan, fără costuri suplimentare, făcând ca atacurile sociale să devină masive, continue și nedetectabile. Zone de aplicare abuzivă: • Campanii de phishing automatizat, care încep prin conversație și se termină cu capurarea datelor de acces; • Fraude online (ex: romance scam, job scam, invest scam) ghidate de AI conversațional; • Propagandă și dezinformare desfășurată în interiorul unor grupuri sociale, unde boții întrețin dialoguri, susțin idei și creează iluzia unui consens social; • Chat-uri AI integrate în site-uri frauduloase, care validează încrederea vizitatorului și îl conving să acționeze. Cum ne putem proteja? • Folosim scepticismul activ în conversațiile online – punem întrebări concrete, cerem dovezi ale identității, nu acționăm impulsiv; • Verificăm întotdeauna sursa și scopul unei conversații, mai ales în cazul ofertelor, cererilor de ajutor sau promisiunilor de câștiguri rapide; • Folosim site-uri verificate (de încredere) și evităm interacțiunile în cadrul platformelor nesecurizate sau necunoscute; • Reținem că AI-ul conversațional nu are limite etice proprii – dacă a fost antrenat să manipuleze, o va face fără ezitare. 3 MANIPULAREA PERCEPȚIEI CU AJUTORUL INTELIGENȚEI ARTIFICIALE După ce am explorat fundamentele tehnice ale inteligenței artificiale, este important să înțelegem cum aceste tehnologii – de la rețele neuronale și sisteme de recomandare, până la AI vizuală și afectivă – nu rămân simple instrumente neutre, ci devin parte activă în modelarea percepțiilor, emoțiilor și convingerilor umane. Capitolul de față analizează modul în care aceste sisteme sunt folosite nu doar pentru a livra conținut, ci pentru a influența modul în care realitatea este percepută, interpretată și interiorizată. 22 Manipularea percepției umane prin intermediul inteligenței artificiale (AI) reprezintă o formă sofisticată de influențare psihologică și informațională, care utilizează algoritmi avansați, rețele neuronale și învățare automată pentru a modela modul în care oamenii percep realitatea – vizual, auditiv, emoțional sau cognitiv. Manipularea nu este directă, explicită sau agresivă, așa cum se întâmplă în formele clasice de persuasiune sau propagandă. Dimpotrivă, acționează subtil, invizibil și adesea personalizat, în funcție de datele și vulnerabilitățile fiecărui grup sau individ. 3.1 Definirea contextului Manipularea percepției prin inteligență artificială se referă la utilizarea deliberată a tehnologiilor inteligente pentru a influența modul în care o persoană sau un grup social interpretează realitatea. Această manipulare nu presupune neapărat furnizarea de informații false, ci mai degrabă controlul subtil al contextului, formei și frecvenței cu care este livrat conținutul digital. Este o formă avansată de influențare psihologică și socială, în care algoritmii decid într-un procent semnificativ: • Ce vezi, • În ce ordine vezi, • Cum îți este prezentată informația, • Ce este ascuns sau suprasaturat în mediul tău digital. Tehnicile utilizate includ: • Selecția și prezentarea strategică a conținutului - algoritmii decid ce anume să îți afișeze (știri, videoclipuri, mesaje, opinii), accentuând anumite perspective și ignorând altele; • Stimulare algoritmică personalizată - sistemele AI învață din comportamentul tău online și ajustează conținutul pentru a produce reacții specifice (ex: anxietate, furie, entuziasm); 23  • Consolidarea convingerilor existente - utilizatorii sunt expuși constant la informații care le validează opiniile și, în același timp, sunt izolați de puncte de vedere alternative; • Filtrarea experienței digitale - interacțiune online este adaptată în așa fel încât percepția utilizatorului asupra realității devine tot mai subiectivă, artificială și deconectată de realitatea obiectivă – fără ca acesta să conștientizze influența. Exemple de manifestare Pentru a înțelege aplicabilitatea concretă a acestor mecanisme, iată câteva scenarii comune: • Feed-ul social personalizat - un utilizator primește exclusiv postări care susțin o anumită ideologie, ceea ce creează impresia falsă că „toată lumea gândește la fel”; • Reclame emoționale direcționate - un algoritm detectează că o persoană este anxioasă (ex: prin comportamentul de derulare, căutări recente etc.) și îi afișează reclame alarmiste legate de sănătate sau siguranță personală; • Conversații simulate de AI - boți conversaționali inteligenți care par empatici și de încredere ghidează utilizatorul spre anumite decizii (ex: achiziții, opinii politice, distanțare față de familie sau prieteni); • Excluderea opiniilor divergente - utilizatorii care consumă conținut dintr-o singură sursă sunt „captivi / încuiați” în bule cognitive, fără expunere față de alte idei – ceea ce conduce la polarizare și radicalizare. • Deepfake-uri aparent credibile - videoclipuri trucate ce prezintă persoane publice în situații neverosimile, dar realizate atât de realist încât pot modifica opinii sau produce reacții de masă. 3.2 Mecanisme de captare a atenției utilizatorului și pentru manipularea cognitivă a acestuia Algoritmii AI pun la dispoziție o serie de mecanisme care sunt în mod curent exploatate, atât de rețelele de socializare, cât și de platforme generatoare de conținut personalizat. În tabelul de mai jos sunt prezentate câteva dintre ele, însoțite de exemple și posibile efecte ce se pot înregistra: 24  Crt. Mecanism Efect Exemplu Primești doar postări care Ascunde perspective A Filtrarea conținutului susțin o idee politică sau alternative ideologică Generează conținut Clasificarea emoțională a AI detectează că ești anxios → B adaptat stării utilizatorului îți livrează conținut alarmist emoționale Un video fals cu o persoană Crearea de conținut fals Afectează percepția C publică ce „face” o declarație credibil realității importantă Obține ascultare și Asistenți virtuali AI care Simularea empatiei și influențează D răspund afectuos și încrederii sentimentul de manipulativ în conversații loialitate Recomandare AI știe că ești vulnerabil Modelează deciziile E comportamentală economic și îți afișează utilizatorului predictivă reclame de împrumut agresive A. Filtrarea conținutului – ascunderea perspectivelor alternative Una dintre formele de manipulare a percepției prin inteligență artificială este filtrarea conținutului. Acest proces presupune selectarea și afișarea informațiilor în funcție de comportamentul, preferințele și istoricul digital al fiecărui utilizator – un mecanism aparent util, dar care poate avea consecințe grave asupra înțelegerii realității. Ce face Inteligența Artificială? Algoritmii care guvernează rețelele sociale, motoarele de căutare sau platformele video analizează constant tipurile de conținut accesate frecvent, postările apreciate, distribuite sau comentate, timpul petrecut pe articole și interacțiunile sociale din mediul digital. Pe baza acestor date, sistemul personalizează experiența online, eliminând treptat din feed sau din rezultate informațiile care nu se aliniază cu interesele și convingerile identificate. În unele cazuri, conținutul poate fi ajustat deliberat pentru a influența percepțiile utilizatorului. Efectul: Bula informațională Acest fenomen duce la articularea unei așa-numite "bule informaționale" – un spațiu digital în care utilizatorul este expus exclusiv la idei, opinii și perspective ce îi confirmă propriile convingeri, în timp ce informațiile contrare sunt filtrate, minimizate sau excluse complet. Exemplu concret: Un utilizator care urmărește frecvent postări cu conținut naționalist sau populist, interacționează cu pagini sau grupuri care distribuie teorii ale conspirației, respinge sau comentează negativ sursele jurnalistice consacrate (etc.), va primi în feed-ul său din ce în ce mai puțin conținut obiectiv, neutru sau din surse credibile, și din ce în ce mai mult conținut care îi întărește convingerile deja existente, care exclude opiniile alternative, care poate conduce treptat la radicalizarea punctului de vedere, etc. 25 Rezultatul se constituie într-o percepție distorsionată a realității, în care utilizatorul ajunge să creadă că toți ceilalți gândesc la fel ca el, iar sursele alternative sunt „manipulate” sau „corupte”. De ce este periculos? • Afectează gândirea critică – utilizatorilor nu li se mai expun puncte de vedere contradictorii ce i-ar putea face să reflecteze sau să-și reevalueze opiniile; • Crește polarizarea socială – grupurile se radicalizează în camere de ecou digitale, în care realitatea este percepută printr-o singură lentilă; • Favorizează manipularea în masă – în perioade-cheie (ex: alegeri, crize sociale naturale sau artificiale), aceste bule pot fi exploatate pentru a influența decizii colective fără rezistență cognitivă; Diminuează diversitatea informațională – o societate care consumă doar un tip de informație este vulnerabilă la dezinformare sistemică și la pierderea pluralismului democratic. Cum ne protejăm?