https://www.mapn.ro/utile/Ghid Inteligenta Artificiala.pdf

ulare informațională și emoțională pe scară largă. Spre deosebire de metodele clasice de influențare (ex: publicitate, propagandă, persuasiune socială), AI introduce un nou nivel de precizie și discreție în manipulare. Algoritmii moderni pot identifica punctele slabe emoționale, tiparele comportamentale și preferințele psihologice ale utilizatorilor cu o acuratețe uluitoare, generând conținut personalizat care activează emoții puternice și decizii impulsive – fără ca victima să conștientizeze acest proces. De la recomandări de conținut, care întăresc convingerile proprii și izolează utilizatorii în bule informaționale, până la simularea cu mare acuratețe a unor persoane reale (prin deepfake, voice cloning sau avataruri AI), inteligența artificială devine un vector activ de modelare a percepției și, implicit, al realității subiective a fiecărui individ. Această nouă realitate ridică întrebări pertinente: • Cum recunoaștem un conținut generat sau manipulat de AI? • Care este limita între recomandare utilă și manipulare intenționată? • Ce înseamnă adevăr într-o epocă în care orice voce, imagine sau activitate poate fi replicată cu precizie artificială? Pentru a răspunde acestor provocări, este necesară o educație cibernetică extinsă, care să depășească noțiunile de bază și să abordeze dimensiunea cognitivă, psihologică și socială a interacțiunii cu tehnologiile inteligente. Acest ghid educațional își propune să: • Explice modalități în care AI poate influența percepția umană, prin mecanisme vizibile sau subtile; • Analiza de riscuri și tehnologii, oferind o privire cât mai realistă asupra capabilităților curente ale AI-ului în domeniul manipulării cognitive; • Ofere metode concrete de prevenție, verificare și apărare, atât pentru utilizatorii individuali, cât și pentru organizații sau instituții expuse riscurilor informaționale; • Contribuie la formarea unei gândiri critice digitale – o componentă importantă pentru navigarea într-un spațiu digital tot mai personalizat, influențat și potențial manipulativ. 1.3 De ce este importantă înțelegerea mecanismelor din spatele AI-ului Pe măsură ce inteligența artificială devine tot mai integrată în viața cotidiană, înțelegerea modului în care aceste sisteme funcționează nu mai este doar o preocupare a specialiștilor în tehnologie. Este nevoie de acest tip de înțelegere pentru orice utilizator de internet, pentru decidenți, educatori sau părinți. Interacționăm zilnic cu aplicații alimentate de algoritmi inteligenți, dar de cele mai multe ori nu avem conștiența proceselor care se desfășoară „în spate”. Această lipsă de transparență creează un dezechilibru major: sistemele știu foarte multe despre noi, în timp ce noi știm foarte puțin despre ele. În timp ce AI-ul colectează date, analizează comportamente și ajustează mesajele livrate în funcție de profiluri psihologice, utilizatorul obișnuit rămâne într-o poziție pasivă, cu o percepție de control care este adesea iluzorie. În acest context, educația cibernetică trebuie să includă și o componentă de alfabetizare tehnologică: înțelegerea mecanismelor de bază care fac posibilă personalizarea conținutului, 8 recunoașterea emoțiilor, predicția comportamentului sau generarea automată de conținut aparent uman. Această înțelegere nu presupune competențe avansate de programare sau matematică, ci curiozitate și spirit critic: • Ce este un algoritm de recomandare și cum influențează ceea ce văd? • Cum poate o rețea neuronală să înțeleagă emoțiile mele? • Ce se întâmplă cu datele pe care le ofer, conștient sau inconștient? • De ce anumite conținuturi par „făcute exact pentru mine”? Răspunsul la aceste întrebări permite o schimbare de paradigmă: din simplu consumator digital pasiv, utilizatorul devine un actor conștient, capabil să-și gestioneze expunerea, să pună întrebări și să reacționeze informat. Fără acest filtru, riscul este de a trăi într-o realitate percepută, modelată de mașini, fără o minimă capacitate de reflecție sau de verificare. Capitolele următoare vor detalia aceste mecanisme tehnice și vor arăta cum algoritmii pot capta, influența sau distorsiona percepția, de cele mai multe ori fără a lăsa urme evidente. 2 ELEMENTE TEHNICE ȘI MECANISME Manipularea percepției umane cu ajutorul inteligenței artificiale se bazează pe o sinergie între tehnologiile avansate și cunoaștere psihologică. AI-ul nu este doar un instrument de procesare a datelor – este chiar un sistem care învață, anticipează, influențează și simulează comportamente umane cu precizie în creștere accelerată. În această secțiune vom analiza tehnologiile care stau la baza influenței perceptive și mecanismele operaționale prin care acestea sunt exploatate pentru a modela percepția și comportamentul uman. 9 Pentru a înțelege cum aceste sisteme ajung să ne influențeze percepțiile, este important să știm, chiar și la nivel introductiv cum funcționează modelele de inteligență artificială. Nu este vorba despre detalii matematice sau algoritmice complexe, ci despre o înțelegere funcțională: ce fac aceste modele, cum învață și cum pot simula comportamente inteligente. La baza celor mai avansate aplicații AI se află așa-numitele rețele neuronale artificiale – structuri matematice inspirate din modul de funcționare al creierului uman. Acestea sunt alcătuite din multiple straturi de „neuroni artificiali” care procesează informația treptat, extrăgând semnificații din datele primite (cum ar fi text, imagine, sunet). Fiecare strat filtrează, interpretează și transmite mai departe informația, până când sistemul produce un rezultat. Modelele AI moderne sunt antrenate pe cantități uriașe de date. În timpul acestui proces, ele „învăță” să recunoască tipare, relații, emoții sau intenții. Cu cât datele sunt mai variate și cu cât procesul de învățare este mai bine calibrat, cu atât rezultatul devine mai precis și mai credibil. Un exemplu simplu este modelul care îți recomandă conținut pe o platformă de video sau social media. Acesta observă ce fel de materiale urmărești, cât timp petreci pe ele, cum reacționezi (like, comentariu, distribuire) și, în timp, îți livrează conținut tot mai adaptat intereselor tale – chiar și fără să-i fi spus explicit ce preferi. Modelele de inteligență artificială pot fi clasificate, într-un mod simplificat, în funcție de scopul și complexitatea lor: • Machine Learning (ML) - modele care învață din date pentru a face predicții sau clasificări. Exemple: recunoașterea unui spam, recomandarea unui produs. • Deep Learning (DL) - o formă avansată de ML, care folosește rețele neuronale profunde și poate identifica tipare foarte complexe, cum ar fi tonul emoțional dintr-o voce sau intenția dintr-un text. • Modele generative - capabile să creeze conținut nou – texte, imagini, videoclipuri sau voci – care pot părea autentice. Exemple: ChatGPT, DALL·E, voice cloning. • AI conversational - proiectat pentru a purta dialoguri fluente și convingătoare, adaptate emoțional la utilizator. Pe măsură ce aceste modele devin mai avansate, ele nu doar reacționează la utilizator, ci încep să îl modeleze activ: pot influența deciziile, pot simula empatie, pot anticipa reacții și pot livra conținut care vizează direct slăbiciunile sau preferințele personale. 2.1 Tehnologii implicate A. Rețele neuronale artificiale (deep learning) „Creierul digital” care învață, creează și simulează comportamente umane. Influențarea percepției prin inteligență artificială se bazează pe un ecosistem de tehnologii interconectate care simulează, anticipează și modelează comportamentele umane. Aceste sisteme nu doar reacționează la inputuri, ci intervin activ în modelarea realității percepute de utilizatori – uneori în mod subtil, alteori în mod direct. Mai jos sunt prezentate principalele clase de tehnologii implicate în acest proces, cu accent pe mecanismele lor de funcționare și riscurile aferente. Rețelele neuronale artificiale reprezintă coloana vertebrală a inteligenței artificiale moderne. Acestea sunt sisteme de învățare automată inspirate din modul în care funcționează creierul uman – mai precis, din structura și comportamentul neuronilor biologici. 10 Un sistem de deep learning este format din straturi multiple de noduri (neuroni artificiali), care primesc informație, o procesează, și apoi o transmit mai departe în rețea. Prin ajustarea conexiunilor între acești „neuroni”, sistemul învață din date și devine tot mai precis în recunoașterea tiparelor sau generarea de conținut. Cum funcționează, în esență? • Sistemul este „hrănit” cu date (ex: mii de imagini, fragmente de text, înregistrări audio); • Fiecare strat al rețelei extrage caracteristici tot mai abstracte (ex: de la pixeli → forme → expresii faciale); • Pe măsură ce învață, sistemul își „optimizează” conexiunile pentru a prezice, clasifica sau genera date noi; • După o perioadă de antrenament, rețeaua poate răspunde la stimuli complet noi – cu o precizie apropiată de comportamentul uman. Această arhitectură complexă face ca rețelele neuronale să fie utilizate într-o gamă largă de aplicații – de la recunoaștere facială la traduceri automate, de la sisteme medicale la platforme de divertisment. Dar una dintre cele mai influente și mai controversate direcții este modelarea percepției umane. A1. Aplicabilități în manipularea percepției. Puterea rețelelor neuronale nu constă doar în analiză, ci și în capacitatea lor de a interveni asupra emoțiilor și convingerilor umane. Printre cele mai relevante utilizări se numără: Analiza expresiilor faciale Rețelele pot detecta micro-expresii, emoții subtile și stări afective prin analiză video. Sunt folosite în: • Reclame personalizate, • Analiză de interviuri, • Manipulare emoțională automată (ex: aplicații de dating, educație adaptivă). • Generarea de conținut – text, video, audio Cu ajutorul rețelelor neuronale, AI poate: • Genera texte convingătoare (ex: articole, postări, știri false), • Crea videoclipuri deepfake, • Sintetiza voci umane realiste pentru escrocherii sau persuasiune. Exemplu: un mesaj vocal „primit” de la o rudă sau superior, generat complet de AI. Recunoașterea emoțiilor Prin analizarea comportamentului digital (ex: voce, mimică, ritm de tastare), AI-ul identifică starea emoțională a utilizatorului și adaptează reacțiile sale pentru a: • Întări loialitatea, • Declanșa reacții impulsive, • Manipula decizii în momente de vulnerabilitate Sinteza naturală a vocii Folosind rețele specializate (ex: Tacotron, WaveNet, HiFiGAN), AI poate crea voci complet sintetice care: • Imită o persoană reală (ex: voice cloning), • Exprimă emoții autentice, • Comunică mesaje persuasive cu intonație, pauze și ritm natural. 11 Riscuri și implicații • Capacitate ridicată de generare realistă extremă – poate crea conținut fals imposibil de identificat vizual sau auditiv de către utilizatori obișnuiți; • Automatizarea manipulării psihologice – AI învață cum să reacționeze la emoțiile umane mai eficient decât un om neantrenat; • Escaladarea atacurilor din zona ingineriei sociale – atacatorii pot folosi rețele neuronale pentru a declanșa atacuri personalizate pe scară largă (ex: fraude, manipulare politică, șantaj). Conștientizare Rețelele neuronale sunt fundamentale pentru AI, dar puterea lor de influențare este direct proporțională cu ignoranța publicului. Cu cât înțelegem mai bine cum funcționează și ce efecte se pot înregistra, cu atât mai mult putem: • Adresa întrebări critice când interacționăm cu conținut aparent convingător, • Refuza impulsurile generate algoritmic, • Susține reglementarea responsabilă a acestor tehnologii. A2. Sisteme de recomandare și predicție comportamentală "Mașinile care știu ce vei face – uneori, mai bine decât tine." Sistemele de recomandare și predicție comportamentală sunt printre cele mai utilizate și în același timp, cele mai puțin înțelese componente ale inteligenței artificiale moderne de către publicul larg. Ele sunt prezente și acționează în fundalul aproape tuturor interacțiunilor noastre digitale – de la videoclipuri pe YouTube, până la produse ce apar în feed-ul de cumpărături sau postări de pe rețelele sociale. Aceste sisteme folosesc AI și machine learning pentru a analiza comportamentul online și a construi un model predictiv despre utilizator. Scopul declarat este de a îmbunătăți experiența digitală. Însă în practică, aceste sisteme pot fi deturnate pentru a influența, manipula și controla deciziile, emoțiile și convingerile utilizatorilor, fără ca aceștia să conștientizeze și să-și exprime acordul explicit. Cum funcționează? Sistemele de recomandare colectează și analizează informații despre tine, precum: • Istoricul de căutare și navigare, • Durata de vizualizare a unui conținut, • Clicuri, like-uri, comentarii, partajări, • Ritmul de derulare, pauzele și revenirea pe conținut, • Locație, ora din zi, dispozitiv folosit, comportamente repetitive. Aceste date sunt procesate pentru a crea un profil comportamental și, ulterior, un set de previziuni personalizate (ex: ce te interesează, ce te atrage, ce te neliniștește, ce tip de reacție este cel mai probabil să ai etc.). Ce pot face aceste sisteme? • Pot alege ce vezi și în ce ordine vezi – feed-urile nu sunt cronologice, ci modelate să mențină atenția ta cât mai mult; • Anticipează ce vei face – dacă ești pe cale să cumperi, să distribui ceva sau să te enervezi, sistemul „știe” și acționează în consecință; • Te influențează emoțional – prin livrarea de conținut care stârnește reacții afective intense (ex: teamă, furie, dorință, revoltă); 12  • Îți modelează obiceiurile – prin repetiție și expunere strategică, ajungi să adopți anumite rutine digitale fără să-ți dai seama. Exemple concrete: • Un utilizator vizionează clipuri legate de sănătate → sistemul începe să-i recomande produse „naturiste” scumpe sau conținut conspiraționist; • O persoană comentează un articol de natură politică → primește postări din ce în ce mai partizane, care întăresc doar propria viziune (sau o deturnează); • Cineva caută „cum să gestionez stresul” → este inundat cu reclame pentru cursuri costisitoare, aplicații de relaxare și soluții rapide, uneori inutile; • O adolescentă urmărește conținut legat de greutatea corporală → sistemul începe să recomande materiale care promovează idealuri toxice de frumusețe sau comportamente alimentare riscante. Riscuri majore: • Manipulare invizibilă a convingerilor – utilizatorul ajunge să creadă că ideile și deciziile sale îi aparțin în totalitate, când de fapt sunt induse prin expunere algoritmică repetitivă; • Polarizare socială și ideologică – când oamenii sunt ”injectați” doar cu opinii similare, diferențele de viziune devin extreme, de neînțeles și de neacceptat; • Comportament modelat pe obiective comerciale – nu vezi ceea ce ai nevoie, ci ceea ce are cea mai mare valoare economică sau ideologică pentru platformă sau promotor; • Dependență digitală – sistemele optimizează pentru atenție, nu pentru echilibru. Astfel, oferă conținut stimulant și creator de dependență, nu util și sănătos. Cum ne putem proteja? • Folosim platformele în mod conștient, nu în regim pasiv (ex: derulare automată, consum excesiv); • Setăm limite de timp și opțiuni de personalizare unde este posibil; • Căutăm activ surse și conținut alternativ, nu doar ce ni se oferă în feed; • Folosim periodic sesiuni de navigare curată (ex: incognito, fără login, fără istoric activat); • Ne întrebăm frecvent: „Cine a ales să văd asta? Eu sau un algoritm?” B. Large Language Models (LLMs) (ex: ChatGPT, Gemini, Claude, Mistral etc) „Inteligența Artificială care înțelege și generează limbajul uman – cu precizie, viteză și influență fără precedent.” Large Language Models (LLMs) reprezintă o clasă de algoritmi AI antrenați pe cantități masive de text – zeci, sute de miliarde sau trilioane de cuvinte, extrase din cărți, articole, conversații, site-uri web, coduri de programare și multe altele. Aceste modele au capacitatea de a înțelege, interpreta, simula și genera limbaj uman coerent, adaptat contextului, publicului și intenției dorite. LLM-urile precum ChatGPT (OpenAI), Gemini (Google), Claude (Anthropic), Mistral, LLaMA (Meta) sau Command-R (Cohere) sunt deja integrate în numeroase aplicații comerciale, educaționale, organizaționale și sociale. Cum funcționează? • Modelul este antrenat pe seturi incredibil de mari de date (ex: corpusuri lingvistice globale); 13  • Învățarea are loc prin predicția cuvântului următor într-un context dat – dar cu milioane de exemple; • După antrenare, AI-ul poate răspunde la întrebări, redacta texte, rezuma informații, construi argumente, conversa pe diverse teme și chiar simula stiluri și emoții. Capacități relevante în manipularea percepției: • Generare automată de text persuasiv – articole, opin