https://www.mapn.ro/utile/Ghid Inteligenta Artificiala.pdf

or Leave. EU, emails confirm https://www.theguardian.com/uk-news/2019/jul/30/cambridge-analytica-did-work-for-leave-eu-emails-confirm 38  • Recomandare algoritmică bazată pe stimulare emoțională (ex: momeală bazată pe furie, apel de frică, declanșează rușine). Risc / Impact: • Manipularea deciziilor sub presiunea emoțională – cumpărături compulsive, reacții violente, susținere necritică a unor cauze; • Instabilitate psihologică – consum continuu de conținut negativ conduce la anxietate, depresie, paranoia informațională; • Polarizare și ură colectivă – exploatarea furiei conduce la radicalizarea grupurilor și erodarea coeziunii sociale; • Creșterea vulnerabilității în fața escrocheriilor și manipulărilor ideologice – emoțiile scad vigilența cognitivă. Context de apariție: • Campanii politice, crize sanitare, sociale, climatice; • Scandaluri publice, tragedii, atacuri sau dezastre; • Reclame agresive de tip „fear-based marketing”; • Campanii de instigare sau „rage farming” pe rețele sociale. Exemplu real: În timpul pandemiei, milioane de utilizatori au fost expuși la conținut alarmist livrat de AI (ex: „vaccinul te va omorî”, „toți ne ascund adevărul”), pe baza istoricului lor de interacțiune. Sistemele au detectat că frica conduce la vizionări mai lungi, click-uri mai multe și (re)distribuiri în masă. Rezultatul: panică, neîncredere în autorități, dezbinare socială, acest aspect fiind surprins și în presă4. Indicatori de avertizare pentru utilizator: • Simțim constant emoții negative intense după consumul digital (ex: furie, teamă, rușine, revoltă); • Avem tendința să reacționăm imediat, fără să mai analizăm logic informația; • Feed-ul nostru pare dominat de conținut negativ, catastrofic sau indignat; • Observăm că toate mesajele „confirmă” o stare deja existentă de anxietate sau neîncredere. Măsuri de prevenire / protecție: • Limităm expunerea la conținut emoțional în perioade de vulnerabilitate personală; • Ne antrenăm pentru a recunoaște „capcanele emoționale” algoritmice: titluri șocante, videoclipuri înșelător de dramatice, postări bazate pe urgență; • Ne oferim timp între emoție și reacție – nu distribuim, comentăm sau acționăm imediat; • Verificăm faptele din surse independente, mai ales când reacția noastră este una puternic emoțională; • Ne antrenăm gândirea critică să detecteze „triggers” intenționate – dacă suntem prea furioși, probabil cineva și-a atins scopul. 4 The Guardian - ‘Alarming’: convincing AI vaccine and vaping disinformation generated by Australian researchers https://www.theguardian.com/australia-news/2023/nov/14/alarming-convincing-ai-vaccine-and-vaping- disinformation-generated-by-australian-researchers The Trust & Safety Fundation - AI-Generated Disinformation Campaigns Surrounding COVID-19 in the DRC https://www.trustandsafetyfoundation.org/blog/blog/ai-generated-disinformation-campaigns-surrounding-covid- 19-in-the-drc 39 F. Atacuri de tip spear phishing automatizat cu conținut AI „Nu mai este nevoie de un hacker priceput – AI-ul poate construi atacuri personalizate în masă, cu precizie letală.” Descriere: În acest scenariu, atacatorii folosesc inteligența artificială pentru a automatiza campanii de spear phishing – adică tentative de înșelăciune personalizate, direcționate către o anumită persoană sau un grup restrâns de potențiale victime. Spre deosebire de phishingul tradițional, care trimite mesaje generice, spear phishing-ul creat de AI este: • Specific, • Personalizat, • Convingător, • Adaptat contextului real al victimei. AI-ul analizează prezența online a țintei (rețele sociale, articole, CV-uri, interacțiuni publice), generează mesaje personalizate perfect redactate și poate chiar simula conversații în timp real pentru a obține acces, date sau bani. Tehnici AI implicate: • Large Language Models (LLMs) – generarea de emailuri sau mesaje conversaționale adaptate la context (ex: ChatGPT, Claude, etc.); • Profilare OSINT – AI-ul analizează date publice despre victimă (ex: loc de muncă, colegi, obiceiuri, interese); • Simulare de identitate – imitarea stilului de scris al unui coleg, partener, client etc.; • Voice cloning / deepfake audio – în unele cazuri, vocea unui superior este clonată pentru a comunica ordine false prin telefon. Risc / Impact: • Furt de identitate / date de autentificare – victimele oferă user, parolă, OTP sau semnează documente fără să știe; • Compromiterea rețelelor interne ale unei organizații – acces prin social engineering către infrastructura IT; • Fraudă financiară – ordine false de transfer bancar, plăți către conturi frauduloase; • Discreditare personală sau profesională – folosirea conținutului obținut pentru șantaj, presiune sau distrugerea reputației. Context de apariție: • Companii (ex: angajați cheie, HR, contabilitate, IT); • Jurnaliști, activiști, lideri politici; • Persoane cu roluri administrative sau acces privilegiat în instituții; • Campanii geopolitice, concurență comercială, atacuri APT. Exemplu real: În 2023, cercetători în securitate au demonstrat că un AI putea genera în sub 60 de secunde un email de spear phishing personalizat, aparent trimis de CEO-ul unei companii, folosind stilul său real de comunicare și făcând referire la proiecte interne reale (obținute din surse publice). 40 În teste, rata de accesare a fost de peste 70%, articolele din presă fiind destul de explicite în acest sens5. Indicatori de avertizare pentru utilizator: • Primim un mesaj neobișnuit, dar bine scris, de la cineva cunoscut – cu un link, fișier sau solicitare urgentă; • Contextul pare „la fix” – un proiect recent, o formulare familiară, un apel la autoritate; • Se solicită acțiune rapidă, fără timp de verificare („urgent”, „doar azi”, „execută imediat”); • Orice ezitare este întâmpinată cu presiune pseudo-empatică: „înțeleg că ești ocupat, dar te rog...”. Măsuri de prevenire / protecție: • Activăm autentificarea multifactor (MFA) pentru toate conturile importante; • Verificăm întotdeauna solicitările suspecte printr-un canal alternativ (ex: apel direct, mesaj intern); • Nu accesăm linkuri sau atașamente fără să verificăm adresa completă de expeditor și contextul solicitării; • Folosim filtre anti-phishing, extensii de detecție AI și sisteme de protecție endpoint; • Suntem conștienți că un mesaj foarte bine scris nu mai este o garanție a autenticității – ci poate reprezenta chiar semnalul unui atac într-un stadiu avansat. G. Simulare de consens public prin rețele de conturi și boți AI „Când mii de voci care par reale spun același lucru, ajungi să crezi că tu ești cel care greșește.” Descriere: În acest scenariu, atacatorii sau actorii manipulatori folosesc rețele de conturi automatizate controlate de AI (boți sociali) pentru a crea iluzia unui consens social larg. Aceste conturi simulează persoane reale, cu profiluri credibile, imagini generate de AI, istorii de activitate și postări convingătoare. Obiectivul este de a amplifica artificial o idee, o cauză, o indignare sau o direcție ideologică, astfel încât publicul larg să perceapă acel punct de vedere ca fiind: • Majoritar, • Rezonabil, • Inevitabil. Această presiune socială artificială înregistrează efecte semnificative asupra psihologiei individuale: dacă „toată lumea” pare să susțină ceva, e mai greu să rămâi în opoziție – sau chiar să mai pui întrebări. Tehnici AI implicate: • Generare de identități false (GANs) – imagini de profil ultra-realiste, dar complet artificiale; • LLMs – generarea de postări, comentarii, reacții și mesaje aparent umane; 5 Since Direct – Spear phishing attack https://www.sciencedirect.com/topics/computer-science/spear-phishing-attack MalwareBytes - AI-supported spear phishing fools more than 50% of targets https://www.malwarebytes.com/blog/news/2025/01/ai-supported-spear-phishing-fools-more-than-50-of-targets 41  • Automatizare și orchestrare prin AI – controlul comportamentului simultan al mii sau chiar milioane de conturi (postare, redistribuire, atac, susținere); • Manipulare conversațională – replici adaptate emoțional și logic, care simulează dezbateri între „oameni diferiți”. Risc / Impact: • Fabricarea artificială a încrederii publice într-un produs, mesaj politic, teorie conspiraționistă sau atac la adresa unui grup; • Marginalizarea vocilor reale – prin volum, repetitivitate și agresivitate, vocile opuse sunt acoperite sau descurajate; • Constrângere socială indirectă – cei care nu aderă la „curentul majoritar” se autocenzurează sau își schimbă / ajustează opinia; • Diluarea adevărului și a dezbaterii autentice – conversațiile online devin spații manipulate, fără pluralitate reală. Context de apariție: • Alegeri, referendumuri, crize politice; • Campanii de propagandă internă sau externă; • Promovarea de teorii conspiraționiste, pseudoștiință sau „produse minune”; • Dezinformare anti-occidentală, anti-UE, anti-NATO, anti-democratică (în context geopolitic). Exemplu real: În 2020, rețele sociale din mai multe țări au identificat mii de conturi coordonate, care promovau mesaje anti-vaccinare și anti-lockdown, pretinzând a fi părinți, medici, veterani sau cetățeni îngrijorați. Profilurile aveau imagini generate de AI și istorii false de activitate. Mesajul repetat: „poporul s-a trezit”, mai multe analize fiind destul de clare în acest sens6. Indicatori de avertizare pentru utilizator: • Multe comentarii identice sau foarte similare, postate în același timp; • Profiluri recente, fără activitate autentică sau cu interacțiuni închise; • Conturi care postează doar pe o temă unică, obsesiv, fără variații; • Răspunsuri rapide, coordonate, ce „atacă” orice opinie diferită; • Tendința ca „toată lumea să fie de acord” – fără nuanțe, critici sau dezbateri reale. Măsuri de prevenire / protecție: • Verificăm profilurile suspecte (ex: poze inversate, activitate, urmăritori, limbaj robotic); • Nu ne lăsăm influențați de volum – întreabăm: „Cine sunt acești oameni? Există în realitate?”; • Suntem atenț la manipularea emoțională în masă – când „toți sunt indignați” ne întreabăm: de ce tocmai acum? • Nu ne schimbăm convingerile doar pentru că „așa pare să creadă lumea” – cautăm argumente reale, nu doar aparențe. 6 Comisia Europeană – Combaterea dezinformării https://commission.europa.eu/strategy-and-policy/coronavirus-response/fighting-disinformation_ro Centrul Euro-Atlantic pentru Reziliență - Barometrul rezilienței societale la dezinformare https://e-arc.ro/wp-content/uploads/2022/05/Barometrul-rezilientei-societale-2022.pdf 42 H. Crearea de personaje publice artificiale pentru manipulare și influență „Cine te influențează? Un om – sau o entitate creată în întregime de AI, cu o agendă precisă?” Descriere: În acest scenariu, inteligența artificială este exploatată pentru a construi de la zero personalități publice false (ex: influenceri, analiști, activiști, experți, „voci credibile”), controlate de operatori. Aceste personaje sunt dezvoltate cu: • aspect vizual generat de AI (ex: fotografii realiste, avataruri animate), • biografie convingătoare, • conținut bine redactat (ex: texte, videoclipuri, postări), • interacțiuni automate cu publicul. Scopul este de a influența publicul, de a clădi încredere și de a injecta ulterior mesaje ideologice, comerciale sau manipulative în spațiul digital, fără riscul de a fi confruntat cu persoane reale sau riscul de pierdere a credibilității (pentru că nu există nimic de pierdut). Tehnici AI implicate: • Generare de imagini realiste (ex: GANs, StyleGAN, Midjourney) – pentru portrete, fotografii „de viață” etc.; • LLMs (ex: ChatGPT, Claude, Mistral) – pentru postări, articole, comentarii, răspunsuri conversaționale; • Voice synthesis și avataruri video (ex: Synthesia, D-ID) – pentru apariții „video” realiste și convingătoare; • Social bot orchestration – conturi secundare automate care amplifică mesajele „personajului”. Risc / Impact: • Manipulare strategică de opinie – personajul câștigă încrederea și începe să distorsioneze adevărul referitor la subiecte sensibile; • Crearea unor „lideri de opinie” fără responsabilitate sau fără identitate reală; • Imitarea unor profesii cu autoritate (ex: doctori, avocați, jurnaliști, activiști umanitari); • Influență geopolitică ascunsă – personaje aparent neutre ce promovează agende ostile; • Interferență în spațiul civic, educațional, religios, medical sau politic. Context de apariție: • Platforme de social media, grupuri private, canale de video / streaming; • Campanii de dezinformare sau rebranding ideologic; • Promovarea de produse controversate, pseudoștiință, conspirații sau mișcări politice; • Construirea de rețele „influente” controlate 100% de AI și algoritmi. Exemplu real: În 2022, o rețea de influenceri „femei de carieră” de pe Instagram promovau valori occidentale în regiunile din Orientul Mijlociu. Ulterior, s-a descoperit că toate erau avataruri AI controlate de o agenție guvernamentală, iar interacțiunile lor erau 100% generate automat – de la texte la răspunsuri directe și comentarii, mai multe articole fiind elaborate pe acest subiect7. 7 PC Tablet - Îmbrățișați valul digital: creșterea influențelor AI https://pc-tablet.com/embrace-the-digital-wave-the-rise-of-ai-influencers/ You Dream AI - 10 exemple de influențatori AI pe Instagram (viitorul este aici) https://yourdreamai.com/ai-influencer-examples-on-instagram/ 43 Indicatori de avertizare pentru utilizator: • Profiluri fără urme de activitate în afara platformei respective; • Poze ”prea perfecte”, identice ca stil, cu fundaluri vagi sau imposibil de verificat; • Informații biografice inconsistente sau imposibil de verificat; • Ton ”excesiv de neutru”, constant și „corect”, fără fluctuații emoționale naturale; • Activitate prea intensă (postări zilnice, reacții rapide, comentarii 24/7). Măsuri de prevenire / protecție: • Verificăm existența persoanei din alte surse (ex: cautăm în presă, evenimente, declarații publice autentice); • Suntem suficient de sceptici când un „influencer nou” dispune rapid de un public numeros și un mesaj puternic repetitiv; • Nu consideram „credibilitatea socială” (ex: like-uri, comentarii) ca dovadă de autenticitate; • Rămânem atenți la puncelel în care „influencerul” începe să susțină idei partizane, extreme sau toxice – chiar dacă inițial părea echilibrat. I. Campanii orchestrate prin aplicații mobile cu AI integrat (ex: fake news, mobilizare, radicalizare) „Aplicația pare inofensivă. Dar în spate, AI-ul orchestrează o agendă invizibilă.” Descriere: În acest scenariu, o aplicație mobilă aparent benignă (ex: de știri, divertisment, educație, spiritualitate, comunitate, sau chiar de sănătate) integrează în fundal mecanisme AI de manipulare informațională. Aplicația devine o platformă de natură malignă, prin care sunt livrate conținuturi distorsionate, false sau ideologizate, cu scopul de a: • Influența opinii, • Dirija emoții, • Mobiliza utilizatorii în acțiuni colective sau • Radicaliza treptat anumite grupuri. Pentru că aplicația este „de încredere” (ex: descărcată dintr-un magazin online oficial, bine evaluat, poate chiar sponsorizată de entități obscure dar legitime aparent), utilizatorul nu suspectează nimic. Tehnici AI implicate: • LLMs – generarea automată a conținutului în funcție de profilul și comportamentul utilizatorului; • Feed personalizat controlat algoritmic – conținut adaptat în timp real pe baza reacțiilor; • Emotion AI – detectarea dispoziției utilizatorului și adaptarea mesajelor în funcție de starea emoțională; • Gamificare cu mecanici manipulative – premii, puncte sau mesaje emoționale care recompensează comportamente radicale sau obediente. Risc / Impact: • Răspândirea dezinformării sub forma „conținutului de încredere” – utilizatorul nu verifică sursa, deoarece percepe aplicația ca fiind sigură; • Mobilizare pe teme false sau inflamatoare – proteste, acțiuni de masă, reacții colective; 44  • Radicalizare ideologică graduală – de la conținut „soft” la convingeri extreme, prin expunere repetitivă și adaptivă; • Colectare masivă de date pentru profilare – comportamentale, sociale, politice sau religioase, fără consimțământ explicit; • Construirea de comunități închise, autoreferențiale, greu de penetrat de mesajele alternative. Context de apariție: • Aplicații promovate ca fiind „alternative” la media tradițională („adevărul pe care a