https://www.mapn.ro/utile/Ghid Inteligenta Artificiala.pdf

e? • Obținerea de date sau acces neautorizat (ex: prin phishing conversațional, fraudă vocală); • Schimbarea convingerilor (ex: ideologice, religioase, politice); • Influențarea deciziilor de consum (ex: prin publicitate înșelătoare, exploatarea emoțională); • Subminarea încrederii în instituții, lideri sau media; • Manipularea în masă în contexte sensibile (ex: alegeri, crize sociale, conflicte geopolitice); • Divizarea comunităților prin polarizare, radicalizare sau dezinformare direcționată. 32 4.2 Scenarii de utilizare Prin mesaje aparent banale sau conversații prietenoase, prin articole convingătoare sau videoclipuri șocante, prin sfaturi false mascate în empatie, prin asistenți virtuali sau influenceri artificiali – toate gândite nu pentru a informa, ci pentru a influența fără transparență. Este important ca utilizatorii să conștientizeze, nu numai riscurile, ci și modurile în care se manifestă acestea concret, zilnic, în mod real. Încercăm să analizăm câteva situații în care AI- ul este deja folosit sau poate fi adaptat pentru a fi exploatat în ingineria socială și dezinformarea direcționată. A. Bula informațională asistată de Inteligența Artificială „Când AI-ul nu doar îți oferă ce vrei să vezi – ci te ține captiv într-o versiune confortabilă, dar distorsionată a realității.” Descriere: Acest scenariu a devenit un fenomen periculos și destul de frecvent întâlnit: izolarea utilizatorului într-o bulă informațională creată de algoritmi AI, în care conținutul afișat este exclusiv cel care îi confirmă convingerile, valorile și preferințele deja instalate la nivel de individ. Utilizatorul nu este forțat, păcălit sau amenințat. Dimpotrivă, primește zilnic un flux aparent „natural” și „relevant” de postări, articole, videoclipuri sau comentarii – dar toate converg în aceeași direcție ideologică, culturală sau emoțională. Așa cum am mai spus, pe termen lung această expunere selectivă conduce la radicalizarea percepției și individul ajunge să creadă că punctul său de vedere este universal, că opiniile contrare sunt eronate sau distorsionate, și că majoritatea celor din jur „văd lucrurile greșit”. Tehnici AI implicate: • Algoritmi de personalizare a feed-ului – care optimizează pentru „engagement” (nu pentru echilibru sau adevăr); • Sisteme de recomandare comportamentală – care repetă tipare de conținut similar; • Predicție emoțională – care afișează ceea ce maximizează reacția emoțională a utilizatorului; • Filtrarea invizibilă a alternativelor – eliminarea treptată a surselor contradictorii. Risc / Impact: • Radicalizare treptată a gândirii – utilizatorul își pierde capacitatea de a înțelege sau accepta alte puncte de vedere; • Susceptibilitate diminuată la dezinformare – conținutul fals este mai ușor de acceptat când „se aliniază” cu ce crede deja destinatarul; • Manipulare ideologică, politică sau economică – prin expunere unidirecțională în contexte precum alegeri, pandemii, conflicte sociale; • Fragmentare socială – grupuri care trăiesc în realități paralele, fiecare susținând „propriul adevăr” creat algoritmic. Context de apariție: • Platforme sociale (ex: Facebook, TikTok, YouTube, Instagram, X/Twitter); • Perioade de polarizare intensă (ex: alegeri, crize politice, războaie informaționale); • Campanii direcționate (ex: anti-vaccinare, pro-conspirații, anti-democratice, anti- globaliste); 33  • Public țintă: tineri activi online, vârstnici neinformați, persoane vulnerabile emoțional, utilizatori neantrenați în gândire critică digitală. Indicatori de avertizare pentru utilizator: • Vedem constant doar un singur tip de conținut sau idei care „sună prea bine”; • Nu mai recunoștem sursele „de cealaltă parte”; • Avem senzația că „toți ceilalți gândesc ca noi”; • Devenim agresivi sau respingem instinctiv opinii diferite. Măsuri de prevenire / protecție: • Căutăm activ conținut contrar opiniilor noastre – chiar și numai pentru a le înțelege; • Diversificăm sursele și platformele de pe care ne informăm; • Folosim periodic navigare „nepersonalizată” (ex: incognito, fără date de acces sau personale); • Suntem conștienți că algoritmii nu optimizează pentru adevăr, ci pentru atenție și reacție. B. Boți conversaționali pentru fraudă sau recrutare falsă „Nu toate conversațiile naturale sunt umane. Unele sunt antrenate să te păcălească.” Descriere: În acest scenariu, un chatbot AI conversațional, aparent legitim, inițiază o interacțiune cu utilizatorul sub un pretext credibil: ofertă de angajare, sprijin financiar, mentorat profesional sau consiliere personală. Dialogul pare autentic, coerent, empatic – exact cum te-ai aștepta din partea unui specialist în resurse umane, a unui coleg sau a unui partener de încredere. Pe parcursul conversației, utilizatorul este încurajat să ofere informații personale, documente, acces la conturi, sau să inițieze o acțiune riscantă – toate sub aparența unei relații sincere și profesioniste. Pentru că AI-ul simulează empatia și încrederea, victima nu realizează că interacționează cu un sistem automat de manipulare conversațională, nu cu un om. Tehnici AI implicate: • Large Language Models (LLMs) – conversație naturală, adaptivă și convingătoare (ex: ChatGPT, Claude, Gemini); • Profilare comportamentală – analiza limbajului utilizatorului în timp real pentru personalizarea mesajului; • Voice Cloning AI (în cazul apelurilor audio automate) – simularea vocii unei persoane cunoscute; • Simulare de interfață umană – imagini / avataruri + nume, logo și mesaje automate credibile. Risc / Impact: • Furt de identitate și date sensibile – CV, CNP, adrese, copii acte de identitate, istoric medical; • Fraudă financiară – solicitare de taxe false de recrutare, deschiderea unor conturi bancare frauduloase; • Acces la infrastructura companiei – în cazul în care victima oferă credențiale sub pretextul unui onboarding; • Manipulare emoțională – uneori, conversația devine afectivă și clădește treptat sentimentul de încredere profundă, mai ales în cazul utilizatorilor vulnerabili. 34 Context de apariție: • Rețele profesionale (ex: LinkedIn, pagini pentru cariere, aplicații specializate pentru joburi); • Mesaje directe (ex: emailuri, chat pe social media, WhatsApp, Telegram); • Aplicații de chat cu asistenți virtuali integrați în site-uri false; • Perioade de instabilitate economică – când promisiunile de angajare au impact mai mare. Exemplu real: În 2023-2024, zeci de victime din Europa de Est au fost abordate pe Telegram de „recrutori IT” care le ofereau joburi la distanță. După o conversație „naturală”, erau trimise linkuri către site-uri false care imitau platforme cunoscute, unde li se solicitau date personale și documente. În spate se afla un sistem AI conversațional care prelua automat dialogul, fără intervenție umană, acest aspect fiind reliefat și în presă.1 Indicatori de avertizare pentru utilizator: • Interlocutorii evită întrebări directe de validare (ex: „Cine e superiorul tău?”, „Unde pot suna?”); • Limbajul este impecabil, dar fără detalii reale despre poziție, firmă sau proces; • Orice refuz este întâmpinat cu insistență empatică (ex: „Te înțeleg perfect, dar...”, „E o șansă rară…”); • Se solicită rapid documente sau acces la date fără proces oficial. Măsuri de prevenire / protecție: • Nu trimitem niciodată documente personale fără confirmarea identității reale a recrutorului; • Căutăm informații independente despre companie, job și persoana de contact; • Verifică dacă mesajele conțin formulări generice, inconsecvențe sau presiune subtilă. • Nu intrăm în conversații sensibile cu entități care refuză validarea prin canale multiple (ex: voce, email oficial, pagină verificată); • Dacă pare prea simplu și rapid să fie adevărat – probabil este o schemă AI. C. Generare de materiale false hiperrealiste (deepfake) „O imagine face cât o mie de cuvinte. Dar ce se întâmplă când imaginea e o minciună fabricată perfect?” Descriere: În acest scenariu, atacatorii folosesc inteligența artificială vizuală pentru a genera conținut video sau audio complet fals, dar realist, credibil – înfățișând persoane reale (ex: politicieni, influenceri, lideri religioși, jurnaliști, colegi de muncă etc.) care apar în ipostaze în care nu au fost în realitate niciodată. Materialul este difuzat într-un moment ales strategic – de exemplu, înaintea unui proces electoral, în contextul unei crize sociale, pentru a discredita sau pentru a susține o persoană etc. 1 EuroNews - Oferte de locuri de muncă false :https://www.euronews.com/next/2023/10/23/behind-the-global- scam-worth-an-estimated-100m-targeting-whatsapp-users-with-fake-job-offe Bitdefender - Atenție la escrocherii la angajare https://www.bitdefender.com/en-us/blog/hotforsecurity/8-telegram-scams-how-not-to-get-scammed 35 Chiar dacă ulterior este demontat, impactul inițial poate fi hotărâtor, deoarece percepția emoțională precede verificarea rațională. Tehnici AI implicate: • Deepfake video (ex: face-swapping, lip-sync AI) – sincronizare realistă a buzelor și mimicii; • Voice cloning – imitarea perfectă a vocii unei persoane reale; • AI pentru generare de imagine/video (ex: D-ID, Synthesia, DeepFaceLab); • Sisteme text-to-video – transformarea unui text într-un videoclip aparent autentic cu un „orator real”. Risc / Impact: • Dezinformare masivă – publicul crede o afirmație falsă, având ca personaj central o „figură cu autoritate”; • Șantaj și compromitere – materiale false folosite pentru intimidare sau discreditare; • Panică socială – prin declarații false privind războaie, pandemii, atacuri, acte teroriste; • Distrugerea încrederii în informație vizuală – pe termen lung, oamenii devin sceptici și față de materialele reale („totul poate fi trucat”). Context de apariție: • Campanii electorale și politice; • Crize diplomatice, conflicte armate, proteste sociale; • Campanii de defăimare personală sau profesională (ex: business, influenceri, mass- media); • Platforme cu distribuție rapidă (ex: TikTok, WhatsApp, Telegram, Facebook). Exemplu real: Așa cum s-a menționat în mai multe articole de presă, în 2022, a circulat pe rețele sociale un videoclip în care președintele unui stat „își anunța retragerea și capitularea”. Materialul era un deepfake bine realizat, difuzat de canale partizane în încercarea de a demoraliza publicul țintă. A fost demontat rapid, dar milioane de oameni îl vizualizaseră deja2. Indicatori de avertizare pentru utilizator: • Mișcări ușor nenaturale ale feței, ochilor sau vocii; • Calitate video prea bună pentru surse obscure; • Declarații șocante, fără acoperire în media oficială; • Difuzare exclusivă în grupuri închise sau canale partizane; • Lipsa sursei originale sau a unui context verificabil. Măsuri de prevenire / protecție: • Nu distribuim materiale „senzaționale” fără verificare multiplă; • Verificăm autenticitatea vizuală cu instrumente ca [InVID], [Deepware], [Sensity]; • Comparăm declarația cu alte surse oficiale, transcripturi, versiuni video alternative; 2 France24 - Debunking a deepfake video of Zelensky telling Ukrainians to surrende https://www.france24.com/en/tv-shows/truth-or-fake/20220317-deepfake-video-of-zelensky-telling-ukrainians- to-surrender-debunked Reuters - Deepfake footage purports to show Ukrainian president capitulating https://www.reuters.com/world/europe/deepfake-footage-purports-show-ukrainian-president-capitulating-2022- 03-16/ 36  • Suntem atenți la timing-ul strategic al apariției: dacă e prea bine articulat pentru a destabiliza – poate fi fabricat; • Ne educăm rețeaua – explicăm și altora că realismul vizual nu mai garantează autenticitatea. D. Mesaje personalizate de influență (microtargeting AI) „Când AI-ul știe exact ce să-ți spună, cum și când – ca tu să crezi că ai ales singur.” Descriere: În acest scenariu, atacatorii sau operatorii unei campanii folosesc AI pentru a crea idei ultra- personalizate, direcționate exact către persoane sau grupuri țintă, pe baza unui profil psihologic și comportamental avansat. Acestea nu sunt doar convingătoare – sunt proiectate special pentru a influența și declanșa reacția exact dorită, fie că este vorba de un vot, o achiziție, o opinie politică sau o acțiune concretă. Mesajul poate lua forma unei postări, reclame, articol, videoclip sau chiar conversație 1-la-1, și este livrat în momentul optim, în contextul emoțional potrivit, cu scopul de a maximiza eficiența manipulării. Tehnici AI implicate: • Microtargeting psihografic – identificarea stilului cognitiv, valorilor și vulnerabilităților utilizatorului; • Rețele neuronale predictive – pentru a anticipa răspunsul cel mai probabil; • Generare de conținut adaptiv (ex: text, voce, video, imagine); • Sisteme de livrare algoritmică – care ajustează frecvența și momentul livrării mesajului în funcție de comportamentul în timp real. Risc / Impact: • Influențarea deciziilor aparent libere, care sunt de fapt dirijate subtil de stimuli personalizați; • Manipulare electorală – votanții sunt influențați diferit, în funcție de profilul lor emoțional; • Exploatarea vulnerabilităților personale – ex: depresie → oferte salvatoare, teamă → propagandă agresivă; • Modelarea tăcută a comportamentului colectiv – fără ca oamenii să știe că au fost influențați. Context de apariție: • Campanii politice și ideologice; • Publicitate comercială agresivă (inclusiv „produse salvatoare” dubioase); • Manipulare în masă pe rețele sociale; Atacuri direcționate împotriva unor grupuri demografice specifice (ex: vârstnici, tineri, părinți, persoane afectate emoțional). Exemplu real: În campanii din 2016, în contextul de analiză psihografică (ex: Cambridge Analytica), așa cum susțin unii analiști, s-au folosit datele personale ale utilizatorilor Facebook pentru a crea reclame politice ultra-direcționate. Un alegător anxios primea mesaje legate de haos, unul 37 conservator – despre pierderea valorilor, iar unul indecis – despre instabilitate sau frustrare economică. Fiecare mesaj era unic, dar convergea spre aceeași alegere de vot3. Indicatori de avertizare pentru utilizator: • Primim reclame sau postări care sunt ecoul „gândurile noastre”; • Simțim că „toată lumea e de acord” cu ceea ce credem noi; • Suntem atrași de cauze, produse sau idei ce ne-au fost sugerate într-un moment de vulnerabilitate; • Nu am găsit aceste mesaje în alte conturi sau la alți utilizatori – sunt direcționate exclusiv către noi. Măsuri de prevenire / protecție: • Nu presupunem că ceea ce vedem online văd și alții (”ceilalți”) – comparăm cu surse independente; • Evităm să ne formăm opiniile exclusiv din reclame, feed-uri personalizate sau mesaje „coincidente”; • Reducem vizibilitatea publică a profilului personal și evităm completarea de chestionare psihologice sau teste de personalitate online; • Folosim extensii anti-tracking, browsere private și filtre care limitează țintirea algoritmică; • Ne întrebăm mereu: „De ce ni se spune asta nouă acum și în acest fel?” E. Declanșarea controlată a emoțiilor (exploatarea emoțiilor negative de către AI) „Furia, frica și anxietatea nu sunt doar reacții – sunt și instrumente.” Descriere: Acest scenariu abordează utilizarea intenționată a emoțiilor negative (ex: frica, furia, panica, rușinea sau indignarea) ca instrumente de manipulare algoritmică. Sistemele AI afective, care pot detecta stările emoționale ale utilizatorului prin analiză comportamentală, expresii faciale, tonul vocii sau istoricul de interacțiune, sunt capabile să declanșeze și să mențină aceste stări pentru a: • crește angajamentul (engagement), • influența decizii rapide și impulsive, • orienta utilizatorul spre acțiuni predefinite (vot, donație, protest, achiziție). AI-ul nu creează emoția din nimic – ci o alimentează progresiv, oferind conținut care o întărește și o legitimează: postări alarmiste, știri negative, videoclipuri agresive sau mesaje care stârnesc indignarea morală. Tehnici AI implicate: • Emotion AI / machine learning afectiv – detectarea stării emoționale în timp real; • Feed adaptiv emoțional – livrarea de conținut personalizat pentru a amplifica o emoție dominantă; • Modelare comportamentală predictivă – identificarea momentelor când utilizatorul este mai vulnerabil (ex: târziu, după eșecuri, în criză personală); 3 The Spectator - The real story of Cambridge Analytica and Brexit https://www.spectator.co.uk/article/were-there-any-links-between-cambridge-analytica-russia-and-brexit/ The Gurdian - Cambridge Analytica did work f