https://www.mapn.ro/utile/Ghid Inteligenta Artificiala.pdf

ACȚIONEAZĂ Inteligența Artificială & Manipularea Percepției Umane - DECIDE Programul educațional "Analizează – Decide - Acționează" – ANALIZEAZĂ Mircea Constantin ȘCHEAU Alexandru Ciprian ANGHELUȘ 1  EDUCAȚIA CIBERNETICĂ FUNDAMENTUL PROTECȚIEI DIGITALE Într-o lume în care tehnologia evoluează mai rapid decât capacitatea utilizatorilor de a-i înțelege riscurile, educația cibernetică devine unul dintre pilonii siguranței personale și organizaționale. Indiferent dacă discutăm despre utilizatori individuali, angajați, elevi sau lideri decizionali, nu putem să nu luăm în calcul că toți suntem expuși zilnic la amenințări digitale din ce în ce mai sofisticate. Cunoașterea este armă și armură în același timp. Prevenția începe cu înțelegerea. Prin formare continuă, vigilență și aplicare practică a cunoștințelor, putem reduce efectul atacurilor și putem proteja valorile comune: încrederea, intimitatea și integritatea. Programul educațional ADA - "Analizează – Decide - Acționează" Gândire critică, responsabilitate digitală și protecție activă în era riscurilor cibernetice Într-o eră digitală aflată într-o transformare accelerată, unde tehnologia aduce atât oportunități, cât și amenințări, securitatea utilizatorilor devine o prioritate. Atacurile cibernetice moderne exploatează nu doar vulnerabilitățile tehnice, ci mai ales pe cele umane: lipsa de informare, absența vigilenței, supraîncărcarea informațională sau încrederea nefondată în aparențe. „Analizează – Decide – Acționează” este un program educațional dedicat creșterii rezilienței digitale personale și colective, prin conștientizare, formare practică și dezvoltarea unei gândiri critice adaptate noilor tipuri de agresiuni informaționale. Seria de materiale din acest program se adresează: • publicului larg (adulți, seniori, părinți, tineri), • copiilor și adolescenților (în context educațional), • funcționarilor publici și profesioniștilor, • cadrelor de conducere și celor implicați în luarea deciziilor. Scopul programului este de a transforma informația în instrument de apărare, iar utilizatorul – din țintă pasivă, în actor conștient și activ în fața riscurilor digitale. Prin aceste materiale ne propunem: • creșterea gradului de conștientizare și precauție individuală și instituțională; • diminuarea impactului atacurilor digitale prin educație și reacție rapidă; • încurajarea culturii de raportare, colaborare și solidaritatea între utilizatori și specialiști; • formarea unui comportament digital responsabil, în linie cu politicile și reglementările în vigoare. Proiectul reprezintă un efort susținut de alfabetizare cibernetică, construit pe principii de accesibilitate, aplicabilitate și actualizare constantă, pentru a răspunde dinamicii riscurilor reale din spațiul virtual. 2  PARTENERI Rezumat Lucrarea explorează moduri în care Inteligența artificială (IA/ AI) este exploatată pentru a influența percepția și pentru a distorsiona realitatea. Fenomenul este analizat prin prisma mecanismelor algoritmice de personalizare, generare de conținut fals credibil (ex: deepfake, voice cloning, text AI-generated etc.), stimulare conversațională și modelare emoțională predictivă. Scenariile prezentate, în care sunt utilizate tehnici de dezinformare și manipulare ideologică în construcții artificiale sociale, fraude emoționale și atacuri conversaționale automatizate, au rol de exemplificare. Tehnologiile specifice (ex: LLMs, GANs, Emotion AI, feed-uri personalizate, microtargeting) și riscuri sistemice asociate la care se face trimitere, sunt valabile la momentul elaborării prezentului material. Pe lângă componenta descriptivă, lucrarea oferă un cadru necesar dezvoltării gândirii critice, fiind prezentate metode concrete de detecție, prevenție și reacție, destinate publicului larg, instituțiilor și formatorilor educaționali. Astfel, documentul se constituie astfel într-un instrument de conștientizare în fața unor forme de inginerie socială automatizată, personalizată și extrem de greu perceptibilă. Cuvinte-cheie Inteligență Artificială, manipulare, dezinformare digitală, algoritmi, deepfake, spear phishing, educație, media, securitate. *Documentul conține termeni tehnici și denumiri standard în mod intenționat, pentru ca toți cititorii să asimileze aceste informații. 3  Mesaj către cititori Inteligența artificială nu este bună sau rea. Este un instrument. Unul deosebit de puternic. Capabil să învețe din informațiile pe care i le oferim, să reacționeze la stimulii și să producă rezultate în funcție de scopul celor care îl controlează. În mâinile potrivite, AI-ul poate salva vieți, îmbunătăți educația, combate frauda, preveni atacuri cibernetice și susține dezvoltarea societății. În mâini criminale – sau doar iresponsabile – aceeași tehnologie poate fi injectată pentru manipulare, control, înșelătorie, programare ideologică și destabilizare socială. Tocmai de aceea putem considera că educația este una dintre cele mai potrivite forme de protecție. Dacă înțelegem cum funcționează, putem recunoaște mai ușor când și cum este folosită împotriva noastră. Acest ghid nu are scopul a speria ci doar de a ne pregăti, iar pregătirea începe cu un adevăr simplu: Inteligența artificială este o unealtă. Puterea și / sau pericolul sunt în mâinile celor care o folosesc. Autorii Manipularea Percepției Umane a trecut prin diferite etape de-a lungul istoriei și în acest sens, Inteligența Artificială se dovedește un instrument eficace și potent în mâinile grupărilor infracționale, tot mai active. O corectă analiză și o bună sursă de informare pot fi ingredientele de succes în efortul legitim de a contracara actorii malițioși, de a limita vulnerabilitățile și de a diminua impactul negativ și pagubele. Lucrarea este echilibrată, bine structurată și oferă o perspectivă realistă și clară asupra fenomenului. Chiar în contextul unei evoluții rapide a tehnologiilor informaționale, mecanismele de alterare emoțională rămân, totuși, aceleași. Filtrarea cognitivă a conținutului fals poate fi un răspuns în fața avalanșei de algoritmi și boți conversaționali. Antrenarea gândirii critice digitale este absolut necesară pentru a evita profilarea comportamentală predictivă și modelarea malițioasă a deciziilor utilizatorului. Analizele sunt destinate publicului larg, profesioniștilor și profanilor deopotrivă. Ghidul pune accent pe latura practică a problematicilor și face trimitere la surse oferite de organisme și instituții relevante, cu atribuții în domeniu. Efortul comun a condus la elaborarea prezentului studiu, unul dintre deziderate fiind creșterea rapidă a nivelului de conștientizare și prin aceasta, consolidarea culturii de securitate cibernetică și a rezilienței. Directoratul Național de Securitate Cibernetică (DNSC) Criminalitatea informatică se află într-o continuă evoluție, pe fondul dezvoltării accelerate a tehnologiilor digitale și al extinderii utilizării internetului în viața de zi cu zi. Aceste transformări aduc beneficii semnificative, dar și riscuri sporite pentru utilizatori. Inteligența Artificială (IA) are un impact tot mai pronunțat asupra societății, influențând modul în care interacționăm în mediul digital. Înțelegerea mecanismelor de bază ale IA și a modului în care aceasta poate fi folosită în scopuri frauduloase contribuie esențial la prevenirea criminalității informatice. Prezentul ghid, elaborat în sprijinul activităților de prevenire, se adresează atât publicului larg, cât și profesioniștilor, oferind repere utile pentru o utilizare responsabilă și sigură a tehnologiilor digitale. Institutul de Cercetare și Prevenire a Criminalității 4  CUPRINS 1. NOȚIUNI GENERALE ..................................................................................................... 7 1.1 Ce este Inteligența Artificială ........................................................................................ 7 1.2 Percepția umană și Inteligența Artificială ...................................................................... 7 1.3 De ce este importantă înțelegerea mecanismelor din spatele AI-ului ............................ 8 2 ELEMENTE TEHNICE ȘI MECANISME ....................................................................... 9 2.1 Tehnologii implicate .................................................................................................... 10 A. Rețele neuronale artificiale (deep learning) ................................................................. 10 B. Large Language Models (LLMs) (ex: ChatGPT, Gemini, Claude, Mistral etc) .......... 13 C. Machine Learning Afectiv (Emotion AI) – detectarea și manipularea emoțiilor ........ 14 D. AI vizual – imagini, video, deepfake, avataruri sintetice ............................................ 16 2.2 Mecanisme de manipulare perceptivă .......................................................................... 17 A. Algoritmi de știri (feed) personalizat ........................................................................... 17 B. Microtargeting psihografic – influențarea personalizată a percepției și comportamentului ............................................................................................................. 19 C. Generare de conținut fals credibil – iluzia realității algoritmice.................................. 20 D. Automatizarea conversației și manipulării prin boți avansați...................................... 21 3 MANIPULAREA PERCEPȚIEI CU AJUTORUL INTELIGENȚEI ARTIFICIALE .... 22 3.1 Definirea contextului ................................................................................................... 23 3.2 Mecanisme de captare a atenției utilizatorului și pentru manipularea cognitivă a acestuia ................................................................................................................................. 24 A. Filtrarea conținutului – ascunderea perspectivelor alternative .................................... 25 B. Clasificarea emoțională a utilizatorului – generarea de conținut adaptat stării emoționale ........................................................................................................................ 26 C. Crearea de conținut fals credibil – afectarea percepției realității ................................. 27 D. Simularea empatiei și încrederii – obținerea ascultării și influențarea sentimentului de loialitate ............................................................................................................................ 28 E. Recomandare comportamentală predictivă – modelarea deciziilor utilizatorului........ 30 4 AI ÎN INGINERIA SOCIALĂ ȘI DEZINFORMARE .................................................... 31 4.1 Utilizarea în scopuri malițioase ................................................................................... 32 4.2 Scenarii de utilizare.................................................................................................. 33 A. Bula informațională asistată de Inteligența Artificială ................................................ 33 B. Boți conversaționali pentru fraudă sau recrutare falsă ................................................. 34 C. Generare de materiale false hiperrealiste (deepfake) ................................................... 35 D. Mesaje personalizate de influență (microtargeting AI) ............................................... 37 E. Declanșarea controlată a emoțiilor (exploatarea emoțiilor negative de către AI) ........ 38 F. Atacuri de tip spear phishing automatizat cu conținut AI ............................................ 40 5  G. Simulare de consens public prin rețele de conturi și boți AI ....................................... 41 H. Crearea de personaje publice artificiale pentru manipulare și influență...................... 43 I. Campanii orchestrate prin aplicații mobile cu AI integrat (ex: fake news, mobilizare, radicalizare) ...................................................................................................................... 44 J. Influențarea educației prin AI – resurse, platforme sau „mentori” care distorsionează adevărul ............................................................................................................................ 45 5 METODE DE PREVENIRE ............................................................................................ 47 5.1 Pentru utilizatorii individuali ....................................................................................... 48 A. Antrenează gândirea critică digitală......................................................................... 48 B. Verifică sursa și contextul conținutului ................................................................... 48 C. Recunoaște manipularea algoritmică ....................................................................... 49 D. Folosește unelte de detectare AI / deepfake ............................................................. 49 5.2 Pentru organizații ..................................................................................................... 49 A. Antrenamente de recunoaștere și prevenire a manipulării bazate pe AI .................. 50 B. Politici de validare multisursă .................................................................................. 50 C. Monitorizare reputațională automată și manuală ..................................................... 50 D. Colaborare cu experți, fact-checkeri și organizații specializate ............................... 51 6 RESURSE ȘI ADRESE UTILE ....................................................................................... 51 7 PREGĂTIRI PENTRU VIITORUL DEJA PREZENT.................................................... 54 8 CONCLUZII..................................................................................................................... 55 9 GLOSAR DE TERMENI ................................................................................................. 56 10 BIBLIOGRAFIE .............................................................................................................. 58 6 1. NOȚIUNI GENERALE 1.1 Ce este Inteligența Artificială Inteligența artificială (IA) reprezintă un ansamblu de tehnologii informatice capabile să simuleze procese de gândire umană – precum învățarea, raționamentul, percepția și luarea deciziilor. Cele mai cunoscute tipuri includ: învățarea automată (machine learning), rețelele neuronale profunde (deep learning), procesarea limbajului natural (NLP), recunoașterea vizuală, precum și modelele generative (ex: ChatGPT, DALL·E, Gemini, Claude etc.). Spre deosebire de algoritmii clasici, IA modernă nu urmează un set fix de reguli, ci „învață” din seturi de date și se adaptează comportamentului uman. Modelele avansate, precum cele generative, pot crea texte, imagini, voci sau chiar videoclipuri aproape imposibil de deosebit de cele reale. Aceste capacități oferă beneficii extraordinare – de la automatizare la educație și cercetare – dar implică și riscuri semnificative, în special în sfera manipulării informației, încrederii și emoțiilor umane. 1.2 Percepția umană și Inteligența Artificială În literatura de specialitate din limba engleză Inteligența Artificială se traduce prin Artificial Intelligence și de aceea se va utiliza în text acronimul AI. Inteligența artificială (AI) nu mai este doar un instrument al viitorului – este o parte activă a prezentului nostru digital. Fie că vizionăm un videoclip pe o platformă de streaming, citim o știre online sau purtăm o conversație cu un asistent virtual, există o probabilitate destul de ridicată ca în fundal să ruleze un algoritm de inteligență artificială care decide ce vedem, ce auzim și chiar cum ar trebui să interpretăm realitatea interpretăm realitatea. 7 La baza acestor procese se află capacitatea AI-ului de a analiza comportamente umane, de a învăța din datele colectate și de a genera conținut sau răspunsuri care imită sau stimulează reacțiile umane autentice. Aceste caracteristici au aplicații valoroase în medicină, educație sau automatizare, dar există și un revers periculos: riscul de manip