https://www.mapn.ro/utile/Ghid Inteligenta Artificiala.pdf

tru cursuri introductive despre AI, alfabetizare digitală și analiză critică. Campanii de manipulare analizate în Uniunea Europeană - https://www.euvsdisinfo.eu Inițiativă a Serviciului European de Acțiune Externă (EEAS), dedicată expunerii și demontării campaniilor de dezinformare. • Oferă o bază de date cu exemple de narative false, surse și canale de propagare; • Analizează tematic și geografic modul în care dezinformarea afectează statele membre UE; • Instrument important pentru jurnaliști, educatori, fact-checkeri și specialiști în comunicare strategică. Resurse educaționale pentru gândire critică media - https://www.commonsense.org/education Platformă non-profit cu resurse gratuite pentru educatori, părinți și elevi, axată pe dezvoltarea gândirii critice și a responsabilității digitale. • Include lecții structurate despre fake news, bias media, influență socială și responsabilitate online; • Adaptată pentru diferite vârste, cu materiale video, fișe de lucru și ghiduri pentru profesori; • Poate fi integrată în activități curriculare sau extra curriculare dedicate educației media și AI. Alte instrumente recomandate (pentru utilizare rapidă): • InVID Plugin – extensie de browser pentru analiză video și imagistică; • Deepware Scanner – verificare a autenticității fișierelor video / audio; • NewsGuard – evaluare automată a credibilității site-urilor de știri; • WhoTargetsMe – vizualizare și analiză a reclamelor politice direcționate pe social media. 52 Resurse educaționale recomandate FBI - Federal Bureau of Investigation AI Data Security – Best Practices • https://media.defense.gov/2025/May/22/2003720601/-1/- 1/0/CSI_AI_DATA_SECURITY.PDF CISA Roadmap for Artificial Intelligence • https://www.cisa.gov/sites/default/files/2025- 04/ARCHIVE_20232024CISARoadmapAI508.pdf AI Red Teaming: Applying Software TEVV for AI Evaluations • https://www.cisa.gov/news-events/news/ai-red-teaming-applying-software-tevv-ai- evaluations Serviciul Român de Informații – Centrul Național Cyberint Intelligence • https://intelligence.sri.ro/ Buletin Cyberint • https://www.sri.ro/categorii/publicatii/ DNSC - Directoratul Național de Securitate Cibernetică Deepfake și Inginerie Socială • https://www.dnsc.ro/vezi/document/dnsc-ghid-inginerie-sociala • https://www.dnsc.ro/vezi/document/dnsc-ghid-deepfake-organizatii Detectare falsuri • https://www.dnsc.ro/deepfake/ Poliția Română Deepfake utilizat de infractorii cibernetici • https://sigurantaonline.ro/deepfake-utilizat-de-infractorii-cibernetici-pentru- promovarea-unor-oportunitati-false-de-investitii-pe-retelele-sociale/ Test fraude online • https://quiz.sigurantaonline.ro/ Asociația de Securitate Cibernetică pentru Cloud (CSA_RO – Chapter al CSA) Responsabilități organizaționale în domeniul AI • https://cloudsecurityalliance.org/artifacts/ai-organizational-responsibilities-ai-tools- and-applications AI Controls Matrix • https://cloudsecurityalliance.org/artifacts/ai-controls-matrix Ghid strategic pentru implementarea AI • https://cloudsecurityalliance.org/artifacts/dynamic-process-landscape-a-strategic- guide-to-successful-ai-implementation Shadow Access and AI • https://cloudsecurityalliance.org/artifacts/shadow-access-and-ai Zero Trust and Artificial Intelligence Deployments 53  • https://cloudsecurityalliance.org/artifacts/confronting-shadow-access-risks- considerations-for-zero-trust-and-artificial-intelligence-deployments Agentic AI Red Teaming Guide • https://cloudsecurityalliance.org/artifacts/agentic-ai-red-teaming-guide Clusterul de Excelență în Securitate Cibernetică Cyber Security • https://www.prodefence.ro/financial-fraud-fake-news-the-role-of-artificial- intelligence-in-disseminating-and-combating-false-information/ 7 PREGĂTIRI PENTRU VIITORUL DEJA PREZENT În acest nou ecosistem digital, riscul nu mai vine doar din dezinformare sau atacuri externe, ci și din expunerea constantă la conținut personalizat, emoțional și adesea manipulator. Tocmai de aceea, prevenția nu se referă doar la tehnologie, ci la o igienă digitală conștientă, cultivată zilnic. Pentru a face față acestei realități, sunt relevante următoarele cinci direcții fundamentale: Educație digitală adaptată epocii AI Educația clasică privind siguranța online trebuie să evolueze înspre o nouă paradigmă: alfabetizarea perceptivă digitală. Aceasta presupune formarea utilizatorilor – de la elevi până la decidenți – în recunoașterea manipulării subtile, identificarea conținutului generat de AI și înțelegerea modului în care algoritmii influențează atenția, emoțiile și convingerile. În școli și instituții, vor fi necesare programe care includ: • noțiuni despre personalizarea algoritmică; • diferențierea între interacțiune umană și simulată; • exerciții de analiză critică a surselor digitale Reglementări clare și actualizate Tehnologiile de generare automată a conținutului evoluează mult mai rapid decât legislația. Din acest motiv este importantă adoptarea unor cadre normative clare care să: • interzică sau să reglementeze utilizarea conținutului manipulator creat de AI (ex: deepfake-uri în campanii electorale); • oblige platformele să eticheteze transparent conținutul generat automat; • impună responsabilitatea dezvoltatorilor AI pentru eventualele efecte negative ale aplicațiilor lor. Aceste reglementări trebuie să protejeze atât drepturile individuale, cât și echilibrul democratic. 54 Transparență algoritmică și audit etic Sistemele AI capabile să influențeze comportamentul uman (ex: platforme de social media, motoare de căutare, chatboți) trebuie să fie supuse unor audituri independente. Publicul are dreptul: • să știe ce date personale sunt analizate; • să înțeleagă de ce îi sunt afișate anumite tipuri de conținut; • să opteze pentru un feed nemodificat algoritmic. Totodată, instituțiile trebuie să susțină dezvoltarea unor standarde etice pentru AI, aplicate obligatoriu în educație, sănătate, justiție, politică etc. Colaborare multidisciplinară Problema manipulării perceptive nu este exclusiv tehnică. Avem nevoie de o abordare integrată în care să colaboreze: • specialiști în securitate cibernetică și AI; • psihologi și neurologi (pentru înțelegerea reacției emoționale); • educatori și formatori (pentru diseminarea critică a informației); • juriști și experți în drepturi digitale; • eticieni și sociologi (pentru analiză de impact social). Numai prin această colaborare vom putea înțelege efectele reale ale AI asupra societății și vom putea construi mecanisme eficiente de protecție. Instrumente accesibile de detecție și verificare La fel cum fiecare utilizator are acces la un motor de căutare sau un browser, în viitorul apropiat ar trebui să aibă acces și la: • un instrument de detectare deepfake instalat pe telefon, laptop etc.; • o extensie de browser care semnalizează conținutul generat de AI; • o aplicație de verificare rapidă a sursei sau autenticității informației. 8 CONCLUZII Inteligența artificială nu mai este o tehnologie în devenire, ci o forță invizibilă care structurează tot mai mult din ceea ce gândim, simțim și alegem. Într-un ecosistem digital hiperpersonalizat, unde conținutul este filtrat, emoțiile sunt măsurate, iar reacțiile sunt anticipate, riscul de influențare subtilă, dar sistematică, devine o realitate cu care ne confruntăm zilnic – adesea fără să știm. Manipularea informațională nu mai arată ca în trecut. Nu este zgomotoasă, evidentă sau brută. Este fin calibrată, contextuală, personalizată – un algoritm care știe ce să spună, când să o spună și în ce ton, pentru a obține reacția dorită. Iar sursa acestor ajustări este, de multe ori, chiar comportamentul nostru digital: ce căutăm, ce ne reține atenția, ce ne sperie, ce ne consolează. Această lucrare a urmărit să ofere o radiografie clară a modului în care AI-ul poate deveni un instrument de modelare perceptivă – prin tehnologie, prin psihologie, prin design conversațional. Mai mult decât un avertisment, ea propune și repere de igienă digitală și gândire critică, pentru a transforma utilizatorul pasiv într-un actor conștient al propriei realități informaționale. 55 9 GLOSAR DE TERMENI Tehnologie și AI • Inteligență artificială (IA / AI) – Simularea proceselor cognitive umane de către sisteme informatice capabile să învețe, să raționeze și să ia decizii autonome. • Rețele neuronale artificiale (deep learning) – Arhitecturi de algoritmi inspirați de creierul uman, utilizate pentru recunoașterea de tipare complexe în texte, imagini sau voci. • Machine Learning (învățare automată) – Ramură a AI care permite sistemelor să învețe și să se evolueze fără a fi programate explicit. • Large Language Models (LLMs) – Modele de procesare a limbajului natural, antrenate pe volume mari de date pentru a genera și interpreta text (ex: ChatGPT, Gemini). • Emotion AI / Machine learning afectiv – AI specializată în detectarea și interpretarea stărilor emoționale ale utilizatorilor. • NLP (Natural Language Processing) – Tehnologii care permit înțelegerea și generarea limbajului uman de către mașini. • GANs (Generative Adversarial Networks) – Rețele care pot genera imagini, sunete sau videoclipuri fals realiste. • Face Swapping – Tehnică de înlocuire a feței unei persoane într-un video sau imagine cu fața altei persoane. • Voice Cloning – Reproducerea artificială a vocii unei persoane reale cu ajutorul AI. • Lip-syncing AI – Ajustarea mișcărilor buzelor într-un video pentru a corespunde unei voci generate sau schimbate. • Synthmedia / Synth content – Conținut media creat integral de AI, fără intervenție umană. • Avataruri sintetice / AI avatars – Reprezentări grafice animate generate de AI care pot imita persoane reale. • Text-to-image models – AI care generează imagini pornind de la descrieri textuale. • Motion capture AI – Tehnologii AI care reproduc mișcările corporale pentru animarea realistă a avatarurilor. • Tacotron / WaveNet – Sisteme AI pentru sinteza vocii cu intonație și accent natural. • Midjourney / DALL·E / Stable Diffusion / LLaMA / Claude / Gemini / ChatGPT / Mistral – Nume de modele AI avansate utilizate pentru generare de text, imagini sau conversații simulate. Manipulare digitală • Manipularea perceptivă – Influențarea invizibilă a modului în care o persoană percepe realitatea, prin conținut personalizat sau simulat. • Manipulare algoritmică – Dirijarea comportamentului utilizatorului prin selecția automată a informațiilor afișate. • Bula informațională – Spațiu digital personalizat în care utilizatorul primește doar informații care îi confirmă convingerile existente. • Microtargeting psihografic – Livrarea de conținut emoțional personalizat, bazat pe profilul psihologic al utilizatorului. • Spear phishing automatizat – Atacuri personalizate cu mesaje înșelătoare, generate de AI, care par a fi expedite de persoane cunoscute. • Inginerie socială avansată – Folosirea AI pentru manipularea psihologică complexă în scopuri de fraudă, control sau influență. • Recomandare comportamentală predictivă – Folosirea AI pentru a anticipa și modela deciziile utilizatorului. 56  • Filtrarea conținutului – Excluderea automată a punctelor de vedere alternative pentru a consolida o anumită percepție. • Polarizare informațională – Separarea utilizatorilor în grupuri ideologice antagonice prin conținut direcționat. • Radicalizare digitală – Proces prin care AI stimulează convingeri extreme prin expunere constantă la conținut radical. • Simulare de consens social – Crearea artificială a impresiei că o opinie este susținută de majoritate. • Simulare empatică / chatbot empatic – Chatboți care imită empatia umană pentru a obține încredere și influență. • Influencer AI / influencer artificial – Conturi de rețea socială controlate de AI care simulează persoane reale pentru a genera influență. Educație și securitate digitală • Gândire critică digitală – Capacitatea de a analiza și evalua obiectiv conținutul digital. • Educație cibernetică – Instruirea în privința riscurilor și mecanismelor de protecție online. • Verificare factuală – Procesul de analiză a unei informații pentru a-i confirma veridicitatea. • Audit algoritmic – Evaluarea sistematică a modului în care funcționează și influențează un algoritm. • Transparență algoritmică – Dreptul utilizatorului de a ști cum sunt prelucrate datele și de ce primește un anumit conținut. • Reflex de verificare – Reacția automatizată de a valida informația înainte de a o crede sau distribui. • Igienă informațională – Ansamblu de practici pentru menținerea unui consum de informație sănătos și echilibrat. • Autoapărare informațională – Set de cunoștințe și tehnici prin care utilizatorul se protejează de manipulare și dezinformare. • Conținut generat de AI (AI-generated content) – Orice material creat automat de o inteligență artificială. • Etică AI – Ramură care analizează implicațiile morale ale dezvoltării și utilizării inteligenței artificiale 57 10 BIBLIOGRAFIE Associated Press. (2023). AI tools can fabricate disinformation easily. https://www.apnews.com/article/afb4618ff593db9e3e51ecbd91dc3eef Bitdefender - Atenție la escrocherii la angajare, https://www.bitdefender.com/en- us/blog/hotforsecurity/8-telegram-scams-how-not-to-get-scammed Centrul Euro-Atlantic pentru Reziliență - Barometrul rezilienței societale la dezinformare, https://e-arc.ro/wp-content/uploads/2022/05/Barometrul-rezilientei-societale-2022.pdf EuroNews - Oferte de locuri de muncă false, https://www.euronews.com/next/2023/10/23/behind-the-global-scam-worth-an-estimated- 100m-targeting-whatsapp-users-with-fake-job-offe Europa Liberă România. (2022). România și cenzura internetului. https://romania.europalibera.org/a/romania-si-cenzura-internetului/32092813.html European Commission. (2020). Fighting coronavirus disinformation. https://commission.europa.eu/strategy-and-policy/coronavirus-response/fighting- disinformation_ro/ EUvsDisinfo. (n.d.). Fighting disinformation. https://www.euvsdisinfo.eu Federal Trade Commission. (2023, July). Job offer through Telegram Messenger? Not so fast. https://consumer.ftc.gov/consumer-alerts/2023/07/job-offer-through-telegram-messenger-not- so-fast Financial Times. (2023). AI-generated spear phishing emails target executives. https://www.ft.com/content/d60fb4fb-cb85-4df7-b246-ec3d08260e6f/ France24 - Debunking a deepfake video of Zelensky telling Ukrainians to surrende, https://www.france24.com/en/tv-shows/truth-or-fake/20220317-deepfake-video-of-zelensky- telling-ukrainians-to-surrender-debunked Graphika. (n.d.). Reports. https://graphika.com/reports Hao, K. (2023, November 3). How fake news apps spread disinformation under the radar. MIT Technology Review. https://www.technologyreview.com/2023/11/03/apps-disinformation-misinformation-ai Hart, K. (2021, February 23). Memes misinformation and coronavirus. Axios. https://axios.com/2021/02/23/memes-misinformation-coronavirus-56/ House of Commons Digital, Culture, Media and Sport Committee. (2019). Disinformation and ‘fake news’: Final Report. UK Parliament. https://publications.parliament.uk/pa/cm201719/cmselect/cmcumeds/1791/1791.pdf MalwareBytes - AI-supported spear phishing fools more than 50% of targets. https://www.malwarebytes.com/blog/news/2025/01/ai-supported-spear-phishing-fools-more- than-50-of-targets Matz, S. C., Kosinski, M., Nave, G., & Stillwell, D. J. (2017). Psychological targeting as an effective approach to digital mass persuasion. Nature Human Behaviour, 1(9), 1-6. https://www.nature.com/articles/s41562-017-0099/ NewsGuard. (2023). AI-generated content tracker. https://www.newsguardtech.com/special-reports/ai-generated-content-tracker 58 PC Tablet - Îmbrățișați valul digital: creșterea influențelor AI, https://pc-tablet.com/embrace- the-digital-wave-the-rise-of-ai-influencers/ Persily, N. (2018). Digital Influence and Political Microtargeting. Journal of Democracy, 29(2), 64–78. https://muse.jhu.edu/article/690796/ Prodefence – A. Anghelus (2024, August). Financial Fraud & Fake News: The Role of Artificial Intelligence in disseminating and combating false information. https://www.prodefence.ro/financial-fraud-fake-news-the-role-of-artificial-intelligence-in- disseminating-a