https://www.mapn.ro/utile/Ghid Inteligenta Artificiala.pdf

lții îl ascund”); • Aplicații pentru părinți, educație alternativă, spiritualitate, sănătate naturală; • Platforme de chat sau rețele sociale noi, cu promisiuni de genul „libertate de exprimare totală”; Campanii sponsorizate indirect de actori politici sau grupuri de influență netransparente. Exemplu real: În mai multe țări, aplicații mobile care pretindeau că oferă „știri necenzurate” au fost descoperite ca fiind controlate de rețele de propagandă partizane. Utilizatorii erau treptat expuși la narative false despre elite globale, conspirații sanitare sau apeluri la revoltă împotriva autorității. Totul, printr-o ”interfață curată” și cu o mască de profesionalism, așa cum a fost prezentată situația și în presă8. Indicatori de avertizare pentru utilizator: • Aplicația oferă „adevăruri exclusive” sau promite să „te trezească”; • Lipsa surselor clare sau invocarea constantă a unor „sisteme ascunse care ne mint”; • Creșterea emoțiilor negative după utilizare (ex: frustrare, teamă, neîncredere totală în instituții); • Recomandări care conduc spre grupuri închise, forumuri radicalizate sau apeluri la acțiune „urgentă”; • Notificări frecvente, insistente, legate de crize, trădări, comploturi etc. Măsuri de prevenire / protecție: • Verificăm dezvoltatorul și sursa aplicației – cine o controlează, ce scopuri are; • Verificăm dacă informațiile oferite sunt susținute și de alte surse independente; • Suntem atenți la sentimentele generate de aplicație – dacă emoțiile negative sunt frecvente, acesta poate fi un semnal de manipulare; • Dezinstalăm aplicațiile care ne oferă doar o singură perspectivă / doar un unghi de vedere și ne cultivă neîncrederea absolută față de orice altceva; • Învățăm să identificăm narativele de control bazate pe frică, ură sau superioritate morală unilaterală. J. Influențarea educației prin AI – resurse, platforme sau „mentori” care distorsionează adevărul „Nu toate lecțiile vin din manuale – și nu toți profesorii sunt umani sau imparțiali.” 8 Zimperium - Fake BBC News App: Analysis, https://zimperium.com/blog/fake-bbc-news-app-analysis 45 Descriere: În acest scenariu, AI este folosit pentru a influența negativ formarea tinerilor, a elevilor sau a publicului general prin resurse educaționale distorsionate, părtinitoare sau complet false, livrate sub forma unor: • Platforme de învățare, • Aplicații educaționale, • Chatbot-uri cu rol de „mentori” digitali, • Videoclipuri didactice AI-generated, • „Cursuri” alternative promovate ca fiind mai „autentice” decât cele din sistemul formal. Aceste instrumente pot părea utile și inovatoare, dar sunt programate să includă intenționat narative manipulatoare, teorii nevalidate sau viziuni ideologice mascate drept „adevăruri ascunse”. Tehnici AI implicate: • LLMs – generare automată de răspunsuri, explicații și lecții în funcție de întrebările elevului; • Text-to-video + avatar AI – lecții video prezentate de „profesori” artificiali, convingători, dar inexistenți; • Sisteme adaptive – care ajustează conținutul în funcție de nivelul, stilul cognitiv și emoțiile elevului; • Microtargeting educațional – livrarea de „resurse” diferite pentru utilizatori cu profiluri ideologice diferite. Risc / Impact: • Modelarea incorectă a gândirii tinerilor – prin expunere repetată la informație manipulată, falsă sau ideologizată; • Distrugerea încrederii în educația formală – în favoarea unor „sisteme alternative” controlate netransparent; • Răspândirea conspirațiilor și pseudoștiinței sub pretext educațional; • Polarizare ideologică timpurie – elevii ajung să fie programați să respingă automat anumite valori, teorii sau autorități științifice; • Crearea de generații „antrenate” pentru obediență digitală, nu pentru gândire critică. Context de apariție: • Platforme de e-learning neacreditate, dar care devin populare în rândul tinerilor; • Canale video de „cultură generală” cu agendă ascunsă; • Aplicații mobile de „dezvoltare personală” care deviază spre dogmă sau activism radical; • Chatboți de „ajutor la teme” care oferă răspunsuri părtinitoare, greșite sau speculative. Exemplu real: În 2023, UNESCO a tras un semnal de alarmă privind pericolul pe care inteligența artificială îl reprezintă pentru memoria colectivă a Holocaustului. Organizația a documentat modul în care anumite modele de AI – inclusiv motoare de căutare, sisteme conversaționale și instrumente generative – oferă rezultate inexacte, revizioniste sau profund distorsionate atunci când 46 utilizatorii caută informații despre Holocaust, acest aspect fiind publicat și pe site-ul oficial al instituției9. Indicatori de avertizare pentru utilizatori: • Aplicația sau platforma are o abordare „alternativă”, dar respinge complet sistemele academice consacrate; • Lecțiile conțin frecvent expresii ca „ce nu vrea nimeni să știi”, „adevărul ascuns” sau „manualele mint”; • Răspunsurile AI sunt livrate cu ton autoritar, fără menționarea surselor; • Profesorul digital promovează constant o anumită viziune ideologică, antiștiințifică sau conspiraționistă; • Feedbackul nu încurajează gândirea critică, ci aderarea la o linie narativă prestabilită. Măsuri de prevenire / protecție: • Folosim platforme educaționale transparente, acreditate, cu conținut verificabil; • Solicităm AI-ului surse pentru afirmațiile pe care le susține – și le verificăm; • Nu folosim un singur canal educațional – comparăm răspunsurile și sursele între aplicații; • Încurajeazăm întrebările, dezbaterea, îndoiala constructivă – nu acceptăm pasiv o „lecție predată”; • Antrenăm elevii în educație media și AI literacy, pentru a recunoaște conținutul manipulator. 5 METODE DE PREVENIRE Prevenția în era AI nu mai înseamnă doar instalarea unui antivirus sau evitarea site-urilor dubioase. Înseamnă cultivarea unor obiceiuri digitale sănătoase, dezvoltarea gândirii critice și înțelegerea modului în care funcționează algoritmii care ne însoțesc zilnic în mediul online. Nu ne confruntăm doar cu o problemă tehnologică, ci cu una cognitivă și socială. În acest capitol, propunem o serie de măsuri practice – nu exhaustive, dar relevante – pentru utilizatori individuali, educatori, instituții și dezvoltatori de tehnologie. 9 UNESCO - AI și Holocaustul: rescrierea istoriei? Impactul inteligenței artificiale asupra înțelegerii Holocaustului https://www.unesco.org/en/articles/ai-and-holocaust-rewriting-history-impact-artificial-intelligence- understanding-holocaust 47 Scopul nu este doar de protecția pasivă, ci de dezvoltare a unei culturi privind vigilența digitală – în care fiecare utilizator devine activ, critic și conștient de mecanismele invizibile ce îi pot influența percepția și comportamentul. 5.1 Pentru utilizatorii individuali „Nu ești neputincios în fața manipulării algoritmice – dar trebuie să înveți să recunoști și să reacționezi corect.” Inteligența artificială poate manipula subtil, convingător și invizibil. Dar publicul larg are la dispoziție metode concrete și eficiente pentru a-și proteja autonomia cognitivă și încrederea în realitate. Această secțiune prezintă un set de practici simple, dar importante, pentru a recunoaște, respinge și combate influența abuzivă a AI-ului asupra percepției și comportamentului. A. Antrenează gândirea critică digitală Primul și cel mai important filtru împotriva manipulării este propriul nostru discernământ. • Întreabă-te mereu: o Cine vrea să cred asta? o Cine are de câștigat dacă reacționez emoțional sau impulsiv? o De ce apare această informație exact acum? • Nu te baza pe prima impresie – AI-ul este antrenat să îți ofere exact acel conținut care „te prinde” rapid: titluri senzaționale, mesaje personalizate, imagini șocante. Învață să faci un pas înapoi și să îți regândești reacția. • Antrenează-ți reflexul de analiză, nu doar de reacție. Gândirea critică este o formă de autoapărare digitală. B. Verifică sursa și contextul conținutului O informație fără sursă, fără context și fără autor verificabil e mai periculoasă decât o minciună asumată. • Evită reacțiile emoționale spontane. Dacă ceva te face furios, anxios sau „pătruns de adevăr” instant, e un semnal că poate fi manipulativ. 48  • Verifică: o Cine a publicat conținutul? o Este autorul real, cunoscut, verificabil? o În ce context și când a apărut mesajul? o Cum a fost distribuit și cine l-a amplificat? • Folosește surse externe, neutre, pentru confirmare. Nu te încrede doar în ce „îți apare” – ci caută activ răspunsuri alternative. C. Recunoaște manipularea algoritmică Dacă vezi mereu același tip de conținut, probabil nu ești informat – ești doar captiv într-un tipar digital. • Dacă feed-ul tău pare „omogen” sau repetitiv, întreabă-te: Unde sunt opiniile diferite? De ce nu le văd? • Caută activ contrariul: o Intră pe surse opuse ideologic, o Compară titlurile, o Discută cu oameni care au alte viziuni. • Diversifică sursele: o Nu te informa dintr-o singură sursă; o Folosește motoare de căutare diferite, platforme independente, surse internaționale. • Nu lăsa AI-ul să decidă ce vezi – preia tu controlul asupra propriei informări. D. Folosește unelte de detectare AI / deepfake Aparențele pot fi create de mașini. Fii mai vigilent decât un pixel. • În fața unui videoclip, audio sau imagine dubioasă, folosește unelte specializate: o Deepware Scanner – detectează deepfake video/audio o Hive AI – analiză vizuală și auditivă automată o Sensity AI – soluții enterprise pentru detectarea manipulării vizuale o Microsoft Video Authenticator] – verifică autenticitatea videoclipurilor • Caută inconsecvențe evidente: o Expresii faciale rigide sau artificiale, o Voci „plate” sau prea mecanice, o Sincronizare slabă a vorbirii, o Gesturi neverosimile, decoruri identice. • Folosește funcția de reverse image search (ex: Google Images, Yandex) pentru a verifica, nu numai dacă o imagine a fost folosită anterior în alt context, ci și pentru manipulare și dezinformare 5.2 Pentru organizații „Într-o eră în care reputația poate fi distrusă de un videoclip fals și deciziile interne pot fi influențate de un chatbot, organizațiile trebuie să se apere inteligent și proactiv.” Organizațiile (ex: companii, instituții publice, ONG-uri, structuri educaționale sau de securitate) sunt ținte prioritare în cadrul strategiilor de manipulare AI-based. Dezinformarea direcționată, fraudele conversaționale și compromiterea imaginii publice pot produce pierderi 49 importante financiare, operaționale, de încredere și de imagine. Prevenirea eficientă implică măsuri sistemice, tehnice și culturale. A. Antrenamente de recunoaștere și prevenire a manipulării bazate pe AI Instruirea echipelor reprezintă primul zid de apărare împotriva atacurilor cognitive și a tehnicilor sofisticate de inginerie socială. • Programe interne de training pentru angajați, PR, HR, IT, juridic și top management privind: o Identificarea manipulării algoritmice; o Riscurile deepfake (ex: video, audio, text); o Recunoașterea phishingului conversațional și fraudelor cu mesaje AI. • Simulări de atacuri cognitive: o Exerciții de testare a reacției la videoclipuri false cu „manageri” o Emailuri AI-scrise care simulează spear phishing, o Conversații simulate prin boți în scenarii de recrutare, solicitări financiare etc. • Ghiduri interne de reacție rapidă: o Ce faci dacă apare un deepfake cu CEO-ul? o Cum validezi cereri urgente primite pe canale „credibile”? o Ce comunici public și cum gestionezi încrederea? B. Politici de validare multisursă Într-un context digital instabil, deciziile critice nu ar trebui validate doar printr-un singur canal (de comunicare). • Orice decizie de natură financiară, contractuală sau strategică trebuie: o confirmată prin două sau mai multe canale independente (ex: e-mail + apel vocal + confirmare offline); o supusă unei autentificări încrucișate, mai ales dacă provine din surse neobișnuite sau în afara programului. • Apelurile video și mesajele audio nu mai pot fi considerate dovezi solide, în contextul în care clonarea facială și vocală este accesibilă și realistă. • Reactualizarea procedurilor interne astfel încât niciun departament să nu fie ”singur punct de decizie” în cazuri critice, fără o verificare multiplă. C. Monitorizare reputațională automată și manuală Reputația organizației este o țintă directă în războiul informațional. Un atac bine orchestrat poate distruge încrederea în câteva unități de timp (ore). • Implementarea de soluții de monitorizare automată a mențiunilor brandului, numelor de lideri, produselor sau proiectelor, în special pe: o rețele sociale; o canale de mesagerie (ex: Telegram, WhatsApp groups); o surse alternative (ex: Dark Web, forumuri obscure); o platforme video și de fake-news. • Detectarea campaniilor coordonate bazate pe AI: o postări simultane, conturi artificiale, replici identice; o deepfake-uri care simulează declarații ale reprezentanților companiei; 50  o documente fabricate ce „par” scurse din interior. • Echipe de răspuns reputațional rapid: – contramăsuri proactive: identificarea și demontarea falsurilor; o campanii de informare transparente și directe pentru public, parteneri și presă. D. Colaborare cu experți, fact-checkeri și organizații specializate Apărarea eficientă se construiește printr-un efort colectiv. Nimeni nu poate detecta, analiza și reacționa singur la valurile tot mai sofisticate de manipulare AI. • Parteneriate active cu: o echipe de jurnaliști de investigație și verificare (fact-checking); o experți în securitate cibernetică, psihologie socială și comunicare de criză; o platforme specializate în detectarea AI (ex: Sensity, Deepware, Graphika); o ONG-uri care monitorizează spațiul informațional și propagarea falsurilor. • Acces la rețele de alertare rapidă (inclusiv prin CERT-uri naționale sau rețele OSINT) pentru a răspunde în timp util în cazul campaniilor deepfake sau a atacurilor reputaționale. • Participare la inițiative colective de educație și protecție împotriva manipulării digitale: cursuri, campanii publice, ghiduri de bune practici. 6 RESURSE ȘI ADRESE UTILE „Accesul la informație corectă și la instrumente de verificare este prima linie de apărare împotriva manipulării bazate pe AI.” Într-un peisaj informațional dominat tot mai mult de conținut generat de inteligența artificială, este important ca publicul larg, educatorii, profesioniștii și organizațiile să cunoască și să folosească resurse verificate și instrumente eficiente. Mai jos sunt disponibile câteva platforme utile în combaterea dezinformării, în educația critică și detectarea conținutului fals creat cu AI: Verificări de informații pentru România - https://factual.ro 51 Platformă de fact-checking în limba română, dedicată combaterii declarațiilor false din spațiul public. • Analizează și clasifică afirmațiile din politică, media și rețele sociale; • Oferă surse, context și explicații pentru verdictul atribuit (ex: adevărat, fals, parțial adevărat etc.); • Extrem de utilă pentru formarea reflexului de verificare a informației, mai ales în contexte electorale și sociale sensibile. Analiză și detecție de conținut AI falsificat (deepfake, fake visual media) - https://sensity.ai Platformă profesională de securitate vizuală, specializată în identificarea manipulărilor generate de AI. • Detectează deepfake-uri video, imagini falsificate, voice cloning și fraude media vizuale; • Oferă soluții avansate pentru organizații, media, instituții publice și corporații; • Poate fi folosităși în scop didactic, pentru a demonstra concret cum arată o manipulare vizuală. Unelte AI experimentale oferite de Google - https://ai.google/tools Colecție de aplicații și experimente bazate pe inteligență artificială, deschise publicului larg. • Permite înțelegerea mecanismelor AI într-un mod interactiv și sigur; • Include unelte pentru generare de texte, imagini, sunete și traducere automată; • Utilă pen