Cum să descoperi un clip electoral fals realizat cu Inteligența Artificială

UPDATE Ghidul pus la dispoziție de Directoratul Național de Securitate Cibernetică (DNSC), a fost generat chiar de către aplicaţiile de inteligenţă artificială. În consecință, angajații DNSC nu s-au concentrat prea mult pe realizarea celor șase pagini ale ghidului. Reporterii Antena 3 CNN au devoalat acest fake al instituției plătită din bani publici.

• Când statul susține industria de apărare națională: Turcia furnizează 65% din dronele armate utilizate la nivel mondial și vrea să-și crească exporturile de echipamente militare
• Avocații avertizează că „fără grefieri nu există justiție eficientă”
• Rafinăria Petrotel e ținută închisă, în timp ce se importă cantitatea de combustibili care s-ar putea produce aici. Pentru cine lucrează Guvernul Bolojan?
• La Bruxelles se negociază o nouă taxă care ar putea crește prețul la combustibili cu până la 15%. Ce poate face România
• Eugen Tomac începe consultările cu partidele pentru formarea unui guvern

Știrea inițială Directoratul Național de Securitate Cibernetică a lansat un Ghid prin care atrage atenția asupra manipulărilor posibile, mai ales în această perioadă electorală, dar nu numai, în mediul online, prin intermediul unor clipuri false, realizate de IA.

Deepfake este o manipulare digitală a unei înregistrări video, audio sau a unei imagini, realizată cu ajutorul inteligenței artificiale (IA) sau a altor programe specializate. Există multiple cazuri în care un videoclip personalități publice ofereau sfaturi financiare. Chipurile și vocile unor politicieni precum Marcel Ciolacu, Nicolae Ciucă, Sebastian Burduja etc au fost folosite pentru campanii în care oamenii erau îndemnați să cumpere acțiuni la diferite companii sau să-și mute contractele de energie la altele.

În aceste videoclipuri, persoanele recomandă insistent investiția într-o anumită companie sau afacere, promițând profituri mari și riscuri minime.

Videoclipurile sunt realizate atât de profesional, cu o calitate a imaginii și sunetului atât de ridicate, persoana publică pare atât de sinceră și de convingătoare, folosind un limbaj accesibil și argumente persuasive, încât unui om normal îi este foarte greu să nu fie convins de veridicitatea acestora.

Un astfel de Deepfake ar putea fi folosit pentru a manipula populația să investească într-o afacere ilicită deținută sau controlată de manipulatori. Videoclipul este distribuit rapid pe rețelele de socializare, cu un potențial uriaș de a fi vizionat de milioane de oameni. Mulți dintre cei care văd videoclipul ar putea fi convinși să investească în afacerea recomandată, riscând ulterior să piardă sume semnificative de bani.

DNSC dă exemplul Băncii Naționale a României (BNR) care a avertizat publicul cu privire la o schemă de înșelăciune care implică utilizarea tehnologiei Deepfake pentru a crea videoclipuri false cu guvernatorul BNR, Mugur Isărescu. În aceste videoclipuri, guvernatorul pare să promoveze o platformă de investiții, însă BNR a declarat că acestea sunt false.

Scamul folosește IA pentru a modifica vocea și imaginea guvernatorului, cu scopul de a induce în eroare publicul pentru a participa la investiții frauduloase, promițând câștiguri financiare rapide și ușoare.

Deepfake cu guvernatorul BNR Mugur Isărescu care promovează o platformă de investiții

O pensionară din Vaslui a fost victima unei escrocherii postată online pe platforma YouTube. Escrocii au creat un videoclip fals în care un cunoscut bancher și alte personalități cunoscute recomandau o platformă de investiții. Promisiunea unor profituri rapide a convins pensionara să investească suma de 52.000 de lei, economii strânse în 20 de ani de muncă. Chiar dacă femeia a raportat această fraudă autorităților, experții consideră că șansele de recuperare a fondurilor pierdute sunt minime.

Actorii rău intenționați devin tot mai inventivi. Acum pot imita perfect vocea unei persoane dragi pentru a vă păcăli. Te pot suna pretinzând că sunt un membru al familiei care are nevoie urgentă de bani. Recomandăm ca întotdeauna să fie verificată identitatea apelantului, chiar dacă pare să fie o rudă sau un prieten cunoscut.

Nu trimite niciodată bani în grabă și anunță imediat autoritățile dacă ai suspiciuni. Doar prin vigilență și informare te poți proteja de această formă de fraudă.

În 2019, un Deepfake audio a fost folosit pentru a înșela un CEO cu 220.000 de euro. Directorul general al unei firme de energie cu sediul în Marea Britanie a crezut că vorbea la telefon cu directorul general al
companiei-mamă germane atunci când a urmat ordinele de a transfera imediat 220.000 de euro în contul bancar al unui furnizor maghiar. De fapt, vocea aparținea unui escroc care folosea tehnologia vocală IA
pentru a-l imita pe directorul executiv german.

Pericolul Deepfake în contextul electoral

În era digitală actuală, în care granița dintre realitate și ficțiune se estompează în mod constant, procesul electoral depășește simpla confruntare a ideologiilor și promisiunilor politice, transformându-se într-un teren complex de luptă ideologică. Tehnologiile Deepfake, capabile a sintetiza realist imagini și voci, pot influența semnificativ opinia și votul alegătorilor în timpul campaniilor electorale, având un impact major asupra procesului democratic, din următoarele considerente:

Impactul asupra politicienilor: Reputația unui politician poate fi grav afectată de videoclipuri Deepfake fabricate, care pot discredita imaginea sa și pot deteriora șansele de a câștiga alegerile.

Răspândirea dezinformării prin Deepfake poate manipula percepția publică asupra caracterului și programului politicianului, afectând negativ cariera sa politică.

Impactul asupra partidelor politice: Deepfake poate fi utilizat ca instrument strategic pentru a discredita partidele rivale, prin crearea de materiale false care să le prezinte într-o postură negativă. Promovarea
agendei propriului partid prin Deepfake poate fi o modalitate eficientă de a influența opinia publică și de a atrage alegători. Utilizarea necorespunzătoare a Deepfake de către partidele politice poate duce la
scandaluri și la pierderea încrederii publicului în sistemul politic.

Impactul grupurilor de interese: Deepfake poate fi utilizat de grupuri de interese din interiorul unei țări pentru a manipula opinia publică legată de probleme civice. Crearea de conținut falsificat adaptat la contextele locale poate intensifica sau calma nemulțumirile legate de anumite probleme sau evenimente. Utilizarea Deepfake de către grupurile de interese poate duce la polarizarea societății și la o erodare a discursului public democratic.

Tehnicile IA/Deepfake utilizate în influențarea campaniilor electorale:

Falsificarea video realistă: Algoritmi avansați de IA creează videoclipuri aproape imposibil de distins de cele reale, prezentând scene false cu politicieni sau evenimente inventate.

Clonarea vocii și falsuri audio: Vocea unui politician este reprodusă cu o precizie uimitoare, generând mesaje false atribuite în mod eronat persoanei respective.

Generarea de text sintetic: Texte credibile sunt create imitând stilul și tonul unei personalități politice sau a unei instituții, răspândind dezinformare.

Schimbarea fețelor și transformarea: Tehnologia permite modificarea fețelor în videoclipuri, creând scenarii false care nu s-au petrecut niciodată sau nu în contextul prezentat.

Predicția comportamentală: IA analizează comportamentul online pentru a prezice răspunsul la anumite mesaje, facilitând crearea de Deepfake-uri țintite pentru a influența segmente specifice de alegători.

Aceste tehnici pot fi utilizate de actori malițioși pentru a discredita candidați, a manipula opinia publică și a submina încrederea în procesul electoral. Este esențială conștientizarea pericolelor Deepfake și
implementarea de măsuri pentru a combate dezinformarea și proteja integritatea alegerilor.

Semne de identificare a unui Deepfake

Protejarea împotriva Deepfake-urilor este o provocare continuă, deoarece tehnologia se perfecționează constant, făcând conținutul manipulat tot mai greu de distins de cel real. Cu toate acestea, există anumite
indicii care pot trăda un Deepfake, iată la ce anume trebuie să fim atenți:
• Mediul înconjurător (de exemplu, umbre inexistente, reflexii prea puternice, zone neclare)
• Imperfecțiuni ale feței (alunițe nerealiste, clipire nesincronizată, distorsiuni în interiorul gurii cum ar fi lipsa dinților și a limbii, dinți mult prea perfecți etc.)
• Nesincronizarea vorbirii/sunetului și a mișcării buzelor, de exemplu: din cauza strănutului

Nesincronizarea vorbirii/sunetului și a mișcării buzelor poate fi observată la pronunțarea literelor b, m și p.

Uneori apar pixeli în nuanțe de gri la marginile componentelor modificate. Se poate distinge dacă este vorba de o falsificare și atunci când persoana din înregistrare este privită dintr-un alt unghi.

Dacă pentru crearea conținutului Deepfake nu s-au folosit fotografii ale persoanei din unghiuri diferite, algoritmul nu poate deduce aspectul persoanei din alt unghi, rezultând distorsiuni.

Massachusetts Institute of Technology (MIT) este una dintre entitățile care dezvoltă instrumente ML care pot identifica dacă un conținut este autentic sau un Deepfake, oferind totodată un chestionar educativ pentru a învăța publicul cum să facă această distincțieiv.

Un detector clasic de conținut vizual fals se bazează pe detectarea erorilor rezultate din prelucrare. Cel mai adesea, aceasta implică analiza pixelilor pe care ochiul uman nu îi poate vedea, deoarece prin manipularea imaginii marginile componentei modificate au caracteristici speciale. Un astfel de algoritm este hibridul dintre Long short term memory (LTSM – o rețea neuronală) și algoritmul Encoder-Decoder. Acesta funcționează analizând în paralel fiecare pixel individual și/sau întreaga imagine/videoclip comprimat(ă).

În cele din urmă, rezultatele celor două funcții sunt comparate și dacă ambele indică aceeași regiune, materialul este considerat modificat.

Există, de asemenea, diferite tipuri de detectoare de acces. Detectorul Intelv se bazează pe observarea unor indicii subtile, invizibile ochiului uman, pentru a verifica autenticitatea conținutului.

Prin analiza semnelor precum dilatarea pupilelor, modificări ale culorii vaselor de sânge în concordanță cu bătăile inimii etc., se poate determina dacă acel conținut este autentic.

Instrumente și tehnici de detectare a Deepfake

Detectarea Deepfake-urilor este o provocare în continuă evoluție, întrucât tehnologiile de IA care stau la baza creării Deepfake-urilor devin din ce în ce mai sofisticate. Ca răspuns, cercetătorii și dezvoltatorii
lucrează la dezvoltarea de instrumente și tehnici noi pentru a identifica aceste falsuri.

Iată câteva dintre cele mai promițătoare abordări în detectarea Deepfake-urilor:

Analiza comportamentală: Această metodă se bazează pe identificarea micilor imperfecțiuni sau anomalii în comportamentul sau mișcările fizice ale subiectului din videoclip.

Consistența iluminării: Detectarea inconsistențelor în iluminare este o altă tehnică eficientă. Algoritmii analizează umbrele, reflexiile și modul în care lumina se reflectă pe diferite suprafețe ale feței pentru a
determina dacă imaginea a fost manipulată.

Analiza texturii pielii: Tehnicile de Deepfake adesea netezesc textura pielii sau introduc anomalii la nivelul texturii. Detectarea acestor modificări, care sunt adesea subtile și greu de observat cu ochiul liber,
poate ajuta la identificarea manipulărilor.

Detectarea artefactelor de compresie: Videoclipurile și imaginile manipulare prin IA pot prezenta artefacte de compresie unice datorită procesului de generare și compresie. Analiza acestor artefacte poate oferi indicii că materialul a fost alterat.

Examinarea metadatelor: Deși Deepfake-urile în sine pot fi convingătoare, metadatele asociate cu un fișier video sau imagine (cum ar fi data creării, tipul camerei etc.) pot fi contradictorii sau suspecte,
sugerând manipulare.

Verificarea consistenței respirației și a pulsului: Unele tehnici avansate includ analiza variațiilor minore în culoarea feței sau a umbrelor, care pot indica bătăile inimii și respirația. Modificările în aceste modele pot indica prezența unui Deepfake.

Utilizarea rețelelor neuronale convoluționale: CNN-urile sunt folosite pentru a analiza videoclipurile frame cu frame, învățând caracteristicile specifice videoclipurilor autentice comparativ cu cele false. Această metodă poate fi extrem de eficientă, dar necesită o cantitate mare de date de antrenament.

Aplicații și servicii comerciale: Există și instrumente comerciale disponibile sau soluții oferite de startup-uri specializate în detectarea Deepfake-urilor, care combină tehnologiile menționate mai sus pentru a
oferi soluții la cheie pentru organizații sau indivizi.

Provocări și limitări: Este important de menționat că, pe măsură ce tehnologiile de detectare devin mai sofisticate, la fel devin și metodele de creare a Deepfake-urilor. Asta înseamnă că este nevoie de o actualizare și îmbunătățire constantă a instrumentelor de detectare. În plus, multe dintre tehnici pot genera răspunsuri fals pozitive sau fals negative, ceea ce necesită verificări suplimentare și îmbunătățirea continuă a algoritmilor.

Detectarea Deepfake-urilor este un câmp de bătălie dinamic între creatorii de conținut falsificat și cei care încearcă să protejeze autenticitatea informațiilor. Continuarea cercetării și dezvoltării în acest domeniu este crucială pentru a ține pasul cu evoluția rapidă a tehnologiei.

Sfaturi pentru a evita să fii păcălit de Deepfake-uri

Evitarea înșelăciunii prin Deepfake necesită o combinație de scepticism sănătos, atenție la detalii și
utilizarea unor instrumente de verificare.

Iată câteva sfaturi utile:

Nu crede tot ce vezi online! Internetul este o sursă vastă de informații, dar nu toate sunt veridice. Este important să dezvolți un scepticism sănătos și să analizezi cu atenție orice conținut video sau foto înainte de a-l accepta ca fiind real.

Caută semne de manipulare! Deepfake-urile pot fi foarte sofisticate, dar adesea pot fi identificate prin anumite indicii. Fii atent la discrepanțe de iluminare, erori de aliniere, nereguli ale pielii sau probleme de sincronizare a buzelor cu sunetul.

Verifică sursa! De unde provine videoclipul sau imaginea? Este distribuit pe o platformă de încredere. Caută confirmarea informației din surse credibile sau direct de la entitățile sau persoanele implicate.

Folosește instrumente de verificare! Există numeroase organizații și instrumente online care te pot ajuta să verifici dacă o informație este reală. Utilizează-le pentru a cerceta autenticitatea conținutului suspect.

Nu te baza pe o singură sursă! Caută confirmare din mai multe surse credibile. Un singur videoclip sau imagine nu este suficient pentru a verifica o informație.

Învață despre Deepfake-uri! Cu cât înțelegi mai bine cum funcționează această tehnologie, cu atât vei fi mai capabil să identifici falsurile. Există multe resurse online care explică principiile Deepfake-urilor și metodele de detectare.

Prin aplicarea acestor sfaturi, poți reduce riscul de a fi înșelat de conținutul Deepfake și poți contribui la promovarea unei culturi a verificării și a responsabilității în mediul online.

Ghidul integral este aici.