Escrocherii și GenAI

Avansul rapid al inteligenței artificiale (AI) și accesul tot mai larg la date personale au creat un teren fertil pentru escrocherii sofisticate, hiper-direcționate, deschizând astfel o veritabilă „cutie a Pandorei” de riscuri și utilizări abuzive.

• Sondaj Avangarde. 56,4% dintre români agreează ideea alegerilor anticipate
• In the same week that Poland signed 29 defense contracts with its own national industry, Romania signed with a single German supplier and rejected the only project manufactured domestically
• Mircea Cărtărescu împlinește 70 de ani. „Viața e mai mult decât scrisul! Îmi spun asta, practic, în fiecare zi, dar, îmi spun și asta: eu nu pot percepe viața decât prin scris! E diformitatea, monstruozitatea mea”
• Copiii României: Aproape 20% nu merg la școală, 25% se simt „frecvent triști” și 56% suferă de oboseală
• Iran nu crede „nici în cuvintele, nici în promisiunile” SUA

FRAUDĂ DIGITALĂ

Modelele lingvistice avansate (LLM) joacă un rol central în riscurile legate de escrocherii hiper-direcționate, mai ales când sunt alimentate cu date personale preluate de pe dark web. Aceste sisteme AI pot genera conținut relevant și captivant, adaptat fiecărei persoane, la un cost minim.

Cu milioane de identități expuse online datorate încălcărilor de securitate, escrocii folosesc aceste informații pentru a crea fraude personalizate. Astfel, utilizarea incorectă a AI devine o amenințare serioasă, impunând măsuri de protecție și educație pentru a combate aceste practici.

Folosind LLM-uri, impostorii pot genera conținut dinamic care reacționează la răspunsurile victimei, menținând un dialog credibil și interactiv. De exemplu, dacă un impostor știe, dintr-o încălcare a securității datelor, că o persoană a aplicat recent pentru un împrumut, LLM-ul poate crea și adapta o poveste de escrocherie în jurul unor oferte sau probleme legate de împrumut, folosind limbaj specific industriei și tactici de presiune care sunt cunoscute pentru a provoca reacții.

Modelele GenAI sunt capabile să mențină conversații în limbaj natural, cu o înțelegere avansată a contextului și a nuanțelor. Ele pot menține coerența pe parcursul unor dialoguri extinse, reținând și amintind contextul din conversație. Această capacitate le permite să adapteze răspunsurile la fluxul dialogului, ajustând tonul și stilul după cum este necesar. În aplicații în timp real, cum ar fi interacțiuni vocale sau mesagerie instantă, LLM-urile procesează și răspund prompt, facilitând schimburi fluide și credibile. Scalabilitatea lor le permite să gestioneze numeroase interacțiuni simultan, iar capacitățile multilingve sprijină conversațiile în diferite limbi, sporind utilitatea lor în medii diverse.

Exploatând detalii despre viața și situația financiară a victimelor, impostorii pot crea mesaje convingătoare,  greu de diferențiat de realitate.

Utilizarea nepotrivită a AI pentru astfel de infracțiuni evidențiază provocările etice și problemele de securitate legate de dezvoltarea AI și de protecția datelor. Este esențial să se stabilească standarde etice cuprinzătoare și măsuri de securitate robuste pentru a preveni utilizarea abuzivă atât a tehnologiilor AI, cât și a datelor personale. Acest lucru include reglementarea utilizării informațiilor personale, securizarea datelor împotriva încălcărilor și monitorizarea dezvoltării și implementării sistemelor AI.

APĂRARE PROACTIVĂ

Pentru a proteja utilizatorii  împotriva amenințărilor sofisticate ale înșelătoriilor alimentate de AI generativă, sunt necesare strategii proactive de educare. Prin informarea indivizilor despre datele lor personale expuse și suprafețele potențiale de atac, aceștia pot înțelege și recunoaște mai bine vulnerabilitățile lor. 

O abordare inovatoare presupune utilizarea AI generative pentru a simula fraude direcționate care exploatează informații specifice expuse ale unui utilizator. Experimentând fraudele simulate într-un mediu controlat, utilizatorii pot învăța direct cum ar putea infractorii să manipuleze datele lor personale. Această metodă educațională este esențială, fiindcă nu doar evidențiază natura realistă a amenințărilor generate de AI, ci și împuternicește utilizatorii să identifice și să răspundă eficient încercărilor reale de escrocherie din ce în ce mai personalizate și înșelătoare.