Vine legea Deepfake, prin care vor fi pedepsiți cei care falsifică imaginea și vocea unor persoane

Situația clipurilor publicitare false, viralizate pe rețelele sociale, în care apăreau ministrul Energiei, Sebastian Burduja, premierul Marcel Ciolacu sau președintele Senatului, Nicolae Ciucă, a îngrijorat societatea și a determinat parlamentarii să se mobilizeze pentru a crea un cadru legal care să împiedice și să pedepsească astfel de falsuri. Inteligența Artificială a fost folosită pentru a induce în eroare și chiar pentru a cere oamenilor să aleagă o anumită companie din energie sau să cumpere acțiuni virând bani în conturi fantomă, folosind chipurile și vocea unor lideri politici cu notorietate.

• Rafinăria Petrotel e ținută închisă, în timp ce se importă cantitatea de combustibili care s-ar putea produce aici. Pentru cine lucrează Guvernul Bolojan?
• La Bruxelles se negociază o nouă taxă care ar putea crește prețul la combustibili cu până la 15%. Ce poate face România
• Eugen Tomac începe consultările cu partidele pentru formarea unui guvern
• Care sunt băncile amendate de Consiliul Concurenței pentru influențarea ROBOR
• Pentru cine bat clopotele Bisericii Romei?

În 23 ianuarie, ministrul Sebastian Burduja anunța că a depus o plângere penală la Parchetul de pe lângă Înalta Curte de Casație și Justiție împotriva utilizării tehnologiei deepfake pentru înșelarea cetățenilor în achiziționarea de servicii false de investiții în domeniul energiei.

„Aceste fapte reprezintă infracțiuni grave, nu doar împotriva individului, ci și împotriva securității naționale a României.”, avertiza Burduja.

În data de 19 ianuarie 2024, pe pagină falsă de Facebook denumită „HTPPY”, a fost postat un videoclip deepfake în care ministrul a fost reprezentat promovând fals o schemă de investiții inexistente a companiei ENEL.

„Videoclipul a folosit în mod fraudulos imaginea mea și vocea mea pentru a convinge publicul să investească într-o platformă fictivă. Această acțiune nu doar că a înșelat publicul, dar a și denigrat reputația mea și a instituției Ministerului Energiei.

Tehnologia deepfake, care utilizează inteligența artificială pentru a crea conținut fals, devine o amenințare tot mai mare la adresa democrației noastre constituționale prin răspândirea dezinformării. Ca fost Ministru al Cercetării, Inovării și Digitalizării, am avut onoarea de a contribui la adoptarea Legii securității cibernetice, care a recunoscut oficial această amenințare (conform litera p a articolului 3 din Legea nr. 51/1991).”, preciza Burduja. Q Magazine a reflectat subiectul aici.

Cazurile de falsificări sunt numeroase nu doar în România, ci și în lume.

Cu ajutorul Inteligenței Artificiale au fost create clipuri video sau fotografii cu Barack Obama, Vladimir Putin, Kim Jong Un, Volodimir Zelensky etc.

În fotografii care s-au viralizat, Papa Francisc purta o geacă albă din fâș, iar Donald Trump era arestat în timp ce se împotrivea.

Ministrul Cercetării, Inovării şi Digitalizării, Bogdan Ivan, a declarat, vineri, 9 februarie, că legea Deepfake va intra în vigoare până în luna aprilie, menţionând că actul normativ va prevede inclusiv pedepse cu închisoarea până la 2 ani pentru cei care creează astfel de conţinut de inteligenţă artificială cu consecinţe grave.

Bogdan Ivan alături de Marian Neacșu și Marcel Ciolacu Foto Gov.ro

„E cea mai spinoasă discuţie a momentului. (…)Acest fenomen este şi în România şi în toată lumea. Încă de anul trecut am demarat strategia României de inteligenţă artificială. Împreună cu colegii din Parlament avem o lege, legea Deepfake, care vine cu prevederi foarte clare pentru acele persoane sau companii care generează conţinut AI fals. În mod normal, va trebui să fie votată în cel mai scurt timp pentru că este în dezbatere la Camera Deputaţilor şi urmează să fie pusă pe ordinea de zi. Şi până în aprilie vom avea această lege”, a afirmat Ivan, la Digi 24, preluat de Agerpres, întrebat în legătură cu fenomenul şi consecinţele acestuia în an electoral.

Întrebat dacă această lege va fi în vigoare când începe campania electorală, ministrul a răspuns afirmativ, adăugând vor fi aplicate amenzi şi pedepse cu închisoarea, în funcţie de gravitate.

„Da. Va fi o lege foarte clară, care vine cu amenzi pentru cei care produc conţinut deepfake, între 600 lei şi 90.000 lei. Iar în situaţia în care o instanţă de judecată din România constată că vorbim de o încălcare foarte gravă a legii, atunci acele persoane care au iniţiat astfel de conţinut pot să ajungă inclusiv la pedepse cu închisoare până la 2 ani”, a adăugat Bogdan Ivan.

El a explicat că a avut discuţii cu reprezentanţii marilor platforme de social-media pe care sunt distribuite astfel de clipuri video sau de fotografii şi urmează să fie create filtre pentru a nu mai permite încărcarea în reţea de conţinut care foloseşte inteligenţa artificială şi nu reflectă realitatea.

„Astăzi, România este în avangardă. Am avut discuţii cu toată industria, cu marile platforme de social-media pe care sunt distribuite astfel de clipuri video sau de fotografii. În momentul de faţă, urmează să ne întâlnim pragmatic şi concret să creăm un set de filtre pentru ca să fie mult mai greu să încarci în reţea astfel de conţinut care foloseşte inteligenţa artificială şi nu reflectă realitatea pe Facebook, Instagram, Google, Microsoft. Şi, mai departe de asta, creăm un mecanism în care conţinutul este eliminat într-un timp foarte scurt”, a explicat ministrul.

El a adăugat că, în cazul în care conţinutul este unul cu caracter umoristic, este obligatoriu, pentru a nu fi amendat, ca pe cel puţin 15 la sută din suprafaţa videoclipului să apară avertismentul că acest conţinut nu este unul real, ci unul creat cu inteligenţă artificială generativă.

„În situaţia în care totuşi ajunge astfel de conţinut pe reţelele de socializare, suntem în următoarea situaţie – să poţi să dai raport şi acel conţinut să fie scos. Avem cazul Taylor Swift în care a ajuns să fie scos acel conţinut după 17 ore, timp în care a fost văzut de milioane de ori. Vrem să facem acelaşi cadru ca şi cazul zonei de criminalitate, ca în 60 de minute să fie scos acel conţinut. În cazul în care este reclamat, urmează să fie filtrat, în situaţia în care este unul real şi s-a reclamat nereal, atunci urmează să fie pus înapoi”, a mai explicat Bogdan Ivan.

Întrebat cum vor fi identificaţi cei care generează astfel de conţinut, Ivan a spus că, din punct de vedere tehnic, este destul de simplu să fie identificaţi, menţionând că încă se caută o reglementare în privinţa celor care se vor ocupa cu identificarea lor.

„Este un lucru foarte clar: (…) facem legi în direcţia asta, creăm instrumente foarte clare împreună cu marile companii mondiale de tehnologie pentru ca românii să fie apăraţi cât mai tare de acest fenomen”, a mai spus ministrul Cercetării.

Pe de altă parte, întrebat referitor la TikTok şi la faptul că există o recomandare din partea Comisiei Parlamentare pentru Controlul Activităţii SRI ca acesta să fie interzis pe dispozitivele instituţiilor publice, Ivan a spus că rămâne o recomandare foarte clară în acest sens.

„Rămâne la nivel de recomandare în momentul de faţă. (…) Dacă mă întrebaţi pe mine, funcţionarii trebuie să muncească pentru banii pentru care sunt plătiţi în cele 8 ore de serviciu, nu să stea pe TikTok sau pe Facebook”, a adăugat ministrul.