UPDATE

La solicitarea PSD, proiectul de lege privind legea "deepfake" a fost retrimis la Comisia de specialitate pentru două săptămâni.

+++

Un grup de organizații cu expertiză în domeniul Internetului, al mass-media și al bunei guvernări critică acest proiect pe care îl consideră mai apropiat de modelul chinezesc, decât de cel european, și cer deputaților, printr-o scrisoare transmisă azi, să nu îl voteze în forma sa actuală, flagrant deficitară.

Organizațiile arată că textul legii conține prevederi periculoase, cum ar fi sancțiuni cu închisoarea pentru crearea de conținut deepfake, iar conținut perfect legal, cum ar fi cel protejat de exercitarea dreptului la libertatea de exprimare, ar intra sub incidență penală, ceea ce ar reprezenta o încălcare a acestui drept fundamental. În plus, textul conține o serie de neclarități și termeni/exprimări care arată o înțelegere superficială a fenomenului ce se dorește a fi reglementat.

De asemenea, proiectul nu ține cont de faptul că în acest moment instituțiile europene aproape au finalizat Artificial Intelligence Act (Regulamentul Inteligenței Artificiale).

Ce prevede proiectul

Legea, adoptată pe 26 iunie de Senat, reglementează realizarea, difuzarea în mass-media, precum și distribuirea pe platforme online a oricărui conținut vizual și/sau audio generat sau manipulat, prin utilizarea tehnologiei în contextul fenomenului deepfake, cu scopul inducerii în eroare a opiniei publice cu privire la autenticitatea mesajului transmis.

Parlamentarii au descris în proiectul de lege "deepfake" drept "orice conținut de tip imagine, audio și/sau video realizat de regulă cu ajutorul inteligenței artificiale sau realității virtuale, astfel încât să creeze aparența că o persoană a spus sau a făcut lucruri care în realitate nu au fost spuse sau făcute de acea persoană".

De asemenea, deepfake se mai referă și la "utilizarea malițioasă a tehnologiei - acțiunea intenționată de inducere în eroare, cu scopul de a crea dezinformare și/sau haos informațional prin manipularea comportamentului uman și/sau exploatarea vulnerabilităților".

Parlamentarii au mai trecut în act că utilizarea malițioasă a tehnologiei prin realizarea, difuzarea în mass-media, precum și distribuirea pe platforme online de conținut tip deepfake este interzisă dacă acel conținut nu este însoțit de un avertisment redat pe cel puțin 10% din suprafața expunerii și pe toată durata difuzării respectivului conținut vizual sau de un mesaj sonor la începutul și la finalul conținutului audio: „Acest material conține ipostaze imaginare”.

Încălcarea prevederilor de mai sus constituie infracțiune și se sancționează după cum urmează:

a) crearea/realizarea conținutului tip deepfake se pedepsește cu închisoare de la 6 luni la 2 ani;

b) difuzarea/distribuirea conținutului tip deepfake, cunoscând natura falsă a conținutului se pedepsește cu amendă între 60 și 180 de zile - amendă. 

Instanța care constată săvârșirea infracțiunii se pronunță și asupra menținerii sau a ridicării suspendării conținutului de tip deepfake de pe platforma online. 

De asemenea, în termen de maxim 60 de zile de la data intrării în vigoare a prezentei legi, Consiliul Național al Audiovizualului (CNA) inființează o structură responsabilă de aplicarea prevederilor prezentei legi. 

Legea, criticată de ONG-uri

O serie de ONG-uri, printre care ActiveWatch și Sindicatul Român al Jurnaliștilor MediaSind au transmis o scrisoare publică prin care le cer deputaților să nu voteze proiectul.

"Nu votați o variantă chinezească a Legii deepfake!

În atenția Președintelui interimar al Camerei Deputaților, dl. Alfred - Robert Simonis

În atenția membrilor Comitetului Liderilor Grupurilor Parlamentare

În atenția Grupului Parlamentar al Partidului Social Democrat, Grupului Parlamentar al Partidului Național Liberal, Grupului parlamentar al Uniunii Salvați România, Grupului parlamentar AUR, Grupului parlamentar al Uniunii Democrate Maghiare din România, Grupului parlamentar al minorităților naționale, Deputaților neafiliați

Stimată doamnă deputat,Stimate domnule deputat,Camera Deputaților are azi pe ordinea de zi a plenului, în calitate de cameră decizională, un proiect de lege ce are ca scop combaterea fenomenului deepfake. O inițiativă poate necesară, care răspunde unor realități sociale și unor provocări complexe generate de noile tehnologii, dar care a fost făcută fără a ține cont de legislația europeană relevantă în domeniu, care va intra în vigoare curând, și fără consultarea experților sau a societății civile. Astfel, din păcate, modelul de reglementare pe care deputații, care au amendat proiectul, au ales să-l urmeze este cel al Chinei, un stat autoritar, în care puterea politică folosește tehnologia pentru a controla populația și pentru a limita drepturile cetățenești.

Proiectul de lege a fost adoptat în 2023 de Senat, dar într-o variantă care nu conținea pedepse cu închisoarea. În forma sa actuală, textul legii conține prevederi periculoase, cum ar fi sancțiuni cu închisoarea de la 6 luni la 2 ani pentru "crearea/realizarea conținutului de tip deepfake”. Distribuirea de conținut deepfake va fi sancționată cu 60-180 de zile amendă. Nu există niciun fel de excepții prin care să fie protejate forme ale libertății de exprimare, cum ar fi utilizarea în scop de pamflet sau artistic a conținutului de tip deepfake sau în producții comerciale (reclame) sau în industria cinematografică, așa cum deja se întâmpla în practică și cum prevede legislația europeană ce urmează a intra în vigoare.

Textul conține o serie de neclarități și termeni/exprimări care arată o înțelegere superficială a fenomenului ce se dorește a fi reglementat, așa cum reiese și din punctele de vedere exprimate de Consiliul Legislativ și Consiliul Național al Audiovizualului. De exemplu, proiectul de lege impune creatorilor de conținut deepfake obligația ca acesta să fie marcat un avertisment redat pe cel puțin 10% din suprafața expunerii și pe toată durata difuzării respectivului conținut vizual sau de un mesaj sonor la începutul și la finalul conținutului audio: „Acest material conține ipostaze imaginare”. Însă ceea ce ignoră textul de lege este că 10% dintr-o imagine poate fi manipulată astfel încât acea parte să nu fie vizibilă, de facto, deci un creator malițios poate susține că a respectat legea, în timp ce, de fapt, el continuă să înșele publicul.

În plus, așa cum este formulat textul de lege propus, rezultă că orice material #deepfake poate fi folosit oriunde în mod legal, chiar dacă este "malițios” și ar "produce haos informațional”, dacă este marcat conform legii. Mai mult, noile sancțiuni penale introduse de lege sunt, în fapt, mai blânde decât cele deja existente și pe baza cărora ar putea fi sancționat penal creatorul unui conținut cu adevărat ilegal. Din păcate însă, conținut perfect legal, cum ar fi cel protejat de exercitarea dreptului la libertatea de exprimare, ar intra sub incidență penală, ceea ce ar reprezenta o încălcare a acestui drept fundamental, așa cum este el consfințit de Constituția României, Carta Drepturilor Fundamentale a Uniunii Europene și de Convenția Europeană a Drepturilor Omului.

De asemenea, textul de lege nu ține cont de faptul că în acest moment instituțiile europene aproape au finalizat Artificial Intelligence Act (Regulamentul Inteligenței Artificiale), având un acord politic pe text, inițiativă demarată în 2021 și dezbătută timp de peste 3 ani, și al cărui text final va fi curând publicat în Jurnalul Oficial al UE.

Organizațiile semnatare solicită Parlamentului să respingă acest proiect de lege, flagrant deficitar în forma sa actuală. În mod special, trebuie eliminate noile infracțiuni introduse prin acest proiect de lege (eliminarea art. 5 din proiect).

Având în vedere provocările generate de noile tehnologii și riscurile majore pe care dezinformarea le are asupra societăților democratice, organizațiile semnatare consideră că un nou proiect de lege va trebui să țină cont de forma finală a Regulamentul Inteligenței Artificiale ce va fi adoptată la nivelul Uniunii Europene, de cadrul legislativ existent (ex. Art. 362 din Codul Penal - Alterarea integrității datelor informatice), de comentariile transmise de Consiliul Legislativ și de Consiliul Național al Audiovizualului. Mai mult, această legislație trebuie adoptată în urma unei consultări extinse, în care să fie implicate instituțiile competente, experți și societatea civilă."

Ministrul, optimist că legea va fi în vigoare până începe campania electorală pentru europarlamentare

Ministrul Cercetării, Inovării și Digitalizării, Bogdan Ivan, a declarat săptămâna trecută, la Digi24, că "până în aprilie o să avem această lege”.

"E, cred, cea mai spinoasă discuție a momentului. Sunt 4 miliarde de oameni care își aleg viitorul în 2024, iar acest fenomen este și în România și în toată lumea. Încă de anul trecut am demarat strategia României de Inteligență Artificială, am cu colegii din Parlament o lege împotriva deep fake, care vine cu niște reglementări foarte clare pentru acele persoane sau companii sau alte entități care generează conținut AI fals.  În mod normal va trebui votată în cel mai scurt timp, pentru că este în dezbatere la Camera Deputaților, urmează să fie pusă pe OZ. Până în aprilie o să avem această lege", a explicat Ivan, potrivit sursei citate.

Graba dinaintea alegerilor

Deși proiectul a fost depus în Parlament de aleși ai PSD, PNL și de la minorități în urmă cu aproape un an de zile și a trecut de Senat în vară, aleșii se grăbesc acum să-l adopte pe repede înainte de teama fenomenului de manipulare digitală a imaginilor înaintea alegerilor. Voci din Parlament spun că, dacă nu va exista această lege, partidele extremiste se vor folosi de "deepfake" pentru a manipula masele.