Cluj-Napoca

articolul anterior articolul urmator

Arma redutabilă a dezinformării în era inteligenţei artificiale. „Un clip video deepfake ar putea pune capăt unei cariere politice”

3
19 Jan 2022 09:24:22
Autor: Remus Florescu
Viorela Dan susţine că este mai greu să ne „apărăm” de ştirile false care folosesc imagini, deoarece avem senzaţia că am văzut „dovada” cu propriii noştri ochi. FOTO: Interfoto.at
Viorela Dan susţine că este mai greu să ne „apărăm” de ştirile false care folosesc imagini, deoarece avem senzaţia că am văzut „dovada” cu propriii noştri ochi. FOTO: Interfoto.at

Viorela Dan, cercetătoare la Universitatea Ludwig-Maximilians din München, specializată în domenii precum dezinformarea, ştirile false, teoriile conspiraţiei, a explicat pentu „Adevărul” despre pericolul aşa-ziselor clipuri video „deepfake”, care pot pune orice fel de discurs în gura unui politician folosind inteligenta artificială.

Clipurile video „deepfake”, arma redutabilă a dezinformării în era inteligenţei artificiale. „Un deepfake ar putea pune capăt unei cariere politice”

Cercetătoarea Viorela Dan a arătat cum, cu ajutorul inteligenţei artificiale, se creează o versiune sintetică, spre exemplu, a imaginii unui politician, căreia i se poate atribui orice tip de discurs, fie că vorbim despre ştiri false, instigare la violenţă sau îndemnuri rasiste.  

„Adevărul”: De ce sunt mai periculoase ştirile false realizate cu imagini?

Viorela Dan: Suntem mai vulnerabili la dezinformarea care foloseşte fotografii şi videoclipuri, deoarece avem tendinţa de a crede că acestea înregistrează şi redau realitatea. Este puţin probabil să punem la îndoială ceva văzut într-un video care pare real, deoarece avem senzaţia ca am văzut „dovada” cu propriii noştri ochi, că am auzit-o cu propriile urechi. Este greu să ne îndoim de ceva ce am văzut sau auzit noi înşine. Deoarece avem tendinţa de a distribui lucruri considerate adevărate, acest spor de credibilitate adus de fotografii şi videoclipuri falsificate permite dezinformării să devină mai puternică. Corectarea ideilor eronate rezultate din expunerea la videoclipuri false este dificilă pentru că acest efort constă din a spune oamenilor că nu pot avea încredere în ochii şi în urechile lor – în condiţiile în care, de obicei, avem încredere că ceea ce vedem sau auzim noi înşine este adevărat.

Aţi realizat, în scopuri de cercetare, un asemenea videoclip „deeepfake”. Povestiţi-ne cât de greu a fost?

Într-adevăr, în scopuri de cercetare, am creat o serie de clipuri video false. Facem distincţie între cheapfakes şi deepfakes, ambele tipuri fiind falsuri audiovizuale create intenţionat pentru a sugera că cineva a făcut sau a spus ceva care nu s-a întâmplat niciodată. Pentru falsurile simple („cheapfakes”), am folosit un program uşor de utilizat şi m-am limitat la manipulări simple. Aici, am folosit un videoclip al unui politician fictiv, realizat cu o cameră ascunsă, pe post de materie primă. În clipul original, politicianul nu spune nimic de condamnat. În versiunile manipulate, am înlocuit vorbele lui cu declaraţii condamnabile vociferate de un imitator. Altfel spus, am înlocuit sunetul videoclipului original cu vocea imitatorului.

Dar în cazul falsului deepfake?

Pentru falsurile perspicace („deepfakes”), am folosit un program care funcţionează pe baza inteligenţei artificiale (AI) pentru a crea o versiune sintetică a politicianului, căruia am putut apoi să îi pun cuvinte în gură. În acest scop, am instruit un algoritm să înveţe trăsăturile unice ale politicianului dintr-o serie de fotografii cu el (de exemplu, unde are o aluniţă, care este distanţa dintre ochi, ce riduri se formează unde când acesta vorbeşte sau râde etc.). Pe baza acestor date, algoritmul a fost apoi capabil să genereze o imagine sintetică a acelei persoane. Ştiu că sună ca un film SF, dar tehnologia este între timp atât de avansată încât astfel de falsuri pot fi create.

Care a fost scopul realizării acestor clipuri şi care sunt rezultatele?

Am făcut asta ca să testez dacă scenariile apocaliptice imaginate de alţii sunt, într-adevăr, justificate. Concret, temerile menţionate frecvent evoluează în jurul următorului scenariu: Un deepfake arătând un politician, în care acesta pare să facă / zică ceva reproşabil, este distribuit pe internet cu câteva zile înainte de alegeri, fără timp suficient pentru a demonta acuzaţiile. Temerea este că cetăţenii nu vor vota acel politician din cauza asta şi că vor vota în schimb un alt politician care le-ar putea reprezenta interesele mai puţin bine decât cel care a căzut pradă creatorilor de deepfake-uri. Sunt încă în proces de analiză a datelor, colectate de la peste 2.000 de germani, dar rezultatele preliminare sugerează că aceste temeri sunt, într-adevăr, justificate.

Cum schimbă această nouă posibilitate de producţie a ştirilor false lupta împotriva dezinformării?

Acest lucru complică viaţa politicienilor şi pe cea a jurnaliştilor. Politicienii trebuie să realizeze că pot deveni victimele creatorilor de deepfakes - care ar putea fi, de exemplu, angajaţi de partidul advers. Jurnaliştii trebuie să verifice fiecare videoclip care le iese în cale – ca să reducă riscul de a transmite mai departe dezinformarea.

Cum putem să ne apărăm de acest tip de dezinformare?

 

Pentru a ne apăra de acest nou tip de dezinformare, trebuie să extindem alfabetizarea digitală, să investim în verificări jurnalistice („fact-checks”) şi să acordăm prioritate formatului video în fact-checks. Este destul de dificil de explicat de ce un videoclip este fals folosind doar cuvinte. Este mult mai uşor să atingem acest obiectiv folosind un clip video. Studiile existente sugerează că publicul consideră explicaţiile în format video mai convingătoare decât cele oferite numai in scris. În termeni simpli, cred că este necesar să combatem focul cu foc, un clip video fals cu un clip video adevărat.

Este presa o parte a problemei „infodemiei”? Dacă da, ce credeţi că poate face presa pentru a deveni o parte mai importantă a soluţiei în lupta cu dezinformarea?

Cred că presa poate ameliora criza, dar o poate şi agrava. Jurnaliştii reprezintă o parte din problema „infodemiei” cu care ne confruntam acum dacă aleg să transmită mesaje către public fără să verifice în prealabil dacă acestea sunt adevărate. Dacă aceştia transmit, de exemplu, un deepfake ca şi când ar fi adevărat, asta ar agrava problema. Pe lângă asta, jurnaliştii şi-ar pierde o parte din credibilitatea pe care publicul le-o acordă.

Dar jurnaliştii pot fi parte din soluţia problemei „infodemiei” şi sunt optimistă ca presa poate atinge acest ţel. Concret, jurnaliştii pot să verifice temeinic toate informaţiile pe care le publică, pot atrage atenţia oamenilor asupra dezinformării care circulă online. Atâta timp cât jurnaliştii îşi îndeplinesc sarcinile corect şi etic, aceştia pot fi o forţă a binelui în lupta cu dezinformarea.

 

Diferenţele de opinie cu privire la vaccinare şi pandemie au ajuns un important subiect de conflict în cadrul familiilor sau între cunoscuţi. Cum recomandaţi să se poarte o discuţie cu o persoană apropiată care refuză vaccinarea din cauză că ar fi o conspiraţie sau crede că pandemia nu există? Dar comunicarea oficială cu aceste persoane cum ar trebui să se deruleze?

O astfel de discuţie este dificilă. Cred că este important să ascultăm temerile oamenilor care încă refuză un vaccin şi să încercăm să înţelegem pe ce îşi bazează această decizie. În orice caz, nu are rost să jignim aceşti oameni sau să le dam porecle insultătoare - în Germania, unii oameni folosesc termenul "COV-idioţi", ceea ce nu este tocmai măgulitor, riscând să crească polarizarea societăţii şi să îngreuneze lupta împotriva pandemiei. Poate că unii oamenii nu au încredere în autorităţi pentru că se simt lăsaţi în urmă (de exemplu, pentru că salariul sau ajutorul social abia le permite să supravieţuiască). Poate că au trăit experienţe negative în spital şi nu mai au încredere în doctori (de exemplu, poate li s-a cerut şpagă înainte de o operaţie). Cred că este important să le acordăm dreptate oamenilor în punctele în care le putem da dreptate, dar să încercăm să explicăm că un număr copleşitor de studii atestă eficienţa vaccinurilor. Spus altfel, putem încerca să explicăm, de exemplu, că – deşi neîncrederea în autorităţi poate fi o atitudine potrivită în anumite situaţii – scepticismul multora pare exagerat în cazul pandemiei. De asemenea, am putea da exemple concrete de la noi din oraş sau din sat. De exemplu, am putea reaminti cuiva că „doamna Sandu” sau „nenea Tudose” s-au simţit bine după vaccin, dar că cei care au contractat COVID-19 au suferit rău şi că unii dintre ei chiar au murit. Pe lângă asta, am putea să le explicăm celor dragi de ce ţinem neapărat să se vaccineze – pentru că ţinem la ei, pentru că vrem să trăiască o viaţă lungă şi fericită şi pentru că suntem foarte îngrijoraţi pentru bunăstarea lor atâta timp cât continuă să refuze să se vaccineze. Comunicarea oficială ar putea sa se deruleze după acelaşi model. Cred că respectul este esenţial şi că nu ajungem nicăieri dacă îi privim cu dispreţ pe cei care nu s-au vaccinat încă. Mai degrabă trebuie să facem tot ce ne stă în putinţă pentru a pune capăt pandemiei împreună.

Care este provocarea cea mai mare care ne aşteaptă în 2022 din perspectiva dezinformării?

Cea mai mare provocare va rămâne faptul că, având în vedere multitudinea de afirmaţii adevărate şi false disponibile pe internet, oamenii pot alege ceea ce consideră că e adevărat. Evoluţiile tehnologice, precum cele care au permis apariţia deepfake-urilor, vor continua să ne preocupe. Experţii se tem că deepfake-urile rău intenţionate, care ar putea pune capăt unei cariere politice, vor fi folosite in campanii electorale, iar 2022 ar putea fi anul în care acest lucru devine realitate.

Zilele acestea asistăm la un scandal pornind de la cazul sportivului Novak Đoković. Credeţi că se poate cristaliza un profil al persoanelor care refuză să se vaccineze invocând ştiri false sau teorii ale conspiraţiei? Observăm că gradul de vaccinare este mai mic în statele din Estul Europei, foste comuniste – există vreo legătură între „moştenirea” dictaturilor de aici şi lipsa de încredere în beneficiile vaccinării?

 

Cred că mulţi oponenţi ai vaccinului anti-COVID-19 şi-au bazat decizia de a nu se vaccina pe ştiri false şi teorii conspiraţioniste. Statisticile pe care le menţionaţi, conform cărora refuzul vaccinării este mai pronunţat in Europa de Est decât în alte regiuni, îmi sunt cunoscute şi mie. Vedem ţări precum România şi Bulgaria în partea de jos a statisticilor de vaccinare, în timp ce ţări precum Danemarca şi Spania sunt în fruntea acestor statistici. Ştim ca persoanele cu un venit mai mic sau un nivel de educaţie mai scăzut sunt mai puţin probabil să fie vaccinate. Studiile existente sugerează, pe lângă aspectele menţionate deja, într-adevăr că cei care au trecut printr-un regim comunist au mai puţină încredere în autorităţi, ceea ce scade probabilitatea cuiva de a se vaccina împotriva Covid-19.

Cine este Viorela Dan

Locuieşte în Germania de aproape 20 de ani. A venit cu o bursă Erasmus pentru şase luni fără nicio intenţie de a se stabili aici. A vrut să înveţe limba germană, după care plănuia să se întoarcă în România. „Până la urmă, lucrurile au evoluat altfel. Cine a învăţat limba germană ştie că durează mai mult de şase luni. În cazul meu, a durat cam un an, un an şi jumătate. Iniţial, decideam la fiecare şase luni dacă mai vreau sa rămân aici sau nu. Timpul a trecut foarte repede şi după câţiva ani am încetat să mă întreb dacă mai vreau sa rămân sau nu. Acum mă simt aici ca acasă.”, detaliază Viorela Dan. A studiat în Thuringia, şi-a făcut doctoratul în Berlin şi acum, ca postdoc în München, se pregăteşte pentru o carieră de profesor universitar în Germania.

Vă mai recomandăm

De ce credem în teoriile conspiraţiei despre COVID-19 şi cum ne putem „imuniza” împotriva ştirilor false

Ingredientele ideale ale teoriei conspiraţiei: un complot, Ziua Judecăţii şi un „ţap ispăşitor”

Adauga Comentariu

Pentru a comenta, alege una din optiunile de mai jos

Varianta 1

Autentificare cu contul adevarul.ro
Creeare cont

Varianta 2

Autentificare cu contul de Facebook
Logare cu pseudonim

3 Comentarii

Dumitru Aioanei
19.01.2022, 09:34:30

Fals! Daca stii omul si te duce capul, iti dai seama ca e o facatura. Si pe net ai clipuri cu Melania Trump luata bine si pe toate partile, dar asta nu inseamna ca e ea. Oamenii politici nu mai sunt oameni, ei sunt discreditati prin definitie, asa ca ce sa mai discreditezi la ei? Nu sunt deja muci?

-9 (11 voturi)
adrian hora
19.01.2022, 09:51:00

nu vad cum ar putea jurnalistii sa controleze corectitudinea stirilor distribuite pe retelele de socializare. vad ca doamna dan nu a pomenit nimic de asta. asta apropo de lupta contra deepfake.

IonIon Codreanu
19.01.2022, 13:18:53

La noi Traian Remeș a pățit asta, în dosarul ”Caltaboșul” A demonstrat că probele erau false, dar pușcărie și discreditate tot a suferit! Nu se cunoaște cine i-a făcut-o, dar se poate presupune rezonabil că SRI a avut mijloace și oameni pentru asta, răspunzând la comandă politică! Lucrurile pot fi mult ma grave! Guverne pot crea astfel de clipuri, prin care să justifice războaie în fața maselor !

Modifică Setările