„16 ore de antrenament într-o linguriță.“ Reclamele deepfake lasă conturile goale, dar pun în pericol și sănătatea. Cum să nu cazi victimă escrocheriilor de pe internet
Atenție la greșelile de scriere, la dezacorduri, la mișcarea buzelor, indicii ale unui deepfake FOTO: Captură Facebook/Ruxandra Pleșea
Escrocii online au devenit din ce în ce mai creativi și au găsit noi modalități de a păcăli oamenii. Schemele clasice, cum ar fi mesajele false care cer informații personale sau cele cu promisiuni de câștiguri rapide, au fost completate de tehnici mai complexe și mai greu de detectat. Printre acestea se numără și utilizarea deepfake-urilor — videoclipuri falsificate cu ajutorul inteligenței artificiale, care pot părea reale.
„Mii de români au rămas cu conturile goale după ce au căzut în plasa reclamelor deepfake care circulă pe internet, iar fenomenul acestor escrocherii este în plină expansiune“, semnala publicația Recorder în luna iulie. Însă nu doar conturile ne sunt amenințate de aceste tipuri de reclame care folosesc imaginea unor specialiști cunoscuți, jurnaliști sau politicieni, a căror voce e modificată cu inteligența artificială pentru a transmite mesaje false. Unele dintre aceste reclame care circulă pe rețelele sociale ne pot pune în pericol serios sănătatea.
Un exemplu recent este cel al Ruxandrei Pleșea, medic specialist în diabet, nutriție și boli metabolice, a cărei imagine a fost folosită într-un videoclip deepfake pentru a promova un produs pentru slăbit. Dr. Pleșea a aflat despre acest incident de la colegii săi și a reacționat imediat, postând videoclipul pe pagina sa de Facebook, însoțit de următorul mesaj: „Aceasta este o știre FALSĂ! Nu mă ocup cu așa ceva, nu am nicio legătură cu lucrurile expuse mai jos, care sunt produse cu inteligență artificială, în scop malefic! Raportați această fraudă”.
Într-o conversație cu SmartLiving.ro, dr. Ruxandra Pleșea a menționat că videoclipul era atât de slab calitativ realizat, încât i s-a părut amuzant și că nu i-a afectat imaginea profesională. Cu toate acestea, și-a exprimat îngrijorarea în legătură cu faptul că tehnologia se va îmbunătăți, iar astfel de deepfake-uri ar putea deveni mult mai convingătoare și dificil de detectat.
Cum se face un deepfake
„Deepfake, termen folosit în limba engleză, dar adoptat și în vocabularul altor limbi ar putea fi tradus ca fals digital avansat. Pe baza inteligenței artificiale și a învățării profunde, se generează o imagine, videoclip sau sunete noi, care pot părea veridice la o primă vedere, dar de fapt sunt contrafăcute și au un scop nelegitim.“
Dana Curpen, expert IT (Tehnologia Informației)
Pentru producerea unui deepfake se folosesc mai mult sau mai puțin următorii pași, potrivit specialistei IT:
- Colectarea datelor pentru antrenare: o cantitate semnificativă de imagini/înregistrări sau sunete reale cu persoana în cauză care vor „hrăni“ rețelele neuronale folosite pentru AI (inteligența artificială).
- Antrenarea efectivă a rețelei neuronale de tip GAN (Rețea neuronală adversarială). Acest mecanism constă în folosirea a două rețele neuronale (rețeaua neuronală care generează fișierele media și rețeaua neuronală care încearcă să detecteze dacă rezultatul este fals sau veridic), care vor lupta concomitent pentru a o „învinge“ pe cealalaltă. Procesul va rula iterativ, cu ambele rețele îmbunătățindu-se gradual cu fiecare pas. Astfel, într-un final, complexitatea de elemente combinate de rețeaua generatoare va fi atât de mare, încât rețeaua neuronală detectoare nu va mai putea discerne între adevărat și fals. În acest moment, procesul automat se oprește.
- Transferul feței: în acest pas se înlocuiește fața persoanei din fișierul media cu fața altei persoane folosind o tehnică de mapare a trăsăturilor.
- Post producție: de regulă, fișierele media rezultate în urma procesului de deepfake conțin foarte multe erori care sfidează logica și necesită un efort susținut ori de reantrenare, ori editare și procesare pentru a aduce imaginile/înregistrările sau sunetele la un nivel convingător. Un ochi format va observa imediat diversele inadvertențe.
Exemple de deepfake
Reclamele deepfake sunt folosite în diverse scopuri, de la divertisment și creație digitală până la dezinformare, fraudă și manipulare politică. Pot fi utilizate pentru a crea conținut umoristic sau artistic, dar și pentru a înșela oamenii prin falsificarea declarațiilor publice, compromiterea reputației sau răspândirea de știri false, fiind astfel o armă digitală cu potențial periculos.
Iată câteva exemple cunoscute de deepfake-uri, în care au fost implicate personaje celebre:
Jordan Peele și Barack Obama: în 2018, regizorul și actorul Jordan Peele a creat un deepfake al fostului președinte american Barack Obama, în care acesta pare să facă declarații șocante. Videoclipul a fost creat pentru a demonstra cât de ușor pot fi manipulate imaginile video și cât de periculoase pot fi deepfake-urile.
Tom Cruise: un cont de TikTok denumit @deeptomcruise a devenit viral datorită videoclipurilor care par să-l arate pe actorul Tom Cruise făcând diverse lucruri amuzante sau bizare. Deși la prima vedere par reale, aceste clipuri sunt, de fapt, deepfake-uri foarte bine realizate.
Nancy Pelosi: un videoclip fals al politicianului american Nancy Pelosi a fost modificat pentru a-i încetini și distorsiona vocea, făcând-o să pară beată sau confuză. Acest exemplu este un caz de manipulare video mai degrabă decât un deepfake complet, dar a avut un impact semnificativ.
Robert De Niro: în filmul „The Irishman” (2019), regizat de Martin Scorsese, specialiștii au folosit efecte vizuale pentru a-i întineri pe Robert De Niro, Al Pacino și Joe Pesci. Ulterior, un fan a realizat un deepfake considerat chiar cu mult mai bun decât originalul, pentru că a păstrat trăsăturile naturale ale actorilor „întineriți”.
Mark Zuckerberg: în 2019, un deepfake video cu Mark Zuckerberg, CEO-ul Facebook, a fost creat și distribuit online. În video, Zuckerberg părea să facă declarații despre puterea de a controla datele personale ale utilizatorilor, lucru care a generat discuții intense despre etica și responsabilitatea rețelelor sociale în gestionarea conținutului falsificat.
Cum recunoști videoclipurile falsificate
În procesul de creare a unui deepfake, pot apărea mai multe inadvertențe sau defecte care necesită corectare prin post-procesare pentru a face rezultatul final cât mai realist. Aceste inadvertențe includ:
- Sincronizarea buzelor și a vocii: buzele și vocea nu sunt sincronizate perfect, ceea ce ne poate face să recunoaștem un deepfake.
- Imagini distorsionate: pot apărea distorsiuni sau „artefacte” ale imaginii, cum ar fi texturi neuniforme, margini blurate sau schimbări bruște ale luminozității.
- Expresii faciale nerealiste: expresiile faciale generate de AI pot părea nenaturale sau inadecvate contextului.
- Probleme de integrare a feței cu fundalul: un chip falsificat poate să nu se integreze bine cu fundalul sau corpul persoanei, rezultând în margini vizibile sau o diferență de iluminare.
- Deformarări: fața generată poate fi ușor decalată față de poziția corectă sau poate prezenta deformări, mai ales în cazuri de mișcări rapide sau unghiuri neobișnuite.
- Fluctuații între cadre: pot apărea fluctuații între cadre sau neuniformități în detaliile feței, ceea ce dă un aspect nenatural și discontinuu.
Toate aceste erori pot fi corectate manual sau cu ajutorul unor programe speciale, dar, conform expertului IT, procesul de postproducție este costisitor și necesită abilități avansate de editare, ceea ce explică de ce majoritatea deepfake-urilor sunt de proastă calitate, iar cele de calitate ridicată sunt foarte rare, deocamdată.
„Deși există instrumente software și tehnologii specifice pentru detectarea reclamelor deepfake, acestea nu sunt încă suficient de avansate pentru a identifica toate falsurile. Aceste soluții, care se bazează pe tehnici de analiză și învățare automată, sunt în plină dezvoltare și se vor îmbunătăți în timp. Cu toate acestea, utilizatorii trebuie să rămână vigilenți și bine informați, deoarece chiar și cu instrumente mai performante, atenția va fi întotdeauna esențială în detectarea deepfake-urilor.“
Dana Curpen, expert IT
