Cât de departe a ajuns tehnologia deepfake. Atenție la aceste mesaje!

Sursă foto: Pinterest

Tehnologia pentru manipularea înregistrărilor video devine din ce în ce mai sofisticată și totodată tot mai accesibilă publicului larg, astfel încât distincția dintre adevărat și fals ar putea fi foarte greu de făcut. Invitat miercuri în emisiunea Puterea Știrilor, Dan Cîmpean, şeful Directoratului Naţional de Securitate Cibernetică, a explicat faptul că inteligența artificială care rezultă în deepfake-uri a început, din ce în ce mai mult, să fie utilizată în atacuri cibernetice.

Dan Cîmpean a dat și un exemplu în acest sens: un administrator de sistem IT poate primi un mesaj înregistrat audio sau video din partea unui coleg sau a șefului ierarhic, mesaj complet fals, prin care să i se ceară să dea acces la o anumită platformă, să reseteze o parolă, să facă o schimbare de configurație sau orice altfel de altă activitate pe care un administrator o poate face.

„Într-adevăr, tehnologiile acestea avansate, inteligența artificială care rezultă în deepfake-uri, fie că sunt imagini statice, fie că sunt video, fie că sunt mesaje audio, începe din ce în ce mai mult să fie utilizată în atacuri cibernetice. Mai ales în partea de inginerie socială, in care utilizatorul standard este păcălit efectiv printr-un astfel de mesaj video, audio sau o imagine care poate fi un document fals, pur și simplu o fotografie falsă, este păcălit în a lua o anumită decizie sau un efectua o anumită activitate. Ca să dau un exemplu foarte simplu: un administrator de sistem IT poate primi un mesaj înregistrat audio sau video din partea unui coleg sau a șefului ierarhic, mesaj complet fals, prin care să i se ceară să dea acces la o anumită platformă, să reseteze o parolă, să facă o schimbare de configurație sau orice altfel de altă activitate pe care un administrator o poate face.

Deci, observăm în mod sistematic că se încearcă utilizarea unor astfel de tip deepfake-uri pentru a sprijini, pentru a susține atacuri cibernetice menite să compromită conturi de utilizator, să obțină acces neautorizat la sisteme și date, să compromită buna funcționare a unor astfel de sisteme. Deci, în termeni de confidențialitate, integritatea datelor, disponibilitate ș.a.m.d. Deci este doar un instrument, din păcate, în arsenalul atacatorilor, instrument la care devin din ce în ce mai buni. Din fericire există și contra-măsuri și, așa cum s-a menționat, există o parte legislativă, dar există și partea de conștientizare a utilizatorului. În primul rând, partea de conștientizare că nu orice mesaj video și nu orice mesaj audio și nu orice imagine pe care o primim printr-un canal sau altul este întotdeauna legitimă, întotdeauna reală”, a declarat Dan Cîmpean, şeful Directoratului Naţional de Securitate Cibernetică.

 

Ce sunt deepfakes?

Manipularea imaginilor cu ajutorul unor instrumente precum Photoshop a fost mult timp un cuțit important în sertarele escrocilor. Editarea imaginilor este folosită în mod obișnuit de escroci pentru a crea identități false, documente false, aprobări false ale unor celebrități și multe altele. Tehnologia Deepfake le permite escrocilor să ducă falsificarea la nivelul următor prin crearea de videoclipuri cu persoane care spun și fac lucruri pe care nu le-au spus sau făcut niciodată. Deepfakes pot fi create folosind imagini, videoclipuri și audio.

Deepfakes se numesc astfel deoarece au fost posibile datorită unei ramuri a „învățării profunde” numită Generative Adversarial Networks (GAN). GAN-urile se bazează pe tehnologia „rețelelor neuronale”, dar, în timp ce rețelele neuronale pot fi folosite doar pentru a percepe cantități mari de date, GAN-urile au oferit rețelelor neuronale capacitatea de a crea conținut nou.

Deepfakes s-au propagat datorită spiritului open-source al comunității de învățare automată. Progresele în cercetarea în domeniul modelării generative sunt, în general, puse la dispoziție gratuit pentru ca oricine din lume să le poată descărca și utiliza. Ca urmare, numărul de deepfakes a explodat de-a lungul anilor, iar guvernele se străduiesc să formuleze reglementări, temându-se că falsurile extrem de credibile pot avea un impact negativ asupra societății.

Escrocherii deepfake

Orice tehnologie care are potențialul de a schimba lumea poate fi folosită pentru bine sau pentru rău. Deepfakes au o multitudine de aplicații pozitive, cum ar fi aducerea „înapoi la viață” a celor decedați, o mai bună schimbare a fețelor în industria cinematografică, educație interactivă, marketing imersiv și multe altele. Din păcate, există și o latură întunecată care include o serie de escrocherii deepfake diferite:

  • Imitația: Deepfakes fac ca imitarea altor persoane să fie mai ușoară ca niciodată. În 2019, un deepfake de voce a fost folosit pentru a înșela un CEO cu 243.000 de dolari. Directorul general al unei firme de energie cu sediul în Marea Britanie a crezut că vorbea la telefon cu directorul general al companiei-mamă germane a firmei atunci când a urmat ordinele de a transfera imediat 220.000 de euro în contul bancar al unui furnizor maghiar. De fapt, vocea aparținea unui escroc care folosea tehnologia vocală AI pentru a-l imita pe directorul executiv german.
    Într-un alt caz, un utilizator necunoscut a creat un cont TikTok fals pentru actorul Robert Pattinson, care nu are niciun cont pe rețelele de socializare. Contul a câștigat peste 660.000 de urmăritori și milioane de like-uri înainte de a dispărea în mod misterios.
  • Catfishing: Escrocheriile de tip catfishing implică escroci care adoptă identități false folosind imagini ale unor persoane sau celebrități aleatorii. Una dintre modalitățile mai ușoare de a prinde un catfish era să îi ceri să apară pe video, deoarece acest lucru nu era ceva ce putea fi falsificat. Acest lucru s-a schimbat odată cu existența deepfakes, deoarece escrocii catfish pot crea acum videoclipuri convingătoare ale persoanei pe care o imită, conținând mesaje personalizate.
  • Susținerile false: După cum am dezvăluit în raportul ScamAdviser privind starea globală a escrocheriilor 2022, escrocheriile de investiții sunt acum cea mai răspândită escrocherie de pe internet. Infractorii cibernetici au început să folosească deepfakes pentru a promova scheme frauduloase, cum ar fi platforma „BitVex”, care a fost „aprobată” de un deepfake al lui Elon Musk. Aceștia au făcut reclamă înșelătoriei folosind interviuri legitime modificate cu ajutorul tehnologiei deepfake pentru a folosi vocea lui Musk într-un scenariu furnizat de escroci.
  • Deepfake Pornografie și șantaj: Pornografia este încă un tabu major în majoritatea societăților și poate duce la orice, de la jenă la excludere socială pentru persoanele care apar în videoclipurile pornografice. Au fost raportate cazuri de bărbați respinși care au creat deepfakes de femei pentru a le șantaja. Deepfake pornografic este, de asemenea, o preocupare majoră pentru celebrități ale căror fețe au fost folosite fără consimțământ pentru a crea videoclipuri în care sunt implicate în acte sexuale.

Cum să depistați deepfake-uri

În primele zile ale deepfakes, depistarea unui deepfake era la fel de simplă ca și observarea dacă ochii clipesc. Ochii care nu clipeau semnalizau un deepfake, deoarece tehnologia nu era suficient de avansată pentru a crea ochi care clipesc. Pe măsură ce tehnologia se îmbunătățește, devine din ce în ce mai dificil de identificat un deepfake. Cu toate acestea, există totuși câteva semne pe care le puteți observa dacă sunteți foarte atenți:

  • Sincronizare necorespunzătoare a buzelor
  • Clipitul nefiresc
  • Mișcări bâlbâite
  • Umbre lipsă și iluminare nefirească
  • Părul nemișcat sau mișcarea nefirească a părului

În general, deepfakes au tendința de a avea efectul „uncanny valley”, în care creierul simte că ceva nu este natural. Pentru a combate focul cu foc, sunt în curs de dezvoltare instrumente care folosesc inteligența artificială pentru a identifica deepfakes. Tehnologia deepfake se îmbunătățește rapid și, prin urmare, este imperativ să rămâneți în alertă și să urmăriți semnele de avertizare ale escrocheriilor deepfake.

Autor

  • Marinela Anghelus

    Redactor-șef PS News, coordonează echipa de jurnaliști ai PS News din 2017. Are o experiență de peste 8 ani în presa online. Înainte de a intra în presă, a ocupat poziția de consilier parlamentar pentru 2 ani, în perioada 2013-2015. În aceeași perioadă a făcut parte din echipa de specialiști digitali ai unei mari corporații din Statele Unite ale Americii - Lotus Interworks. Este absolventă a Facultății de Științe Politice a Universității București și a unui master de Relații Internaționale și Studii Europene la aceeași facultate. Ulterior, a urmat și cursuri de prezentator TV la Academia „Studiourile Buftea”.

Urmărește știrile PSNews.ro și pe Google News

Citește și:

Media PNL