În mijlocul erei digitale, îngrijorarea cu privire la știrile false a ocupat din ce în ce mai mult atenția organizațiilor publice, a mass-media și a personalităților de tot felul. Nu degeaba, Fake News a avut o oarecare importanță în procesele electorale importante, cum ar fi alegerile prezidențiale ale Statelor Unite din 2016, referendumul privind ieșirea Regatului Unit din Uniunea Europeană sau generalii din Brazilia care au dat victoria lui Bolsonaro.
Fără să trebuiască să meargă atât de departe, în țara noastră, Facebook a trebuit să închidă recent trei mari rețele de extremă dreaptă care, prin 30 de pagini, grupuri și conturi duplicate au acumulat peste un milion și jumătate de adepți și peste 7 milioane de interacțiuni . Aceste grupuri au fost dedicate răspândirii farselor și imaginilor false.
Dar acum ne confruntăm cu un alt tip de amenințare digitală care generează noi dureri de cap. Vorbim despre așa-numitul Deepfake, un termen care apare din combinația dintre „Învățare profundă” și „Fake”. Practic este o formă de inteligență artificială care permite oricărui utilizator să editeze videoclipuri și audio false ale unor persoane care par reale. Pentru aceasta, se utilizează rețele antagoniste generative (AGR) , un fel de algoritm care poate crea noi tipuri de date din alte seturi care există deja.
Pe scurt, „deepfakes” sunt încă o formă de manipulare digitală și una dintre cele mai susceptibile de a fi utilizate pentru „trolling” în cele mai bune cazuri. Dar cum le putem detecta? Și, mai presus de toate, ce se face de către instituțiile și companiile private pentru a preveni consecințele sale dezastruoase? În acest special, vom revedea eforturile care sunt depuse pentru a opri acest nou flagel digital.
De ce sunt deepfakes atât de periculoase?
Tehnologia „deepfake” ne permite să înlocuim cu ușurință fața unei persoane cu cea a altuia, ca și cum ar fi un fel de mască sau mască digitală, pentru a ne face să credem că a spus anumite lucruri care nu au avut loc cu adevărat . După cum puteți ghici, aceste tehnici au o serie de implicații destul de semnificative pentru a determina legitimitatea informațiilor care circulă pe internet.
Deși sunt adesea folosite pentru a crea videoclipuri pline de umor, adevărul este că „deepfakes” au un potențial negru de a distruge imaginea publică a unei persoane sau de a influența opinia publică prin utilizarea dezinformării. Din păcate, trebuie să vă spunem că această utilizare abuzivă este mai răspândită decât ne-am dori și ar trebui să adăugăm cu un succes enorm.
Un exemplu clar este în aplicația DeepNude, care v-a permis să încărcați imaginea unei persoane cu haine și să creați una nouă a aceleiași persoane goale . Din fericire, este deja închis, dar trebuie să subliniem ușurința utilizării acestui tip de instrumente pentru care nu sunt necesare cunoștințe de editare, deoarece algoritmul însuși face toată treaba.
În cazul DeepNude, platforma a oferit rezultate incredibil de realiste și a fost complet accesibilă prin intermediul site-ului său web pentru Windows și Linux . Și, așa cum era de așteptat, montajele cu vedete precum Katy Perry sau Gal Gadot nu au întârziat să apară pe rețea, până la punctul în care presiunea avocaților acestor actrițe nu s-a oprit până când site-urile importante de conținut pentru adulți au eliminat videoclipurile. .
Acesta este doar vârful aisbergului cu privire la capacitatea de manipulare pe care o pot avea aceste tipuri de aplicații. Acum imaginați-vă consecințele unei campanii de acest tip îndreptată împotriva unei anumite figuri politice pentru a manipula un proces electoral într-o țară sau o regiune. Răul nu cunoaște limite.
Cum se luptă cu deepfakes?
Una dintre primele companii care s-a pronunțat a fost nimeni alta decât Google, care și-a anunțat voința fermă de a combate deepfakes și, după cum se spune în aceste cazuri, focul stinge focul. Gigantul tehnologic a confirmat lansarea unei baze de date întregi de până la 3.000 de videoclipuri manipulate cu inteligență artificială (deepfakes) care au fost create special pentru a ajuta la rafinarea instrumentelor de detectare ale cercetătorilor.
Pentru a face acest lucru, Google a angajat actori adevărați pentru a-și înregistra fețele și a le folosi ca punct de referință pentru a stabili dacă un videoclip a fost modificat artificial. Folosind metode de generare deepfake disponibile pentru toată lumea, mii de deepfakes sunt create din aceste înregistrări.
Videoclipurile rezultate, reale și false, sunt încărcate pe platforma de dezvoltare colaborativă GitHub, astfel încât cercetătorii să înțeleagă pe deplin ce produce sistemul. Această bază de date, așa cum spunem, este complet accesibilă, deși va trebui mai întâi să vă dea permisiunea .
La rândul său, Facebook intenționează să creeze o bază de date similară până la sfârșitul acestui an. Potrivit șefului său executiv, Mark Zuckerberg, principala problemă este că industria nu are un sistem standardizat pentru a le detecta . De aceea, a făcut echipă cu Asociația AI, Microsoft și academicieni de la Cornell Tech, MIT, Oxford, UC Berkeley, University of Maryland, College Park și University of Albany-SUNY pentru a construi Deepfake Detection Challenge. (DFDC pentru acronimul său în engleză).
Acest macro proiect va include o bază de date extinsă și o clasificare detaliată , pe lângă ajutorul financiar și donațiile pentru a încuraja cât mai mulți colaboratori posibil. Ideea este de a crea un fel de comunitate care să ajute la detectarea și evitarea videoclipurilor manipulate printr-un AI.
Nu există nicio îndoială că proliferarea „deepfakes” a devenit o problemă foarte gravă, cu consecințe grave care nu pot fi ignorate. Deși măsurile propuse de principalii agenți dedicați acestei cauze pot părea impracticabile, sau chiar contraproductive, pe termen lung, ele pot fi singura modalitate de eradicare a acestei infracțiuni. Deși poate părea contraintuitiv, combaterea „deepfakes” cu mai multe „deepfakes” va ajuta instrumentele de detectare să absoarbă mai multe date pentru a le ajuta să localizeze mai ușor aceste tipuri de montaje .