Ajutor, altcineva vorbește cu numărul!

A început ca o noutate tehnologică amuzantă, transformată într-o înșelătorie periculoasă și o amenințare inevitabilă: ne întoarcem la ceea ce este deepfake.

În jurul sfârșitului de mileniu, chiar și în superproducțiile cu buget de milioane ale celor mai mari studiouri de film de la Hollywood, a existat doar posibilitatea de a schimba fețele actorilor cu o muncă minuțioasă, de multe ori de luni sau chiar ani, pentru a pune trăsăturile decedatului. pe fața dubberilor, ca în unele scene din Raven.între timp a murit cu trăsăturile lui Brandon Lee. Deci, pe atunci, acesta nu era deloc un fenomen de zi cu zi, dar a fost nevoie de mai puțin de două decenii pentru ca oricine să facă schimbări de cap credibile în filmele în cel mai scurt timp.

De asemenea, în numele tehnologiei numite deepfake, ceea ce a făcut totul posibil: inteligența artificială și învățarea automată, adică învățarea profundă. Astăzi, comutarea digitală a capului nu mai este vorba despre graficieni, programatori și șmecheri care tachinează filme din cadru în cadru: în schimb, ei lasă algoritmii automați ai creierelor mașinii să se transforme în conținut. Despre ce vorbim? De exemplu, s-ar putea să doriți să vizionați videoclipul de mai jos, care face parte dintr-o serie care a primit o mulțime de mediatizare în urmă cu câteva luni. Iată filmul Glow, iar fața lui Jack Nicholson este baza pe care inteligența artificială „trage” atât de abil fața lui Jim Carrey, încât cicatricile chirurgicale digitale sunt aproape invizibile. În primul rând, să vedem o comparație, în stânga fotografiei inițiale, în dreapta versiunii pseudo-Carrey gândită a mașinii:

Deci, cum s-au întâmplat toate acestea, în timpul cărora versiunea stângă Carrey, împreună cu expresiile faciale și mișcările gurii, au suprascris complet fața originală? Important, Jim Carrey nu a avut nimic de-a face cu cerul, cel puțin nu direct. El nu a fost implicat în realizarea videoclipului și poate că nici măcar nu știa că acest proiect există. Capul său, mișcarea și jocul feței au fost colectate și aplicate sarcinii actuale de către o mașină de inteligență individuală.

Cât funcționează deepfake?

Inteligenței artificiale i se oferă videoclipul folosit ca sursă.
MI mapează fața persoanei, mișcarea, expresiile faciale, sincronizarea gurii și orice alte detalii (iluminare, efecte) necesare pentru a produce un videoclip deepfake ulterior.
MI (prin medierea umană, desigur) primește apoi o tonă de imagini ale persoanei a cărei față dorim să o înlocuim pe cea a personajului original. Algoritmul scanează mii (și chiar milioane, în funcție de lungimea și complexitatea sarcinii) de cadre, unde „capul de schimb” apare în toate unghiurile, expresiile faciale, iluminatul și alte modificări.
În cele din urmă, acest algoritm atrage, de asemenea, noua față cadru cu cadru pe baza criteriilor înregistrate în videoclipul sursă, folosind întotdeauna cea fotografiată din baza de date scanată care se potrivește cel mai bine originalului. De asemenea, „procesează” articulațiile și unifică luminile, astfel încât să nu vedem cât durează capul original și unde începe fața nou desenată.
Aceste cadre se reasamblează într-un film și, practic, fără intervenția umană, se creează automat un videoclip în care privitorul nu a observat sau abia a observat că cineva a cărui față o vedem nu vorbește, nu se mișcă, zâmbește, nu strigă sau plânge.

Acest lucru a fost incredibil de interesant până acum și uneori poate fi chiar amuzant. Un exemplu este scena în care se schimbă fețele a două foste stele rivale: în scenele din Terminator 2, Arnold Schwarzenegger este înlocuit de Sylvester Stallone în rolul principal:

Deși este încă relativ dificil să accesați o aplicație deepfake pe care noi înșine o putem descărca și folosi gratuit, aplicațiile (mai ales încercări chinezești) care au un pic de funcționalitate limitată, dar permit oricui să facă pseudo-videoclipuri destul de acceptabile cu propriile fețe au deja a început să scurgă. pregătește-te. Un exemplu este Zao, care a câștigat multă popularitate în scurt timp, în ciuda faptului că nu a fost „admis” oficial nici la Google Play, nici la App Store. Și apoi să explicăm de ce nu - deepfake nu este doar un joc și un basm.

Omul care nici măcar nu era acolo

Nu întâmplător am ales titlul unui film ca subtitlu. Acest lucru se datorează faptului că deepfake, la fel ca toate noile tehnologii din lume, are exact același efect ca pentru ce este folosit. Deci, există o soluție digitală inventată pentru divertisment în sine, care la rândul său este excelentă pentru aplicații mai nefavorabile. Deepfake este potrivit pentru tot felul de afaceri întunecate tocmai pentru că, pe lângă faptul că este folosit de aproape oricine are din ce în ce mai puțină expertiză, soluția rafinată aproape zilnică devine mai greu de observat dacă cineva nu știe ce să caute. Ca o acordare, să venim cu un videoclip (dar și complet benign), care este mult mai mult decât oricând înainte, că aici fața lui Arnold Schwarzenegger este aplicată capului unui comedian (Bill Hader) care îl imită într-un spectacol live. Să observăm că de fiecare dată când vedeta austro-americană vorbește în vocea persoanei, fața se transformă imediat și, în acest caz, nu ne putem împăca decât cu turbulența din cauza părului sau a masei musculare:

După cum am scris, obiectivul aici este încă doar divertisment, dar este posibil să vedeți deja ce vrem să punem la punct. Dacă, pe lângă imaginea perfect transformată, alte circumstanțe (cum ar fi fizicul, părul și în special tonul persoanei care înlocuiește fața) pot fi adaptate la originalul persoanei care urmează să fie copiată, înșelătoria perfectă este deja făcută . Acest lucru se datorează faptului că majoritatea oamenilor încă mai cred ceea ce văd - nu numai pentru că majoritatea oamenilor nu sunt încă conștienți de natura escrocheriilor profunde și similare, dar suntem adesea codificați psihologic să credem ceea ce vrem să vedem, chiar și cu o credibilitate vagă. Și apoi vine un astfel de videoclip:

În acest scurtmetraj, la prima vedere, vorbește Barack Obama, fostul președinte american. Fața, fundalul, tonul, tonul sunt perfecte, bine. Poate că este ciudat că el doar vorbește despre faptul că, în lumea de astăzi, putem spune deja orice cu inamicii noștri și putem obține câteva exemple instantanee ale acestuia. Abia atunci se dovedește că vocea aparține unei personalități de televiziune pe nume Jordan Peele, care imită perfect discursul lui Obama. Scopul videoclipului încă nu este inversarea, de fapt: este exact ceea ce încercăm să atragem pe toată lumea din acest articol pentru a încerca să atragem atenția. Deepfake a ieșit din categoria simplă glumă pe web și a devenit o amenințare reală.

De acum înainte, se poate întâmpla în orice moment ca un politician să apară într-un videoclip, îndemnându-i pe oameni să revoluționeze, să nu mai lucreze, să agreseze împotriva vreunei etnii sau a altor abateri. S-ar putea să existe un cunoscut actor, muzician sau lider de opinie care să-și mărturisească unele păcate într-un videoclip - sau chiar îl putem vedea comitându-l. Și dacă masa credulă acordă credit celor văzute, pot începe procesele care vor fi oprite de o minoritate care încearcă în zadar să susțină că totul a fost o înșelătorie.

Nu-ți crede ochilor!

Experții subliniază în mod clar, în legătură cu răspândirea fenomenului deepfake, că, după un timp, dispozitivele digitale ale utilizatorilor nu vor mai putea identifica în mod clar astfel de înregistrări falsificate. De aceea este esențial să ne folosim de bunul simț atunci când apar orice videoclip sau știri fotografice puțin ciudate, greu de crezut sau pur și simplu ieșite din comun. La urma urmei, odată cu generalizarea tehnologiei, ajungem, din păcate, la punctul în care nu numai politicienii, artiștii, celebritățile și influenții vor fi ținta producătorilor de falsuri rău intenționate, ci mai ales a oricui. Dacă cineva dorește să se răzbune pe un exe sau pur și simplu nu poate procesa o respingere, poate face cu ușurință un „videoclip pentru adulți” al celeilalte părți pe care îl poate răspândi în rușine sau chiar șantajează persoana vizată publicându-l, dar poate, de asemenea, să fie folosit de obiective economice rău intenționate, de beneficii la locul de muncă, este suficient să atragă fața șefului, a managerului companiei rivale sau chiar a unuia dintre partenerii importanți la o lovitură aparent compromițătoare.

O lume nouă drăguță? Ei bine, este destul de frumos, deoarece deepfake, pe lângă pericolele de mai sus, poate fi în continuare excelent pentru uz artistic, de la filme semi-animate la videoclipuri muzicale până la jocuri video sau poate fi o aplicație de modă distractivă pentru public pe telefonul tuturor. Dar nu este rău să fim conștienți de pericolele prezentate aici doar pentru a putea fi pregătiți să așteptăm răspândirea noii metode și putem judeca cu ușurință că în spatele măștii perfecțiunii există doar un truc rău intenționat.