Istraživačka priča – Deepfake fenomen: Napredna forma dezinformacija kao prijetnja demokratskom diskursu i konceptu slobode izražavanja
Istraživačka priča - Deepfake fenomen: Napredna forma dezinformacija kao prijetnja demokratskom diskursu i konceptu slobode izražavanja
Piše: Amina Vatreš
Brojni teoretičari masovnih komunikacija i njihovih implikacija na društvo saglasni su u tome da deepfake fenomen zasigurno predstavlja svojevrsnu prekretnicu u kontekstu produciranja i diseminacije lažnih sadržaja, poglavito unutar novomedijske paradigme. Deepfake se simplificirano može definirati kao hiperrealistična forma digitalne falsifikacije audio i video sadržaja, podržana rapidnim napretkom u domenu umjetne inteligencije. Riječ je zapravo o fabrikovanom videozapisu posredstvom kojeg je omogućeno prikazivanje potpuno iskrivljene slike stvarnosti, slike nastale u skladu s implicitnom intencijom njenog autora. Naime, manipulacijom prethodno postojećeg audio-vizuelnog sadržaja, deepfake pruža mogućnost diseminacije izrazito realističnog prikaza onoga što se u stvarnosti zapravo nikada nije dogodilo. Caldera (2020) u svom radu navodi kako je deepfake kao tehnološki novum u rasponu od oko godinu dana napredovao do te mjere da se gotovo ne razlikuje se od autentičnih videozapisa. „Koristeći mješavinu umjetne inteligencije i mašinskog učenja, tehnologija koja stoji iza njega samo će nastavi napredovati“ (Caldera 2020: 178) Uvjerljiva vizualizacija i auditivna pozadina, kao i nemogućnost jasnog razlikovanja istinitog od lažnog izdvajaju se kao najznačajniji činioci višedimenzionalnih socijalnih reperkusija deepfakea. Ne treba izostaviti ni činjenicu da je deepfake inicijalno i baziran na manipulaciji prirodnom ljudskom tendencijom čulnog opažanja, odnosno oslanjanja na čulo vida i sluha prilikom recepcije i usvajanja novih informacija. Sukladno prethodno istaknutom, upravo se navedeni segment sadržan u preplitanju fikcije i faktografije gdje vještački konstruirano biva predstavljeno kao realno i empirijski utemeljeno, smatra najopasnijom dimenzijom deepfake fenomena.
„Kao ljudska bića imamo visceralnu reakciju na audio i video sadržaj. Vjerujemo da je istinit, pod pretpostavkom da naravno možemo vjerovati onome što nam govore vaše oči i uši. To je mehanizam koji bi mogao potkopati naš zajednički osjećaj za stvarnost.” – Danielle Citron, 2019, „Kako deepfake potkopava istinu i prijeti demokratiji“
Uprkos neospornoj činjenici da se fenomen lažnih vijesti, kvantitativno najzastupljeniji u okvirima internetskog diskursa, ne može klasificirati kao nova kategorija, izazov u smislu njegove identifikacije i promptne tehnološke dekonstrukcije postaje sve većim.
Kao jedan od najeklatantnijih primjera deepfakea koji je privukao pažnju medija i javnosti na globalnom planu je i alternativna verzija božićne čestitke kraljice Elizabete II u kojoj izgovara ono što u stvarnosti zapravo nikada nije. Posebno je zanimljivo to što je ovaj deepfake emitiran na britanskom kanalu Channel 4 u cilju upozorenja medijskih recipijenata na mogućnost izrazito realistične digitalne falsifikacije video formata svjetski utjecajnih osoba.
Foto: Uvjerljivi deepfake britanske kraljice Elizabete II
(izvor: , pristupljeno 29.6.2021.)
Valja istaći i to da kao niti jedan drugi društveno-tehnološki novum, ni deepfake nije inherentno maliciozna, odnosno inherentno benigna pojava. U ovisnosti od aktera koji se nalaze u pozadini njegove konstrukcije, imat će kako pozitivnu, tako i negativnu dimenziju svoje manifestacije u društvenom kontekstu. Iako je deepfake pokazao djelotvornost u okvirima zabavne industrije, edukacijske sfere i umjetnosti, njegov destruktivni potencijal na koji upućuji brojni relevantni autori i savremeni mislioci izuzetno je zabrinjavajući. Poseban prostor pogodan za manipulaciju recipijentima očituje se i u predstavljanju i distribuciji deepfakea kao sadržaja namijenjenog isključivo satiri i zabavi, čime se neophodno razmatranje negativne strane njegove pojavnosti pokušava potisnuti u sporedni plan. Pretpostavimo li postojanje maliciozno motiviranih aktera koji će ovu naprednu tehnologiju koristiti u cilju raspirivanja mržnje, poticanja postojećih i kreiranja novih netrpeljivosti, različitih antagonizama i sukoba, deepfake može rezultirati mnogostrukim negativnim, pa čak i katastrofalnim konsekvencama za pojedince, ali i društva u cjelini. Rizici na taj način sežu od difamacije individua, ranjivih i manjskih društvenih grupa, svjetski utjecajnih ličnosti, odlučujućih reperkusija na rezultate važnih političkih izbora pa sve do izazivanja sukoba svjetskih razmjera. Pritom se društveni mediji nameću kao najznačajniji kanal njegove diseminacije i to prevashodno zbog dereguliranosti ovog područja, a ništa manje značajno i zbog brzine širenja, kao i nedostatne verifikacije plasiranih informacija. Rezultati najnovije studije koju su sproveli Dobber et al. (2021) ukazuju na to da je samo 12 od ukupno 278 sudionika prikazani videozapis prepoznalo kao deepfake, a da čak 75% od ukupnog broja učesnika uopće nije znalo da ova hiperrealistična forma lažnih vijesti uopće postoji. No, srazmjerno upoznatosti recipijenata s mogućnošću kreiranja i nezakonitog korištenja ovog tipa videozapisa, padat će i povjerenje javnosti kako u sam sadržaj društvenih medija, tako i u druge demokratske institucije. S druge strane, recipijenti su suočeni i s naličjem navedenog fenomena. Naime, ukoliko postoji opća svijest o postojanju deepfakea čak i stvarni događaji mogu se pripisati tehnološkoj konstrukciji i tako izbjeći odgovornost za određeni postupak. Nadalje, svojevrsna sinteza pada povjerenja i propadanja vrijednosti objektivne istine u značajnoj mjeri devalvirat će kako novinarstvo i diskurs slobode govora, tako i dovesti do erozije demokratije u njenom fundamentalnom značenju. U takvom (dez)informacijskom sistemu, ireverzibilno se transformira i konvencionalna uloga medijskih organizacija kao „čuvara demokratije“. K tome, shodno rastu stepena nepovjerenja javnosti teret korjenite verifikacije sadržaja nerijetko prelazi s novinara na same recipijente. Zamislimo li uvjerljivi deepfake utjecajnog političara kojim se prikazuje određena afera ili koruptivna radnja i dodamo li tome da je diseminiran primjerice noć prije značajnih političkih izbora, jasno je da će i finalni rezultati izbora u izvjesnoj mjeri biti afektirani. Neosporno je da će ovakav politički motiviran deepfake imati ogroman broj dijeljenja prije negoli uopće bude dekonstruiran i označen kao lažna vijest. Prema Brown (2020) mogućnost rapidne distribucije deepfake sadržaja na socijalnim medijima zabrinjavajuća kao i samo postojanje deepfake fenomena. S tim u vezi, deepfake predstavlja gotovo nepremostiv problem za konvencionalno shvaćanje slobode govora koja u digitalnom dobu nerijetko biva zloupotrebljena. To dovodi do posve paradoksalne situacije gdje se pod velom narativa o slobodi govora opravdava zloupotreba tuđeg lica i glasa za promociju vlastitih ideja, stanovišta i na individualan način shvaćenog koncepta slobode izražavanja. Jasno je – deepfake je mnogo više od isključivo tehnološkog problema. Riječ je o veoma značajnom društvenom problemu s višedimenzionalnim društvenim implikacijama, a čijom se ekspanzijom razotkrivaju i neophodna ograničenja slobode izražavanja.
U najkraćem, deepfake fenomen nedvojbeno iscrtava konture jedne nove epohe, epohe unutar koje ne može vjerovati čak ni onome što čujemo i vidimo. U nedostatku dugoročnih regulativnih rješenja, nužnost kritičkog promišljanja i valorizacije raznorodnih fenomena današnjice, zagovaranje i težnja ka unapređenju medijske pismenosti, te s tim u vezi i razumijevanje i prihvatanje koncepta kako lične, tako i društvene odgovornosti, trebali biti u funkciji svojevrsnog korektiva recentnog virtuelnog cyber-diskursa. No, ne umanjujući relevantnost i vrijednost drugih dostupnih instrumenata borbe protiv lažnih vijesti, diskriminatornog govora i govora mržnje, koncept medijske i informacijske pismenosti, podjednako važan i za kreatore medijskog sadržaja i za njegove recipijente, izdvaja se kao krucijalni preduslov seriozne borbe u pravcu orijentiranom protiv govora mržnje i prezasićenosti online sfere lažnim, intencionalno konstruiranim sadržajima kakav je i deepfake per se.
Prethodno navedeno nesumnjivo implicira zaključak da granice prava na slobodu izražavanja dosežu do tačke gdje se na izvjestan način narušavaju sloboda, prava i dignitet drugoga. Nedostatak znanja eo ipso predstavlja pogodno tlo za manipulaciju kako individuom, tako i društvom u općem smislu, što posljedično otvara prostor za ekspanziju danas sveprisutnog fenomena lažnih vijesti. Uzimajući u obzir nesaglediv potencijal nastao kao rezultat dostignuća u oblasti umjetne inteligencije, navedeno stanje dodatno je usložnjeno. Stoga se u okviru takve, prevashodno novomedijski obilježene paradigme, koncept medijske pismenosti, podržan bazičnim profesionalnim i etičkim postulatima novinarstva, nameće kao fundamentalni preduslov borbe kako protiv govora mržnje, tako i protiv brojnih drugih negativno konotiranih društvenih obrazaca digitalnog doba.
Izvori:
Brown, Nina (2020), ˝Deepfakes and the Weaponization of Disinformation˝, Virginia Journal of Law & Techology
Caldera, Elizabeth (2020), ˝Reject the Evidence of Your Eyes and Ears: Deepfake and the Law of Virtual Replicants˝, Seton Hall Law Review
Dobber, Tom, Nadia Metoui, Damian Trilling, Natali Helberger, Claes de Vreese (2021), „Do Microtargeted Deepfakes Have Real Effects on Political Attitudes?“, The International Journal of Press/Politics
Bosnian
English
German
French
Italian
Dutch
Spanish
Portuguese
Russian