Časoris
Deepfake. Vir: Adobe Stock
Deepfake. Vir: Adobe Stock

Kaj so »deepfakes« in zakaj je nujno, da jih vsi spoznamo?

Ljudje običajno verjamemo tistemu, kar vidimo »na svoje oči«. To velja za vse, kar vidimo v živo, kot tudi za fotografije in videoposnetke.

Seveda so določene izjeme. Večina ljudi se zaveda, da kar vidimo, na primer v igranih filmih, ni vedno ravno resnično.

Zavedamo se, da filmska industrija pri mnogih filmih uporablja tako imenovane posebne učinke, ki lahko izredno prepričljivo pričarajo neobstoječe svetove. Obstajajo tudi posebni učinki, ki lahko pričarajo neobstoječe ljudi ali pa »oživijo« že umrle igralce. Filmska industrija v vse te učinke že leta vlaga velike vsote, da jim zagotovi čim večjo prepričljivost in nam omogoči, da se v dogajanje vživimo, ne da bi nas kaj zmotilo.

Tudi virtualna resničnost (Virtual Reality) je, po okornih začetnih korakih,  postala že zelo prepričljiva. Ne moremo sicer verjeti, da gre za »čisto pravo stvar«, a je tudi tu razvoj že tako daleč, da se zlahka vživimo v virtualne svetove, čeprav se zavedamo, da niso pravi.

Večina ljudi se zaveda, da je možno prirediti tudi fotografije. Izraz »fotošopan« je postal že kar del naše običajne govorice.

Popolne lepotice, ki jih lahko vidimo na naslovnicah revij ali na družbenih omrežjih, so prirejene in polepšane, saj tehnologija omogoča že kar instantno pripravljene posege. Z nekaj kliki postane koža »gladka kot otroška ritka«, linija pasu in bokov tako popolna, kot trenutni modni trendi zahtevajo, in za prav vsako našo »nepopolnost« obstaja že pripravljena standardizirana korektura.

A kljub temu da se tega načelno zavedamo, raziskave vedno znova kažejo, kako močan vpliv imajo te »podobe popolnosti«. Na udaru so zlasti mlada dekleta, ki vedno znova poskušajo doseči neobstoječo popolnost, kar lahko vodi v mnoge stiske, od prehranskih motenj do duševnih težav.

V zadnjih letih se je pojavila še ena nova grožnja, na katero nismo pripravljeni, in lahko se zgodi, da bo imela na družbo zelo hud negativen vpliv.

Gre za tehnologijo, ki se je na spletu začela pojavljati v letu 2017 in se naglo razvija. Poznamo jo pod angleškim imenom »deepfakes«, beseda je zloženka iz »deep learning« (poglobljeno učenje) in »fake« (lažno). Kolikor vem, v slovenščini še nimamo ustreznega prevoda, ki bi bil v uporabi.

Ta tehnologija omogoča slehernemu izmed nas, da na osnovi združevanja izbranih posnetkov »posnamemo« na primer video, na katerem nekdo, ki ga ne maramo, govori in počne stvari, ki jih sicer nikoli ne bi izrekel ali naredil. Pri tem potrebujemo le malce zmogljivejši osebni računalnik.

Ne preseneča, da je do sedaj večina »deepfake« posnetkov pornografske narave. Verjetno tudi ni potrebno posebej omeniti, da znane igralke ali manekenke, katerih obraze so v ta namen zlorabili, niso privolile v sodelovanje v pornografskih posnetkih, v katerih »nastopajo«.

Mnogo je tudi posnetkov, ki sodijo med tako imenovano »maščevalno pornografijo«. Gre za izredno okrutno maščevanje z namenom javnega ponižanja in diskreditacije žrtve. V večini primerov so storilci moški, ki se s pornografskim posnetkom maščujejo bivši ženi ali dekletu s tem, da uporabijo posnetke obraza žene ali dekleta in jih vključijo v poniževalen pornografski posnetek. Če tega ne znajo sami ali če želijo, da bi bil rezultat kar se da profesionalen, lahko storitev tudi naročijo na spletu.

Tudi kriminalci, ki se ukvarjajo s prodajo posnetkov spolnih zlorab otrok, uporabljajo te tehnologije, da povečajo raznolikost posnetkov z novimi otroškimi obrazi. Pri tem pa jim »priskočijo na pomoč« kar starši, ki pogosto preveč vneto objavljajo videoposnetke svojih otrok na družbenih omrežjih.

Posnetke je možno kombinirati tudi z izdelki virtualne resničnosti, kar je lepo prikazano v predavanju Chrisa Pinchena.

A seveda ne gre le za pornografijo, posledice teh tehnologij bi lahko bile veliko hujše.

To je orodje, ki ga lahko uporabijo kriminalci za prevare vseh vrst, izsiljevanje, za lažne »ugrabitve« …

To je orodje, ki ga lahko uporabijo teroristi.

In ne nazadnje, to je orodje, ki ga lahko uporabijo brezsramni politiki v svojih kampanjah za diskreditacijo svojih političnih nasprotnikov ali za zavajanje javnosti. In kdo med nami ne bi z užitkom verjel, da je politik, ki nam že tako ni preveč pri srcu, sposoben grdobij, ki jih posnetek prikazuje. Saj smo vse videli na svoje oči, a ne?

To je orodje, ki lahko sproži vojne, državljanske vojne ali pa »samo« paniko.

Leta 1938 je Orson Welles sprožil panični beg Američanov s svojim inovativnim pristopom k radijski igri Vojna svetov.

Danes se to ne bi moglo zgoditi, saj nam radio kot medij v glavnem pomeni le še »brnenje v ozadju«. Njegovo mesto je prevzel splet, ki je postal glavni vir informacij. S tem pa smo vsi postali ranljivi za zlorabe, ki jih omogoča, še zlasti, če se sploh ne zavedamo obstoja novih fenomenov na spletu.

Maja

Vreča dela na Arnesu in sodeluje v projektu Safe.si. Želi si, da bi čim več ljudi razumelo ozadja novih tehnologij - da bi bili več kot le uporabniki, da bi bili pametni uporabniki interneta.

Vprašanje tedna

Podprite Časoris

Pomagajte nam ohraniti Časoris.
Brez vas ni nas.

SMS

Pošljite sms Casoris5 na 1919 in darujte 5 evrov.

ali

SMS

Pomagate nam lahko tudi na druge načine: z rednim mesečnim nakazilom, z bančno kartico ali prek PayPala.