Začni

„Ďalší vývojový stupeň dezinformácií.”

Petra Vejvodová, vedúca bezpečnostných štúdií Masarykovej univerzity

„Pojem doslova znamená hlboké klamstvá postavené na zneužití umelej inteligencie k podvodu. Ide o realistické foto alebo videomontáž, ktoré sú možné vďaka pokroku v strojovom učení. Zjednodušene povedané, tvorce deepfakes zadá do príslušnej aplikácie obrázky osoby, ktorú chce „rozhovoriť“, aplikácia si zapamätá mimiku jej tváre a ďalšie typické prejavy vybraného človeka, naučí sa ich vierohodne spracovať a prezentovať. Autor falošného videa vďaka tomu môže nechať napríklad predného politika hovoriť veci, ktoré v skutočnosti nikdy nevyslovil.”

Vyšie popísaná technológia pôvodně vznikla pre zachovanie spomienok preživších holokaust. Dôvodom bolo viac interakcie v rámci výuky a taktiež to, aby bola pre študentov táto téma atraktívnejšia.

Ďalším spôsobom využitia je napríklad synchronizácia hlasu a tváre behom dabingu.

Bohužiaľ sme o deep fakes získali v roku 2017 povedomie skôr v súvislosti s pornopriemyslom. V týchto typoch filmov sa začali objavovať tváre známych celebrít, ktoré boli pomocou strojového učenia „nasadené” na telá pornohercov. Umelej inteligencii k tomu stačí zhruba 500 fotografií. Na ich základe vytvorí 3D model, ktorý potom aplikuje miesto pôvodnéj tváre.

Tento fenomén samozrejme nezostal bez povšimnutia u rôznych nadšencov, ktorí ho postupne ladia k dokonalosti. Aktuálne už sa môžeme stretnúť aj s inými typmi videí. Na youtube môžeme nájsť nie len vtipné a pomerne nevinné montáže, ale aj falošné videá zo života celebrít.

„V súčasnej dobe sa tento trend usadil v oblasti politiky a my sme tak mohli vidieť falošné videá Angely Merkelovej, Donalda Trumpa alebo Baracka Obamu. Avšak falošné video už spomenutého Baracka Obamu vyvolalo väčší rozruch. Doposiaľ sa jednalo o viac menej amatérske kúsky z výukových aplikácií, toto video je však natoľko vierohodné, že nad ním žasnú aj odborníci. Nová technológia dokázala, že ktokoľvek, kto sa niekedy objaví na kamere, môže prehovoriť vaším hlasom. Odborníci výmenu tvárí považujú za neetickú a nebezpečnú. Odhaduje sa, že v priebehu dvoch až troch rokov môže predstavovať veľký problém. Zostaviť výkonný software, ktorý by dokázal falošné videá rozpoznať, sa zatiaľ nepodarilo. Preto je potreba o týchto manipulatívnych technikách vedieť a byť na ne pripravení.”

Zdroj: Národní informační centrum pro mládež

Formát videa ešte stále považujeme za dostatočný dôkazný materiál v mnohých situáciach. Všetko zatiaľ nasvedčuje tomu, že sa blíži doba, kedy už ani video nebude dôveryhodným zdrojom. Bude potreba vytvoriť kvalitnú technológiu, ktorá bude videa preverovať a deep fakes eliminovať.