Článek
Když už nemůžeme věřit vlastním očím
„Viděl jsem to na videu.“ Ještě před několika lety představovala tato věta téměř nezpochybnitelný důkaz. Fotografie i video byly považovány za zachycení reality. Dnes se však nacházíme na prahu éry, kdy může být každý obraz, každý hlas i každý záznam vytvořen umělou inteligencí během několika minut. A často jsou natolik přesvědčivé, že rozdíl nepozná ani odborník.
Deepfaky se staly symbolem nové digitální revoluce. Nejde přitom pouze o další technologickou novinku. Ve skutečnosti představují zásadní změnu toho, jak lidé vnímají pravdu, důkazy a samotnou realitu. Pokud jsme se v minulosti obávali falešných zpráv nebo manipulativních fotografií upravených ve Photoshopu, současná generace syntetických médií posouvá hranice mnohem dál. Umělá inteligence dnes dokáže vytvořit video politika pronášejícího smyšlený projev, realistický telefonát s hlasem člena rodiny nebo fotografii události, která se nikdy nestala.
Otázkou proto není, zda budou deepfaky představovat problém.
Co jsou deepfaky a proč se vyvíjejí tak rychle
Pojem deepfake označuje digitálně vytvořený nebo upravený obraz, video či zvuk pomocí umělé inteligence. Nejčastěji využívá hluboké neuronové sítě, které se učí napodobovat lidský vzhled, mimiku, hlas i způsob vyjadřování. Výsledkem mohou být videa, na nichž známé osobnosti říkají věci, které nikdy nevyslovily, nebo telefonní hovory, při nichž hlas zní k nerozeznání od skutečného člověka.
Ještě před několika lety byla tvorba podobných materiálů doménou výzkumných laboratoří a zkušených programátorů. Dnes existují desítky veřejně dostupných nástrojů, které zvládnou vytvořit realistický deepfake během několika minut. Stejný technologický pokrok, který umožňuje vznik překladačů, digitálních asistentů nebo filmových efektů, zároveň usnadňuje vznik stále dokonalejších podvrhů.
Právě tato dostupnost představuje největší změnu. Nebezpečná totiž není samotná technologie, ale skutečnost, že se dostává do rukou milionů běžných uživatelů.
Proč lidský mozek věří videu více než textu
Lidé jsou evolučně nastaveni tak, aby důvěřovali tomu, co vidí. Obraz zpracováváme rychleji než psaný text a video v nás vyvolává silnější emocionální reakce. Mozek si jen obtížně připouští, že realisticky vypadající záznam může být zcela smyšlený.
Vizuální informace vytvářejí silnější vzpomínky než samotná slova. Pokud člověk několikrát uvidí falešné video, může si jej zapamatovat jako skutečnou událost, i když se později dozví pravdu. Tento jev představuje ideální prostředí pro šíření dezinformací, protože oprava nepravdivé informace bývá mnohem méně účinná než první emocionální dojem.
Deepfaky proto nepůsobí jen na naše racionální uvažování. Ovlivňují především emoce jako vztek, strach, pobouření nebo soucit. A právě emoce jsou tím, co rozhoduje o tom, zda obsah budeme sdílet dál.
Deepfaky jako zbraň proti důvěře
Největší hrozbou možná není samotné falešné video. Skutečným problémem je postupná ztráta důvěry. Moderní společnost stojí na předpokladu, že existují určité důkazy, kterým lze věřit. Fotografie z místa činu, videozáznam bezpečnostní kamery nebo autentický projev státníka představují základ novinářské práce, soudních řízení i historického výzkumu.
Pokud se však každý obraz může stát potenciálním podvrhem, začíná se rozpadat samotný princip důvěry. Nevěříme politikům, médiím ani vlastním očím. Právě tento stav bývá označován jako informační chaos.
Organizace OECD upozorňuje, že incidenty spojené se syntetickými médii a deepfaky se mezi roky 2022 a 2025 více než zdvojnásobily. Deepfaky dnes tvoří významnou část všech zaznamenaných incidentů souvisejících s umělou inteligencí a stále častěji zasahují volby, veřejnou debatu i finanční podvody.
Možná se tak blížíme době, kdy nebude problémem uvěřit lži. Mnohem větším problémem bude přestat věřit úplně všemu.
Demokracie pod tlakem umělé inteligence
Volby vždy provázely dezinformace, pomluvy i propaganda. Deepfaky však představují kvalitativně odlišnou úroveň manipulace. Představme si situaci několik hodin před otevřením volebních místností. Sociálními sítěmi se začne šířit video kandidáta, který údajně přiznává korupci nebo pronáší rasistické výroky. Během několika desítek minut jej zhlédnou miliony lidí. Než odborníci ověří jeho pravost, může být rozhodnuto.
Podobné scénáře už nejsou pouhou teorií. Organizace UNESCO i OECD upozorňují, že právě volební období patří mezi nejrizikovější okamžiky pro zneužití syntetických médií. Deepfaky mohou ovlivnit veřejné mínění rychleji, než dokáže fungovat ověřování faktů, protože sociální sítě zvýhodňují obsah vyvolávající silné emoce.
Nemusí přitom dojít ani k masivnímu ovlivnění výsledků voleb. Stačí, aby veřejnost začala pochybovat, zda lze ještě věřit jakémukoli důkazu. Demokracie totiž nestojí pouze na hlasování. Stojí také na společné představě, že existuje sdílená realita, o níž lze vést smysluplnou debatu.
A právě tuto sdílenou realitu mohou deepfaky postupně narušovat více než jakákoli předchozí forma digitální manipulace.
Deepfaky jako nový nástroj kyberkriminality
Ještě donedávna bylo možné většinu internetových podvodů odhalit podle špatné češtiny, podezřelé e-mailové adresy nebo nekvalitních fotografií. S nástupem generativní umělé inteligence se však situace dramaticky změnila. Moderní podvodníci už nemusí nikoho přesvědčovat špatně napsanou zprávou. Mohou vytvořit hlas vašeho partnera, dítěte nebo nadřízeného a během několika sekund požádat o převod peněz.
Stačí několik desítek sekund nahrávky z videa na sociálních sítích a algoritmy dokážou napodobit barvu hlasu, intonaci i způsob mluvy. V kombinaci s realistickým videem vzniká podvod, kterému může uvěřit téměř kdokoli. Už tak nejde o sci-fi, ale o běžnou součást kybernetické kriminality. Firmy po celém světě proto zavádějí bezpečnostní opatření, jako jsou ověřovací hesla nebo vícefaktorová autorizace. UNESCO upozorňuje, že lidská schopnost rozpoznat syntetický hlas je stále omezenější, zatímco technologie se zlepšují prakticky každým měsícem.
Nejde přitom jen o velké společnosti. Obětí se může stát kdokoli, kdo sdílí svůj hlas nebo fotografie na internetu. V době, kdy většina lidí zveřejňuje videa na TikToku, Instagramu nebo Facebooku, mají útočníci dostatek materiálu k vytvoření velmi přesvědčivých digitálních kopií.
Největší obětí nejsou politici, ale obyčejní lidé
Ve veřejné debatě se často mluví o deepfake videích světových politiků nebo celebrit. Ve skutečnosti však nejčastější obětí nebývají známé osobnosti, ale běžní lidé.
Stačí několik veřejně dostupných fotografií a kdokoli se může stát terčem falešného videa, které poškodí jeho pověst, kariéru nebo osobní život. Zvlášť alarmující je oblast sexuálně explicitních deepfaků, kdy jsou tváře skutečných lidí bez jejich souhlasu vloženy do pornografického obsahu. Oběti pak čelí psychickým problémům, vydírání i dlouhodobým následkům, přestože zobrazené situace nikdy neexistovaly.
Technologie tak poprvé v historii umožňuje vytvořit kompromitující materiál prakticky na kohokoli bez nutnosti jediného skutečného záznamu. Samotná možnost takové manipulace mění způsob, jakým lidé přemýšlejí o soukromí, bezpečnosti i vlastní digitální identitě.
Když už nevěříme ani pravdě
Možná ještě nebezpečnější než samotné falešné video je fenomén označovaný jako „lhářova dividenda“ (liar's dividend). Princip je překvapivě jednoduchý. Jakmile veřejnost ví, že deepfaky existují, může člověk přistižený při skutečném provinění jednoduše prohlásit, že usvědčující video vytvořila umělá inteligence.
Najednou už nestačí předložit videozáznam. Každý důkaz se stává předmětem pochybností. Samotná existence deepfaků může snižovat důvěru lidí v autentické audiovizuální materiály. Technologie neumožňuje jen vytvářet lži, ale zároveň zpochybňovat pravdu.
To představuje zásadní problém nejen pro média, ale také pro soudy, policii nebo historiky. Pokud nelze snadno ověřit pravost digitálních důkazů, komplikuje se vyšetřování trestných činů i dokazování v občanskoprávních sporech.
Blíží se internet, kde nebude existovat pravda?
Internet byl původně budován jako prostor sdílení informací. Postupně se proměnil v prostředí, kde spolu soupeří fakta, názory i dezinformace. Deepfaky mohou tento vývoj posunout do další fáze - do světa, kde už nebude možné spontánně rozlišit mezi skutečností a fikcí.
Někdy se proto hovoří o krizi důvěry. Pokud lidé přestanou věřit fotografiím, videím, hlasovým zprávám i oficiálním záznamům, nebude ohrožena pouze komunikace na internetu. pochybněna může být samotná schopnost společnosti shodnout se na tom, co je skutečnost.
Stanou se tedy deepfaky největší hrozbou moderní společnosti?
Na tuto otázku zatím neexistuje jednoznačná odpověď. Deepfaky samy o sobě pravděpodobně svět nezničí. Jsou pouze nástrojem, jelikož každá technologie může sloužit dobrým i špatným účelům.
Skutečná hrozba spočívá v tom, že lidstvo vstupuje do období, kdy bude stále obtížnější rozpoznat realitu. Pokud přestaneme důvěřovat vlastním očím, uším i digitálním důkazům, může se společnost dostat do stavu permanentní nejistoty. A právě nejistota vytváří ideální podmínky pro manipulaci, polarizaci i ztrátu důvěry v instituce.
Zdroj: studie Arxiv, studie Springer Nature Link, unesco.org, cambridge.org, oecd.org
