Deepfakes už od reality nerozeznáte. Je čas začít o nich uvažovat jinak

Není to ani půl roku, co jsem vydal reel, ve kterém jsem na příkladu videa kavárnice bránící své zákazníky před agenty ICE, vygenerovaném pomocí umělé inteligence, ukazoval několik chyb, pomocí kterých můžete deepfaky rozeznat. Obličeje lidí v pozadí se roztékaly jako zmrzliny na sluníčku, pohyby majitelky kavárny byly přehnané a nepřirozené, agenti měli špatné uniformy, účet, který video zveřejnil, produkoval deepfaky jak na běžícím pásu a kavárnu nebylo možné dohledat. Hlavně jsem v něm ale říkal, že pokud video sledujete v létě, už vůbec nemusí být aktuální.

Deepfake technologie se totiž vyvíjí mílovými kroky. A právě došla do fáze, kdy ji na první pohled nedokážeme rozeznat. Žádné roztavené pozadí, chybné textury, trhané pohyby, pofiderní zdroje. Logika stále občas pokulhává. Ale i to se bude zlepšovat. Dostali jsme se do doby, kdy už deepfaky s jistotou na první pohled nerozeznáme.

Je podle vás tohle video autentické? Na první pohled tak vypadá. Přesto na něm některé věci nesedí: Agentova ústa pod maskou se pohybují trochu zvláštně. Celá situace končí velmi rychle a poněkud jednoduše. Zdroj uvedený v popisku videa má na Instagramu 7 sledujících. Video, které zveřejnily jinak seriózní účty se stovkami tisíc sledujících, má přes šestnáct milionů zhlédnutí.

Zbývá nám tedy jediné: přiznat si, že se pravidla hry změnila – třetina nového obsahu na internetu je AI generovaná1 – a začít si osvojovat taktiky, které nám pomohou bezpečně scrollovat v situaci, ve které žádný audiovizuální obsah, který vidíme, nemusí být skutečný.

Jedním z přístupů, který můžeme využít, je architektura nulové důvěry (tzv. zero-trust architecture). Jde o princip z oblasti IT bezpečnosti, vycházející z předpokladu, že věřit se nedá ničemu a nikomu. Jako myšlenkovou zásadu ho můžeme aplikovat tím, že budeme u všech videí, která uvidíme, automaticky předpokládat, že jsou falešná, dokud neuvidíme důkaz o opaku. Jakkoli může tento přístup působit logicky, nese s sebou množství nástrah.

Na defaultní nedůvěře totiž stojí třeba takzvaná lhářova dividenda (liar’s dividend). Ta označuje situaci, ve které veřejně známá osobnost (typicky politik) bez důkazů označí faktické informace za falešné. Existence a dostupnost deepfake obsahu těmto tvrzením přidává na věrohodnosti – každý dnes může snadno vytvořit fejk, a proto může každý jakoukoli svou fotografii nebo video za deepfake označit. Dokázat opak je komplikované – a někdy to není možné vůbec2. A přesně na to v případě, že uplatňujeme princip zero-trust, lháři spoléhají. Pokud nevěříme autentičnosti obsahu, dokud není s jistotou prokázána, můžeme se snadno dostat do situace, kdy nám nebude stačit žádný důkaz pro to, abychom hnali politiky k odpovědnosti za jejich činy, protože „nafejkovat“ se dá všechno a žádný nástroj na detekci deepfaků není neomylný. Politická odpovědnost tak přestane existovat a my se smíříme s tím, že naše životy řídí lidé, které jsme na videích viděli dělat všechno možné – dokud tvrdí, že jde o deepfake, je to v pořádku. I v Česku už příklady využití tohoto principu známe3.

Hlavním problémem, který z nulové důvěry pramení, je ale kolaps veškerého poznání, které nám audiovizuální svědectví přináší. Pokud automaticky považujeme všechen obsah za nedůvěryhodný, bráníme se tím nejen falešným videím, ale také těm pravým. A tak, podobně jako u lhářovy dividendy, můžeme dojít do fáze, ve které nebudeme schopni adekvátně reagovat na skutečnosti, které by společenskou reakci vyžadovaly, protože nebudeme věřit tomu, že se skutečně staly.

Představte si, že se v období absolutní nedůvěry začnou na sítích objevovat videa dokumentující týrání zvířat ve velkochovech. Nezlomné důkazy o autenticitě nemáme, protože nástroje na detekci nejsou stoprocentní. Situaci, která by za normálních okolností vyvolala silný odpor společnosti vedoucí ke změně, tak přejdeme bez většího povšimnutí, protože věříme (a doufáme) že šlo o deepfake. A krávy dál trpí.

Tato nedůvěra by tak znamenala velkou společenskou krizi: rozpad sdílených hodnot a vědění a z nich pramenící polarizaci, prohlubování nedůvěry v média, neschopnost občanské společnosti reagovat na problémy, které by jinak zvládla celkem obstojně vyřešit. Se situací by se ale každý z nás musel vypořádat i na osobní úrovni – jak se vůbec dá žít ve světě, ve kterém nemůžete věřit vlastním očím a uším?

Druhým přístupem, který si můžeme ve vztahu k online obsahu osvojit, je epistemická skromnost. Epistemologie je nauka o vědění. Zabývá se tím, jak poznáváme svět, čemu a proč věříme a co vlastně víme. Epistemická skromnost je vědomí, že svět nikdy nedokážeme poznat perfektně. Hojně se využívá ve vědě – ale osvojit by si ji měl každý. Když si uvědomíme, že je naše poznání omezené, můžeme přestat uvažovat o důvěře jako o něčem binárním, co buď máme, nebo nemáme, a začít ji vnímat spíš na škále, kterou můžeme naplňovat jen do určité míry. To nám může pomoci zvládat orientaci na sítích plných deepfaků – když přestaneme vyžadovat absolutní jistotu a spokojíme se s částečnou, budeme mnohem flexibilnější a schopni lépe deepfakům čelit.

Když se vrátím k příkladu s krávami – pokud k nim místo s nulovou důvěrou přistoupíme s epistemickou skromností, připouštíme, že videa mohou být deepfaky, ale žádáme prošetření situace příslušnými orgány pro případ, že by byla autentická. Jsme smíření s tím, že to nemůžeme s jistotou vědět, a dost možná se to nikdy nedozvíme. Věříme jim prostě tak trochu. Nestáváme se naprosto bezbrannými kvůli nedůvěře, ale také nevěříme slepě všemu, co vidíme.

Zjednodušeně se dá koncept epistemické skromnosti popsat slavným sokratovským citátem „Vím, že nic nevím“, který Sokrates nikdy nevyslovil4, což je vcelku tematické. Jeho aplikaci můžeme vyjádřit příslovím „Důvěřuj, ale prověřuj“. Díky vědomí, že naše poznání (jak osobní, tak celospolečenské) nikdy není perfektní, si můžeme dovolit obsahu na sociálních sítích důvěřovat – když to budeme dělat jen do jisté míry a budeme připraveni kdykoli svou důvěru přehodnotit pod tíhou důkazů, které taky nemusí být stoprocentní.

I epistemická skromnost má své nedostatky. Ve skutečnosti nemá nikdo z nás kapacitu na to, aby prověřoval autentičnost každého videa. V takovém případě delegujeme ověřování na jiné lidi nebo instituce, a můžeme dojít do situace, kdy paradoxně opět nebudeme přemýšlet – jen slepě důvěřovat někomu, kdo nám bude říkat, co je a co není skutečné, čímž problém (ne)důvěry vlastně jen posuneme jinam, ale nevyřešíme.

Přístup epistemické skromnosti se nám přesto může skutečně vyplatit i mimo obsah na sociálních sítích, pokud ho budeme schopni celospolečensky aplikovat. Mnoho lidí má třeba problém zorientovat se ve změnách ve vědeckém poznání, protože má za to, že je neměnné – něco vyzkoumáme, takže to víme. Změny nejsou přípustné. Realita je samozřejmě mnohem nuancovanější: mění se filozofické přístupy k vědě, optika i nástroje. Lidé, kteří ve vědu vkládají přehnanou důvěru, mohou ve chvíli, kdy se vědecký konsenzus změní, reagovat cynickou nedůvěrou pramenící ze zklamání z toho, že nedostali jasné a jisté odpovědi – vědci pořád mění své závěry, takže je lepší jim vůbec nevěřit. Osvojení epistemické skromnosti by těmto lidem pomohlo vnímat vědu více realisticky, nemít od ní přehnaná očekávání a nezanevřít na ni, když nedojde k jejich naplnění. To by jim dalo do ruky lepší karty v politickém rozhodování. Což by nám všem dalo lepší život.

V životě je nakonec nejvýhodnější oba výše popsané přístupy kombinovat v závislosti na situaci. Pokud vám volá vaše banka a akutně po vás potřebuje rodné číslo, samozřejmě bude lepší, když bude vaší první reakcí kategorická nedůvěra. Pokud koukáte na video, ve kterém slepice jede na koze, můžete si dovolit mu důvěřovat, protože i kdyby bylo falešné, moc tím neriskujete.

V budoucnu nás nejspíš čeká přehodnocení důvěry, kterou aktuálně vkládáme hlavně v audiovizuální obsah. Možná se vrátíme k lidským svědectvím, kterým jsme věřili před érou videí. Svou důvěru můžeme vložit také v novináře, ale pouze za podmínky, že právě oni budou princip zero-trust praktikovat a nezveřejní video, o kterém si nebudou naprosto jisti, že je autentické. To může znít jako samozřejmost, ale množství videí, rychlost produkce obsahu, podfinancovanost redakcí a náročnost detekce deepfaků dělají z důkladného ověřování videí víceméně nemožnou praxi.

Ani jeden z těchto přístupů navíc není samospásný. Co potřebujeme hlavně je strukturální řešení dezinformací. Mediální gramotnost ani epistemická skromnost krizi, ve které se nacházíme, nevyřeší. Ale tonoucí se stébla chytá a když člověk žije v zemi, ve které vláda ruší příspěvky na programy proti dezinformacím, nezbývá mu mnoho jiného.

Adrian Kovalik

~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~

1 DOLEŽAL, Jonáš; ALAM, Sawood; GRAHAM, Mark a Maty BOHÁČEK. The Impact of AI-Generated Text on the Internet. 14. April 2026.

2 ONYEKWERE, Chukwudi George-Linus; OGBONNIA, Otuu Obinna a Stanley Muturi GITHINJI. Beyond benchmark accuracy: Evaluating deepfake detection tools for digital forensic admissibility through a systematic review. World Journal of Advanced Research and Reviews, 2026, 30(02), 1466-1477.

3 Příkladem je třeba Filip Turek, který znevěrohodňoval snímky ze svého facebookového účtu, jejichž autenticitu později potvrdila policie. Za deepfake dále Pavel Matocha označil nahrávku, na které se údajně domlouvá o předání úplatku. V tomto případě ještě nemáme informace o její pravosti od orgánů činných v trestním řízení.

4 BEZFAULU. „Vím, že nic nevím.“