I pravá fotografie už nestačí jako důkaz

Generativní AI nezměnila jen možnost vyrábět falešné obrazy, ale i hodnotu těch pravých. Co bude znamenat důkaz ve světě, kde lze zpochybnit téměř každý snímek?

Představte si noční fotografii: známý člověk předává jinému muži obálku. Snímek se během minut rozšíří po internetu a zachycený člověk odpoví: „Je to AI.“ Generativní systémy tak přinášejí dvě možnosti — podvrh vydávaný za skutečnost i skutečný obraz odmítnutý jako syntetický.

Právníci Bobby Chesney a Danielle Citron popsali druhý efekt jako „dividendu lháře“. Čím uvěřitelnější je technologie schopná vyrábět podvrhy, tím uvěřitelnější může být i tvrzení, že nepříjemný autentický záznam je podvrh. Obraz stále méně funguje jako důkaz vlastního původu.

Objektiv vybírá výřez, fotograf stojí na určitém místě a snímek zachytí zlomek sekundy. Ohnisko, expozice i titulek mění to, co z obrazu vyčteme. Fotografie ale měla velkou výhodu: její vznik byl pevně spojen s fyzickým světem.

Digitální úpravy tuto vazbu oslabily, stále jsme však uvažovali v kategoriích „původní“ a „upravený“ snímek. Generativní model jde dál: vytvoří obraz, pro který žádný okamžik před objektivem nemusel existovat.

Fotograf vždy volí výřez, úhel a okamžik.

Kaylyn Jackson Schiff, Daniel Schiff a Natália Bueno provedli pět experimentálních studií na více než 15 000 dospělých v USA. „Dividendu lháře“ našli hlavně u skandálů prezentovaných textem. U videa byly pokusy odmítnout důkaz jako deepfake podstatně méně účinné. Technologie tedy vytváří možnost věrohodného popření, ale lidé automaticky nevěří každému, kdo zakřičí „deepfake“.

NIST ve zprávě o syntetickém obsahu nepopisuje jedinou magickou obranu, ale několik přístupů: autentizaci a původ obsahu, označování, detekci a testování nástrojů. Výsledek detektoru přitom není totéž co provenience.

Detektor odhaduje podle znaků v obsahu. Jeho výsledek závisí na tom, na jakých generátorech byl testován, zda byl soubor komprimován, oříznut či znovu nahrán a zda zvládne i novější generátory. Provenience se naopak snaží doložit historii: kdo soubor vytvořil a zda lze tento řetězec kryptograficky ověřit.

Koalice C2PA vyvíjí otevřený standard Content Credentials. Specifikace 2.4 popisuje kryptograficky ověřitelné informace o tom, kdo vytvořil tvrzení o souboru, jaké úpravy byly zaznamenány a zda se údaje po podpisu změnily.

Provenience ale není pravda. Ověřuje vazbu tvrzení k souboru, ne to, zda scéna před kamerou nebyla naaranžovaná. A chybějící Content Credentials neznamenají podvrh — metadata se běžně ztrácejí a systém není univerzálně nasazen.

Dva výřezy téhož snímku mohou vyprávět různé příběhy.

Čím dokonalejší budou syntetické obrazy, tím méně bude platit heuristika „tohle bych poznal“. Hrozí, že si lidé vyberou: snímek, který potvrzuje můj názor, je skutečný, ten nepříjemný je AI. Výzkum ale připomíná, že audiovizuální důkazy stále mají velkou váhu.

Fotografie tak bude dokazovat méně sama o sobě a více jako součást systému: doložený původ, originální soubor, časová osa, další zařízení, svědci a nezávislé stopy. Screenshot nebude konec diskuse, ale její začátek. Důležitější než „je ten obraz skutečný?“ bude otázka, co víme o cestě, kterou se k nám dostal.

- Chesney, R., & Citron, D. K. (2019). Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review, 107.

- Chandra, B., et al. (2024). Reducing Risks Posed by Synthetic Content. NIST AI 100-4.

- Schiff, K. J., Schiff, D. S., & Bueno, N. S. (2025). The Liar’s Dividend. American Political Science Review, 119(1), 71–90.

- Coalition for Content Provenance and Authenticity. C2PA Technical Specification 2.4.

Původně publikováno na jinykontext.cz: https://jinykontext.cz/clanek/svet-kde-fotografie-nic-nedokazuje