Článek
U obrazu a videa lze ověřit podpis původu a laboratorní artefakt, ne pravdu scény. České právo trestá určité nakládání s nepravou podobiznou, ne samotný soubor.
Chybějící razítko Content Credentials není důkaz pravosti. Standard C2PA říká, kdo prohlásil původ souboru, ne že scéna ve světě nastala. Detektor „krve v pixelu“ není forenzní závěr pro Instagram. A označení podle evropského AI Actu není trestní stíhání pachatele.
Každý drží jiný předmět
Editorka řeší povinnost označení vůči publiku. Grafik hledá Content Credentials. Nadšenec spouští detektor. Právník se ptá na pomluvu, podvod nebo zásah do podobizny. Čtenář píše, že to „vidí na první pohled“. Video přitom může být neoznačené a pravé, může mít platný manifest a nezachycovat to, co divák vyvozuje, nebo projít detektorem a být jen špatně komprimované.
Jedna scéna má několik vrstev: snímač a kontejner souboru, generátor nebo úpravu, signál detekce, distribuci, označení a právní následky. Když se smíchají, vzniká falešná jistota.
Chybějící razítko není důkaz
Content Credentials se popisují jako digitální rodný list obrázku. Většina běžných souborů ho ale nemá: telefon ho nepřidal, sociální síť ho zahodila, screenshot ho shodil. Absence razítka je výchozí stav, ne podezření. Platný manifest zase neříká, že se scéna stala, že popisek je pravdivý nebo že zobrazená osoba souhlasila. Je to vrstva důvěry v tvrzení o původu a integritě souboru.
Vodoznak, například Google SynthID, je signál vložený do obsahu vybraných modelů; přežije některé úpravy, nese ale méně kontextu. OpenAI u obrazového obsahu kombinuje C2PA i SynthID. Ani jeden nástroj sám neodpovídá na otázku, co se stalo ve světě.
Oko ani detektor nestačí
Studie Nightingale a Farida v PNAS z roku 2022 zjistila, že lidé rozlišovali skutečné a uměle vytvořené tváře se správností 48,2 %, tedy blízko náhodě; po tréninku dosáhli 59 %. Mezi první a druhou polovinou pokusu se přesnost nezvedla. Jistota pohledu je špatný detektor a oko patří na začátek otázky, ne na její konec.
Zastavený snímek z videa je začátek ověřování, ne jeho závěr.
Detektor FakeCatcher uvádí 96% přesnost na datové sadě FaceForensics, ta ale není Instagram roku 2026. V soutěži Deepfake Detection Challenge nikdo na skryté sadě nedosáhl 70 %. Generátory se mění a detektor se může naučit stopu datasetu místo obecného znaku podvrhu.
Označení a trestní právo
Článek 50 AI Actu o transparentnosti se používá od 2. srpna 2026 a obsah vytvořený dřív se nemusí značit zpětně. Sankční strop až 15 milionů eur není tarif za neoznačený meme a nejde o trestní kvalifikaci.
Česká novela č. 270/2025 Sb. přidala § 191a o pornografickém díle zneužívajícím osobu bez souhlasu, se sazbou až dva roky, a § 181 odst. 2 o nepravé podobizně v úmyslu způsobit vážnou újmu. Satira a umění nejsou automaticky trestné; právo posuzuje nakládání s dílem, obsah a souhlas, ne strukturu pixelu.
Screenshot nebo nová komprese může manifest shodit. Ztráta manifestu ale nedokazuje, že událost nenastala, a platný manifest originálu neplatí pro screenshot kolující o dvě hodiny později.
Rozumné pořadí zní: co mám v ruce, existuje ověřitelný manifest a co tvrdí, má smysl detektor pro tento typ souboru a co plyne právně. Jde-li o škodu, vracíme se z pixelu k člověku a instituci.
Zdroje
- C2PA (2025). C2PA Technical Specification, v2.2.
- Nightingale, S. J., Farid, H. (2022). AI-synthesized faces are indistinguishable from real faces and more trustworthy. PNAS.
- Dolhansky, B. a kol. (2020). The DeepFake Detection Challenge Dataset.
- Nařízení (EU) 2024/1689 (AI Act), čl. 50; Evropská komise, FAQ k čl. 50.
- Zákon č. 270/2025 Sb. (novela trestního zákoníku, § 181 odst. 2 a § 191a).
Původně publikováno na jinykontext.cz: https://jinykontext.cz/clanek/deepfake-obraz-video
