Článek
Představte si Karla Čapka, jak přináší do redakce nový fejeton. Redaktor si jej přečte, spokojeně přikývne a požádá autora, aby doložil, že jej skutečně napsal. Nejlépe písemně, se dvěma svědky a potvrzením, že při psaní nebyl přítomen žádný stroj. Čapek by si nejspíš myslel, že se ocitl ve vlastní povídce. Dnes by se možná tolik nedivil.
Představme si jednu fotografku, která připravuje svou kolegyni na focení. Má před sebou obrázek složitého účesu a podle něj jí zaplétá dlouhé vlasy. Obrázek vznikl za pomoci umělé inteligence. Vlasy jsou však skutečné, hřeben také a fotografka si při práci docela obyčejně brblá. Když skončí, nemůže si výsledek vynachválit. Obě se smějí. Fotografka vezme drahý fotoaparát, upraví osvětlení a pořídí snímky. Později někdo hotové fotografie z jejího webu předloží aplikaci určené k rozpoznávání možných digitálních manipulací. Na displeji se objeví červené upozornění na vysokou pravděpodobnost úpravy obrazu pomocí AI. Fotografka ví, kdo účes vytvořil, jaké světlo použila a jak snímky pořídila. Výsledek automatické analýzy však nic z toho sám o sobě nedokládá ani nevyvrací. Mohl zachytit skutečnou digitální úpravu, ale také chybně vyhodnotit některé vlastnosti fotografie. Zkuste to však vysvětlit člověku, který už pod fotografii napsal „AI fake“.
Výrobci fotoaparátů, telefonů a profesionálního softwaru nás přitom přesvědčují, abychom používali umělou inteligenci. Sony nabízí fotoaparáty s inteligentním rozpoznáváním objektů. Adobe Premiere dovede pomocí generativní AI prodlužovat záběry. Samsung umožňuje inteligentně upravovat fotografie. Hudební programy, například iZotope Ozone zase nabízejí asistenty při zpracování zvuku.
Všechno se prodává jako výhoda. Lepší obraz, dokonalejší zvuk, rychlejší práce.
Zákazník si tedy koupí drahý fotoaparát, protože chce fotografovat lépe. Přístroj mu pomůže správně zaostřit a zpracovat obraz. Fotograf pak svou práci zveřejní. A někdo mu napíše, že je příliš dokonalá, než aby byla pravá. Člověk se tak ocitá v poněkud nevděčné situaci. Zaplatí za moderní techniku, naučí se s ní zacházet, a když dosáhne dobrého výsledku, může být vyzván, aby dokázal, že jej vůbec vytvořil. Možná by bylo rozumnější pořizovat špatné fotografie. Jenže dnes lze uměle vytvořit také špatnou fotografii.
Výrobci přitom nijak nepodvádějí. Umělá inteligence může pomáhat při zaostřování, odstraňování šumu nebo střihu. Může rovněž vytvářet nové obrazové a zvukové prvky. To jsou rozdílné činnosti a bylo by nespravedlivé házet je do jednoho pytle. Použít inteligentní zaostřování přece neznamená vygenerovat fotografovaného člověka. Stejně tak použití programu s AI funkcemi ještě neprokazuje, že hudebník nesložil svou skladbu. Jenže na internetu se takové rozlišování často neděje. Pod fotografií se může objevit komentář, jehož autor bez jakéhokoliv důkazu oznámí, že snímek vytvořila umělá inteligence. Další člověk si komentář přečte a začne o pravosti fotografie pochybovat. Někdo by mohl namítnout, že fotografka přece může předložit původní RAW soubor. To je jistě výborný nápad. RAW může být cenným dokladem původu snímku. Zachovává původní obrazová data fotoaparátu a často také technické údaje o pořízení fotografie. Není však nezfalšovatelným osvědčením pravosti. Co když někdo označí za podvrh i předložený originál? Má se fotografka dostavit na příslušný úřad s fotoaparátem a před komisí pořídit několik snímků? Má malíř předložit potvrzení od výrobce štětců? A muzikant přivést svědka, který dosvědčí, že skutečně hrál ve studiu na bicí?
Zatím se takové instituce nezřizují. Ale kdyby jednou vznikl Úřad pro osvědčování skutečnosti, patrně by měl dost práce. Samotné detektory přitom nejsou zbytečné. Podvržené nahrávky a falešná videa mohou člověka poškodit. Potřebujeme umět rozpoznávat digitální manipulace. Jen bychom měli vědět, co takový nástroj skutečně dokáže. Například společnost Vodafone ve svých podmínkách služby Verify připouští, že aplikace může chybně označit autentický obsah za deepfake. Její výsledky mají pravděpodobnostní charakter. Jinými slovy, program se může mýlit. To ostatně není žádná ostuda. Mýlí se lidé. Potíž nastává ve chvíli, kdy se pravděpodobnostní odhad začne vydávat za důkaz. Červené upozornění na obrazovce se snadno zapamatuje. Drobné upozornění na možnost omylu už podstatně hůře. A tak může člověk, který nikdy neviděl hudebníka hrát, fotografa fotografovat ani malíře malovat, s naprostou jistotou prohlásit, že jejich dílo není skutečné. Na tvůrci potom zůstane, aby prokázal opak. Předloží původní záznam, fotografie z příprav nebo svědectví spolupracovníků. Jenže pokud jeho protivník považuje za podezřelé už samotné fotografie a videa, může odmítnout i tyto důkazy.
Jak má autor prokázat vlastní autorství člověku, který předem odmítá všechno, čím by je mohl doložit? Člověk si může celý život budovat dobré jméno, věnovat práci peníze, čas i zdraví. Potom někdo použije automatický detektor, zveřejní jeho nejistý výsledek a přidá několik sebejistých slov. Kdo napraví případnou škodu, pokud bylo obvinění nesprávné? A kdo vlastně rozhodl, že povinnost dokazovat autorství leží automaticky na obviněném, zatímco ten, kdo obvinění vyslovil, nemusí dokazovat nic? To už není otázka fotoaparátů, počítačových programů ani umělé inteligence. To je otázka obyčejné lidské důvěry.
Člověk by měl mít možnost používat moderní nástroje a pravdivě uvádět jejich podíl na své práci, aniž by tím automaticky vzbudil podezření z podvodu. Veřejnost má zase právo ptát se, zda je předkládané dílo autentické. Mezi otázkou a rozsudkem je však značný rozdíl.
A tak se vraťme k naší fotografce. Možná bude při příštím focení zase zaplétat kolegyni vlasy. Možná si znovu zabrblá. Účes se povede, fotografka vezme svůj drahý fotoaparát a pořídí další snímky. Fotografie se dostanou na internet. Tam člověk na opačném konci světa otevře aplikaci, která mu oznámí, že obraz je podezřele dokonalý. Fotografka se o tom možná ani nedozví. Bude mít totiž práci. A sotva ji napadne, že by si na ni měla předem opatřit úřední potvrzení Úřadu pro osvědčování skutečnosti.
