Článek
Když na vás na sociální síti vyskočí video s Andrejem Babišem, který na rozostřeném videu kostrbatě nabádá k životní investici do investičních produktů skupiny ČEZ, pravděpodobně vám dojde, že se jedná o deepfake a nebudete videu věnovat větší pozornost. Překvapivě se ale i na tento lacině vypadající podvod lidé nachytají.
Spolu s rychlým rozvojem nástrojů pro tvorbu deepfake obsahu, zejména videí a obrázků, má už dnes kdokoliv k dispozici jednoduché prostředky na vytvoření profesionálně vypadajícího obsahu, který se jeví věrohodně. Uměle vytvořené fotografie už od originálu poznáte jen stěží. Video ještě často rozeznatelné bývá. Zcela fiktivní televizní reportáž s Andrejem Babišem, který v ní propaguje investici do pochybné kryptoměny, vytvoří během pár minut skoro každý. Stačí k tomu jen krátká videosekvence, kde reálný Babiš zřetelně hovoří. Nepůjde sice o úplně profesionální dílo, ale hranice, kdy lidské oko zmanipulovaná (nebo chceme-li podvodná) videa nerozezná, je už nebezpečně blízko.
Klausův podvrh
Nedávno český internet oblétla nahrávka s bývalým prezidentem Václavem Klausem, jenž upozorňuje na hrozby spojené s globálním oteplováním. V krátké zvukové nahrávce Klaus popírá svá předchozí vyjádření a vyzývá obyvatele k akcím směřujícím k ochraně klimatu. Šlo o vědeckou studii. Ve videu třikrát zaznělo, že se jedná o deepfake. U nahrávky bylo také výrazně napsáno, že se o deepfake skutečně jedná. Po poslechnutí této nahrávky pozorný posluchač pozná, že se pravděpodobně jedná o manipulaci s Klausovým hlasem. Jde však o poměrně zdařilou nahrávku. Výsledek? Nahrávka se začala raketově šířit nejen dezinformační scénou. Více než polovina diskutujících vůbec nepochybovala o pravosti nahrávky. V době, kdy mnoho Čechů nemá základní digitální návyky, moderně nazývané digitální gramotnost, se vlastně není ani čemu divit. Češi si zkrátka s ověřováním zdrojů hlavu nelámou. Paradoxně by se dalo říci, že videa, která mají za cíl jen z lidí vylákat peníze, jsou ještě relativně neškodná. Co když přijde deepfake obsah, který bude mít za cíl ohrozit nebo dokonce rozložit demokracii?
Doba nedůvěřivá aneb „dezinfo na míru“
Nevyhnutelně přichází doba, kdy většina obsahu bude na internetu uměle generovaná. Pokud půjde o automaticky generované shrnutí fotbalového zápasu, tak asi není třeba bít na poplach. Mnohem horší však bude obsah, jenž bude vytvářen za účelem manipulace a dezinformace. Spolu s tím, jak jsou navíc lidé na internetu neopatrní a nedbají na své soukromí, nebude problém vytvářet dezinformační obsah každému na míru. Opravdu není daleko doba, kdy si algoritmus zjistí, v kom vidíte autoritu, čeho se bojíte a jaké sdělení na vás dokáže zapůsobit. Et voilà! Už na vás věrohodně mluví Petr Fiala, který naléhavě vyzývá k volbě SPD, protože jedině oni jsou poslem míru a neodvedou vám syna do války. Znemožnění protivníka nebo konkurenta pomocí skandálního videa nebude nic složitého. Jistě, část společnosti si původ videa ověří. Mnoho lidí ale uvěří tomu, co vidí. Vždyť nahrávky ze skrytých kamer doposud byly považovány za nevyvratitelné. Proč by tomu nyní mělo být jinak? Vědci se shodují, že naučit mozek zpochybňovat to, co vidí a co vypadá reálně, je poměrně složité, ne-li zcela nemožné.
Již dnes dezinformační scéna tahá za delší provaz. Částečně proto, že liberálně-demokratická společnost, která spoléhá na vědu a fakta, nesahá po obdobných nástrojích. Jisté však je, že obsahu, který bude mít moc ovlivňovat volby, lákat z důvěřivců peníze a ničit nejedno společenství, bude přibývat. Pro dezinformační scénu jsou nástroje umělé inteligence darem z nebes. Již dávno neplatí, že lidé konzumují informace z médií, které zprávy musí (nebo by alespoň měla) ověřovat. Čas, kdy televizní zprávy určovaly tep doby, je dávno pryč. Mnoho politiků s médii nekomunikuje. Nemusí. Mají své fanoušky a s těmi komunikují prostřednictvím alternativních komunikačních kanálů. Zde samozřejmě sdělí jen to, co sdělit chtějí. Bez jakéhokoliv vyzyvatele nebo oponentury. Část lidí dnes konzumuje informace ze sociálních sítí a nejrůznějších netransparentních platforem. Obsah na těchto místech šířený je často zjednodušený, neověřený, neobsahuje zdroje a mnohdy je dokonce lživý. Představa, že tento obsah dnes může být doplněný deepfakenutým videem, jež věrohodně potvrzuje autorův názor, je skutečně nebezpečná. Mnoho návštěvníku těchto webů ani nenapadne pochybovat o věrohodnosti videa, neboť je zcela v souladu s jejich názorovým uvědoměním. Dojde tak k potvrzení jejich přesvědčení a k utvrzení názorové správnosti. To, že článek překrucuje fakta a video je uměle vytvořené nebo dokonce zcela lživé, je vedlejší.
Jak z toho ven
Takřka jistě přijde na řadu digitální podepisování originálního obsahu. Pokud natočíte video nebo vyfotíte fotografii, kde jste skutečně vy, vaše zařízení video označí tak, že bude zpětně ověřitelné, že video nebylo strojově upraveno. Ponechme stranou, zda bude vámi tvořený obsah pro konzumenty zajímavý. Algoritmicky tvořená videa dokáží vaše sdělení komukoliv personifikovat a učiní ho mnohem atraktivnějším. Mnoho lidí však nebude chtít ani umět pravost videa ověřit. Jako jedna z možností se naskýtá možnost zavést povinnost pro platformy jako je Facebook, Instagram, Telegram, ale také třeba Whatsapp nebo Messenger, ověřovat originalitu obsahu a deepfake videa výrazně označit nebo do prostoru vůbec nevpustit. Svou roli také budou hrát seriózní média. I nadále budou sloužit jako jakési majáky, které publikují ověřené zpravodajství, často za poplatek. Lidé, kteří by ověřené zpravodajství potřebovali konzumovat nejvíce, ale za obsah platit pravděpodobně chtít nebudou. A už vůbec nebudou platit za obsah, jenž jim není názorově blízký. Vzhledem k tomu, že mainstreamová média již dnes pro mnoho lidí důvěryhodná nejsou, je potřeba důrazně a pod velkými sankcemi tlačit právě na obsahové platformy, kde se dezinformační obsah šíří. Jakákoliv platforma, která slouží ke sdílení obsahu, by měla být povinna ověřit originalitu publikovatelného sdělení. Pokud toho nebude schopna, obsah by neměl být zveřejněn.
Spolu s takto drakonickým opatřením by jistě přišlo nařčení z cenzury. Ostatně i Ministerstvo spravedlnosti připravuje zákon, jímž potrestá zveřejnění deepfake videa, které bude erotického charakteru a bude zobrazovat osobu, která k tomu nedala souhlas, v krajním případě i trestem odnětí svobody. K trestání neerotického deepfake obsahu, jenž ale může mít mnohem závažnější dopad, se podle mluvčího Ministerstva Řepky legislativci zatím nechystají. Zdůvodnil to právě obavou z nařčení z přílišné cenzury. Články o potlačování svobody slova by tak jistě zaplavily internet. Vždy tu totiž bude určitá část společnost vyhledávající a šířící dezinformační informace. Budou-li mít platformy působící v Evropě povinnost pochybný obsah blokovat, mnoho lidí pomocí nejrůznějších VPN nástrojů vyrazí do mimoevropských internetových vod. Myslet si, že na jednotných pravidlech se shodne celý svět, je naivní. Ironicky si VPN dokáže spustit mnoho lidí, kteří ověření autenticity videa technicky nezvládnou nebo zvládnout nechtějí.
Nezbývá než doufat, že lidí, kteří o věcech přemýšlí, je v Evropě i nadále nadpoloviční většina. Riziko zneužití dezinformačního obsahu k ovlivnění stavu evropské liberální demokracie je však příliš velké. Budeme tedy muset vyvinout velké úsilí, abychom těžce získanou a křehkou demokracii ubránili a nevydali všanc demagogům, populistům, nebo dokonce diktátorům.
