Článek
Jenže válka 21. století může začít mnohem dříve. A možná už dávno začala.
Nepřítel nemusí zničit naše mosty, pokud dokáže zničit naši důvěru ve stát. Nemusí vyřadit armádu, pokud přesvědčí dostatečnou část společnosti, že armáda nemá smysl. Nemusí obsadit televizní vysílač, pokud si jeho propagandu miliony lidí dobrovolně rozešlou mezi sebou. A nemusí dokonce nikoho přesvědčit o jedné konkrétní pravdě.
Stačí přesvědčit lidi, že žádná pravda neexistuje.
Právě zde se z deepfake, uměle vytvořených videí, falešných fotografií, zvukových nahrávek a dalších manipulací stává něco mnohem nebezpečnějšího než další internetová lež. Stávají se zbraní.
„Viděl jsem to na vlastní oči“
Ještě před několika lety platilo jednoduché pravidlo. Fotografie byla důkaz. Video bylo ještě lepším důkazem. A pokud jsme člověka viděli na záznamu něco říkat a současně slyšeli jeho hlas, bylo velmi obtížné pochybovat, že to skutečně řekl. Tato doba skončila. Dnes lze vytvořit video politika, který pronáší slova, která nikdy nevyslovil. Lze napodobit hlas známé osobnosti. Lze vytvořit fotografii události, která se nikdy nestala.
A technologie se rychle zdokonaluje.
To zásadně mění informační prostředí, protože lidský mozek nebyl vytvořen pro svět, ve kterém nemusí být pravda ani to, co člověk právě vidí a slyší.
Účelem nemusí být přesvědčit vás
A tady se dostáváme k možná největšímu omylu při debatě o dezinformacích. Často se domníváme, že manipulace selhala, pokud byla odhalena. Neselhala.
Představme si falešné video politika přijímajícího úplatek. Video během několika hodin uvidí statisíce lidí. Začne se sdílet. „Tak se podívejte!“ „Tohle vám média neukážou!“ „Sdílejte, než to smažou!“
Za dva dny odborníci prokážou, že jde o podvrh. Jenže původní video už vidělo půl milionu lidí. Jeho vyvrácení možná desetina. A především zůstane něco jiného: „Dobře, bylo to falešné. Ale kdo ví, jestli na tom přece jen něco není.“
A právě tato věta může být skutečným cílem celé operace. Ne přesvědčit. Ale znejistit.
Semínko už bylo zaseto
Jakmile jednou člověk určitou informaci přijme, její pozdější oprava nemusí původní dojem úplně odstranit. Psychologie podobné jevy zkoumá například v souvislosti s přetrvávajícím vlivem dezinformace – takzvaným continued influence effect. Proto nestačí říci: „Vždyť to bylo vyvráceno.“ Ano. Bylo. Ale mezitím splnilo svůj účel.
A pokud společnost vystavíme tisícům podobných případů, začne se dít něco ještě nebezpečnějšího. Lidé postupně přestanou věřit všemu. Politikům. Novinářům. Policii. Armádě. Soudům. Vědcům. Nakonec jeden druhému. A společnost, která nevěří vůbec ničemu, se ovládá překvapivě snadno.
Nejlepší propagandu potom šíříme sami
Moderní informační válka má ještě jednu děsivou vlastnost. Útočník nepotřebuje milion zaměstnanců propagandy. Potřebuje několik tisíc účtů, automatizované systémy, vhodně vytvořený obsah – a nás. My uděláme zbytek. Člověk dostane do telefonu pobuřující video. Neověří ho. Rozčílí se. Sdílí ho. Dalších deset lidí udělá totéž. A najednou se z obyčejného člověka, který je přesvědčen, že pouze „posílá zajímavou informaci“, stává nevědomý distributor cizí informační operace.
A sociální sítě tomuto mechanismu mimořádně vyhovují. Protože nejrychleji se nešíří informace nejpravdivější. Šíří se informace vyvolávající nejsilnější emoci. Strach. Vztek. Nenávist. Pohoršení.
A potom přijde politik
Ještě vážnější problém nastává, když podobnou informaci začne šířit veřejně činná osoba. Poslanec. Senátor. Ministr. Prezident. Starosta. Nebo člověk s desetitisíci sledujících. Jeho sdílení totiž není stejné jako sdílení člověka v rodinné skupině.
Funkce dodává informaci autoritu. „Kdyby to nebyla pravda, přece by to nesdílel poslanec.“ A přesně zde podle mého názoru musí být odpovědnost naopak vyšší.
Čím větší dosah a autoritu člověk má, tím větší odpovědnost musí nést za to, co vědomě posílá dál. Politická funkce nemůže být omluvou pro šíření prokazatelného podvrhu. Měla by znamenat pravý opak.
Svoboda slova neznamená svobodu od odpovědnosti
A zde se dostáváme na velmi tenký led. Protože stát nesmí rozhodovat, který politický názor je správný. Nesmí trestat člověka za kritiku vlády. Nesmí vytvářet „ministerstvo pravdy“, které bude rozhodovat, co si občan smí myslet. To by bylo možná stejně nebezpečné jako problém, který se snažíme řešit. Proto musí být hranice mimořádně přesná.
Názor není deepfake.
Satira není deepfake vydávaný za autentický záznam. Chybná informace není automaticky dezinformační operace. A člověk, který v dobré víře sdílí něco nepravdivého, není totéž jako člověk, který ví, že šíří podvrh. Toto rozlišení je naprosto zásadní. Ale opačný extrém - nedělat nic - podle mě také není řešením.
Ano, odpovědnost musí přijít
Jsem přesvědčen, že budeme muset vytvořit mnohem jasnější právní odpovědnost za úmyslnou výrobu a vědomé šíření škodlivých deepfake materiálů. Zejména pokud jejich účelem bude například ovlivňování voleb, vyvolání paniky, poškození konkrétní osoby, manipulace finančního trhu, podpora nepřátelské informační operace nebo ohrožení bezpečnosti státu. A v určitých závažných případech musí být možná i trestní odpovědnost. Ne za názor. Ne za politický nesouhlas. Ne za hloupost.
Za prokazatelné jednání a jeho závažnost.
U člověka, který něco jednou bez rozmyslu přesdílí, musí samozřejmě existovat jiná míra odpovědnosti než u organizované sítě, která vědomě distribuuje podvržená videa milionům lidí. Právo musí tento rozdíl respektovat. Současně ale potřebujeme změnit společenskou představu, že tlačítko „Sdílet“ nenese vůbec žádnou odpovědnost. Nese. Stejně jako neseme odpovědnost za jiné věci, které veřejně šíříme.
Nejdříve se zastav
Možná nejúčinnější obrana přitom začíná úplně obyčejnou věcí. Než něco pošlu dál, zastavím se. Kdo to zveřejnil? Existuje původní zdroj? Informují o tom také jiné nezávislé zdroje? Není video podezřele sestříhané? Existuje delší verze? Odpovídá datum a místo? Nesnaží se mě příspěvek především rozčílit? A jedna věc by měla rozsvítit červenou kontrolku téměř automaticky: „Sdílejte rychle, než to smažou.“
Právě snaha obejít kritické přemýšlení prostřednictvím emocí je jednou z klasických vlastností manipulativního obsahu. Nemusíme být odborníci na umělou inteligenci. Často stačí několik minut a trochu zdravé nedůvěry.
Samotné tresty ale válku nevyhrají
Represe může řešit nejzávažnější případy. Nevyřeší celý problém. Dlouhodobá obrana musí začít ve škole. Mladý člověk dnes potřebuje umět pracovat s informacemi stejně samozřejmě, jako se učí matematiku nebo češtinu. Ne co si má myslet. Jak má ověřovat, z čeho svůj názor vytváří. Jak poznat zdroj. Jak dohledat původní video. Jak odlišit zprávu od komentáře. Jak pracovat s fotografií. Jak fungují algoritmy sociálních sítí. Jak AI dokáže vytvářet obraz, hlas a text. A hlavně pochopit, proč mu někdo určitou informaci ukazuje. To není politická výchova. V digitálním světě je to základní gramotnost.
Proto říkám, že jsme ve válce
Neznamená to, že každý hloupý příspěvek na Facebooku je útok nepřátelské rozvědky. Není. Stejně tak není každý člověk šířící nesmysl nepřátelským agentem. Ale informační prostor je dnes jedním z bojišť konfliktu mezi státy a deepfake technologie jeho význam dramaticky zvyšují. Cílem nemusí být přesvědčit českou společnost, že Rusko, Čína nebo kdokoliv jiný má pravdu. Mnohem účinnější může být přesvědčit nás, že nikdo nemá pravdu. Že všichni lžou. Že všichni kradou. Že volby jsou podvod. Že média lžou. Že stát lže. Že spojenci lžou. Že obrana nemá cenu. Že nic nemá cenu. A potom už není potřeba společnost porazit.
Ona se rozloží sama.
Tanky možná přijedou až jako poslední
Tohle považuji za největší nebezpečí celé informační války. Stát můžeme vojensky bránit. Máme armádu. Máme spojence. Máme NATO. Ale jak budeme bránit společnost, která už nevěří vlastnímu státu, vlastním institucím, spojencům ani sama sobě? Možná jednou zjistíme, že nejúčinnější zbraní proti demokratické společnosti nebyla raketa za milion dolarů. Bylo to falešné video vytvořené za několik minut. Tisíce botů. Algoritmus. A milion lidí ochotných bez jediného ověření zmáčknout tlačítko Sdílet.
Proto je nejvyšší čas přestat se na deepfake a organizované dezinformace dívat jako na nějakou internetovou nepříjemnost. Je potřeba vzdělávání. Je potřeba technologická obrana. Je potřeba rychlé vyvracení podvrhů. Je potřeba spolupráce bezpečnostních institucí. A ano – u vědomého a závažného vytváření a šíření podvrhů je podle mě potřeba také jasná právní odpovědnost. Protože jestli naše společnost jednou padne, nemusí to být ve chvíli, kdy přes hranice přejedou první nepřátelské tanky.
Může být poražena mnohem dříve.
Ve chvíli, kdy už nebudeme věřit vůbec ničemu. A kdy budeme natolik rozhádaní, vystrašení a přesvědčení, že všechno je lež, že už nenajdeme nic, co bychom byli ochotni společně bránit.
To je informační válka.
A ta už probíhá.
