Opravdu ochrana dětí, nebo konec soukromí? Co je skryto v návrhu EU

V demokratické a svobodné společnosti by mělo být jistě standardem, že pokud se jedná o zcela zásadní prolomení nějakých základních lidských práv, ať už z jakéhokoliv důvodu (a které samozřejmě můžou být i legitimní), měla by tomu předcházet otevřená diskuze a transparentní informování ze strany těch, kteří o tom mají moc rozhodnout. Jelikož se toto ale z mého pohledu příliš neděje a spousta lidí dokonce o tomto tématu vůbec netuší nebo jej naprosto fatálně nechápou či dezinterpretují (zákonodárce nevyjímaje), rozhodl jsem se napsat článek, který toto téma trochu přiblíží a ve kterém vysvětlím, co mě na tom skutečně děsí.

V následujícím textu se tedy pokusím shrnout, co si myslím o připravovaném návrhu nařízení EU „o prevenci a boji proti sexuálnímu zneužívání dětí“ (tzv. CSAM regulation) neboli lidově Chat control, proč toto téma považuji za mimořádně důležité, proč mě to podruhé v životě přimělo veřejně se k něčemu vyjádřit s naprostou vážností, bez špetky humoru a nadsázky a proč to ve mně vzbuzuje reálnou obavu o naši budoucnost a především budoucnost našich dětí, které to podle mě nebude nijak chránit, ale naopak je to poškodí ze všech nejvíc.

O co tedy přesně jde.

Evropská komise v květnu 2022 předložila v gesci komisařky Yivy Johansson návrh nařízení EU „o prevenci a boji proti sexuálnímu zneužívání dětí“ (tzv. CSAM regulation). Záhy tento návrh dostal oprávněně pejorativní přezdívku Chatcontrol (protože to ze všeho nejlépe vystihuje, o co má vlastně jít). Má být součástí dlouhodobé EU strategie proti sexuálnímu zneužívání dětí (od roku 2020) a balíčku pro bezpečnější digitální prostředí. Cílem návrhu má být zavést povinnost pro online platformy a komunikační služby detekovat, hlásit a odstraňovat CSAM (tedy komunikaci či materiál, který může vést nebo poukazuje na zneužívání dětí) a zavést ověřování totožnosti a věku při používání těchto aplikací.

Co to znamená v praxi.

Všechny platformy, které umožňují nějakou vzájemnou interakci mezi dvěma a více uživateli internetu, by měly mít povinnost nějakým způsobem přečíst a vyhodnotit veškerý obsah této komunikace a při podezření na výše zmíněné (a časem bůhví co dalšího) tuto komunikaci nahlásit příslušným orgánům k prošetření. Také by tyto platformy měly zamezit dalšímu šíření takového obsahu. Aby byl případný pachatel snadno dohledatelný, zavede se pro každou takovou interakci povinnost kontroly totožnosti při každém přihlášení a také se používání těchto aplikací umožní pouze od určité věkové hranice. Týkat se má prakticky všech sociálních sítí, chatovacích aplikací jako Messenger, WattsApp, Viber, Signal, a také například e-mailů, diskuzí pod zpravodajskými články atd. Tedy stručně – nějaká AI zkontroluje naprosto vše, co někam napíšete nebo pošlete, při podezření na nevhodný obsah to dále prohlédne nějaký živý člověk a pokud to i on shledá jako nevhodné, můžete čekat návštěvu policie (vaše jméno, věk, datum narození a bydliště už budou mít dávno s veškerými vašimi zprávami, poslanými soubory, e-maily a příspěvky do diskuzí spárovány).

Proč to nedává smysl.

Představa, že policie začne úspěšně dopadávat pedofily, kteří zcela ignorovali fakt, že se sami přímo udávají do sledované aplikace s vývodem rovnou na stanici, je pochopitelně značně naivní. I když pár hlupáků se, jako vždycky, možná ojediněle skutečně najde. Ovšem naprosto to přestává dávat smysl v momentě, kdy zjistíte, že součástí tohoto návrhu je i zákaz používání těchto aplikací osobám pod 16 let věku a ti domnělí pedofilové, kvůli kterým nás všechny chtějí šmírovat, tedy ani přes tyto aplikace nebudou mít komu psát a koho tedy obtěžovat, protože tam jejich potenciální oběti prostě nebudou. To je jako posílat do prázdné ohrady skupinu hlídačů, kteří budou střežit pastvinu před vlky, všem v okolí preventivně mířit do obličeje, zatímco ovce ponechají bez dozoru v nechráněné stodole. O tom, jak velké množství pracovních sil bude ke kontrolování prakticky celého internetu potřeba, ani nemluvě. Kdyby skutečně šlo o ochranu dětí, tak vynaložení těchto prostředků a lidských zdrojů do funkčních preventivních programů a na skutečné potírání kriminality osvědčenými prostředky by dávalo mnohem větší smysl a určitě by vedlo k nezanedbatelným výsledkům.

Proč v tom vidím obrovský problém.

Za prvé by muselo dojít k dosud bezprecedentní redukci naší legislativy. Je zde totiž přímý rozpor s Listinou základních práv a svobod ČR, konkrétně článek 13 – listovní tajemství a tajemství komunikace, což se pochopitelně vztahuje i na komunikaci digitální. Zde by muselo dojít buď k úplnému odstranění nebo zásadnímu přepracování. Dále článek 10 (odstavec 2 – 3), článek 17, článek 32 a článek 36. V listině základních práv a svobod EU je to článek 7, 8, 11, 52. V trestním řádu (zákon č. 141/1961 Sb.) dle § 88 je zase výslovně uvedeno, že odposlech a záznam komunikace je možný pouze se soudním povolením na základě podezření ze závažného trestného činu. Zákon č. 127/2005 Sb. zase ukládá poskytovatelům povinnost chránit tajemství komunikace a ze všeho nejvtipnější je, že je to v rozporu i s GDPR.

Nabízejí se tedy dvě možnosti. Buď výše uvedené legislativy zcela zrušit či zásadně přepsat, nebo vytvořit nějaký zcela nový zákon, na základě kterého budeme úplně všichni sprostí podezřelí ze závažné trestné činnosti…

Tedy zcela zjevně bychom se museli vzdát části svých práv, která nám doposud garantuje zákon. Prolomením tohoto zákona bychom totiž v podstatě legalizovali i například otevírání pošty nějakým úředníkem před doručením, odposlechům všech telefonních hovorů a de facto by nebylo nelegální monitorovat úplně kohokoliv, kdekoliv a při jakékoliv činnosti. Co kdyby to byl náhodou pedofil…

V rovině osobní je to ovšem zásah daleko větší. Potřeba soukromí je totiž úplně normální a je to přirozená součást lidské psychiky. Argument, že kdo nic nelegálního nedělá, nemá se čeho bát, je naprosto zcestný. Zkuste si představit, že si právě teď někdo čte veškeré vaše soukromé zprávy za, dejme tomu, poslední rok, dva, tři… (ano, ten přístup získají samozřejmě do všech konverzací i zpětně). A vy vůbec nevíte, kdo to je a jak s tím, co se dočetl, dále naloží. Existují sice lidé, kterým tato představa asi moc nevadí, ale to zcela jistě není úplně normální. A i tito lidé by mohli aspoň respektovat to, že jsou v menšině a většina lidí má nějaké soukromí, do kterého nikomu nic není. A když ne ani to, tak aspoň uznat, že může existovat spousta objektivních důvodů, proč je na místě určité věci udržet v tajnosti. Spousta lidí třeba komunikuje o nějakých obchodních, průmyslových či technologických tajemstvích. Pak jsou to intimní věci nebo třeba sexuální orientace. O politicky exponovaných osobách ani nemluvě… nebo třeba lidé, kteří jsou oběťmi nějaké šikany nebo zločinů, mají rozhodně právo se někomu svěřovat zcela důvěrně.

Za určitých okolností by mohl být prakticky každý vydíratelný. A vůbec nemusí jít o porušování zákona. I třeba postěžování si kamarádovi, že šéf v práci je blbec, může být potenciálně kompromitující materiál.

Obrovská hrozba je pak především to, že nikdy nikdo nezaručí, že ten systém nebude někdo v budoucnu zneužívat. Jste si opravdu jistí, že máme natolik uvědomělé poslance a vládu, že by nikdy nevyužila nástroje pro kontrolu prakticky všech občanů ve svůj prospěch nebo k poškození politické konkurence? A že takhle uvědomělé zákonodárce budeme mít v budoucnu vždy a že se mezi ně nikdy nedostane nějaký populista s trochu zaječími úmysly? Nástroj sice zavede EU, ale jak se s ním naloží, to bude vždy už na konkrétní lokální jurisdikci. Už ze samotného principu to ani jinak nejde. Těch možností zneužití je až obludně moc. Taky nikdo nezaručí, že ten systém někdo nenabourá a nějací zločinci se nedostanou do libovolné komunikace mezi kýmkoliv…

Jak už jsem zmínil, těch lidí, kteří se budou moci do konverzací dostat, bude potřeba obrovské množství. I kdyby jich bylo třeba jen několik tisíc (EU má 450 milionů obyvatel, které bude muset kontrolovat), dáte ruku do ohně za to, že budou všichni z nich natolik loajální a morálně čistí, že například když uvidí, že někdo v chatu poslal třeba manželce nebo potomkovi číslo své kreditní karty, že si ho neopíše a za pár dní si nezkusí něco „koupit“ na jeho účet? Nebo když za někým takovým přijde redaktor z bulváru, že mu dá třeba sto tisíc za nějakou pikantnost ze života někoho známého? A že si potom třeba nestáhne nahatou fotku nějaké známé herečky, kterou poslala svému manželovi? Že si potom někdo takový třeba nechá zcela pro sebe, že známý herec má ještě nemanželské dítě, na které tajně platí alimenty? Nebo že se třeba dozví, že se jeho soused léčí na psychiatrii a jeho lékař mu e-mailem poslal lékařské zprávy o celém jeho stavu? Nebo že firma XY poslala někomu e-mailem ceník či nějaké jiné důvěrné informace, když jeho kamarád má konkureční firmu, která by tyto informace mohla krásně zužitkovat a danou firmu tím potopit? Nebo že sousedka si něco koupila v sexshopu? Opravdu je dobrý nápad, dát tisícům lidí k tomuto všemu volný přístup a plně jim důvěřovat, že si vždycky všechno nechají pouze pro sebe?

To ovšem pořád ještě není ani zdaleka to nejhorší.

Vůbec ta nejvíc děsivá skutečnost na celé této šílenosti je to, že je součástí návrhu zcela zakázat využívat komunikace na internetu lidem pod 16 let. Ano, opravdu bez nadsázky. V rámci jejich ochrany před sexuálními predátory někoho napadlo, že nejlepším řešením bude, když je od komunikace úplně odřízneme. A zamezíme jim přístup k technologiím, na kterých dnes stojí fungování moderního světa. Nehledě na to, že si moc neumím představit, co to asi udělá s mladými lidmi, kteří již virtuální svět berou jako nenahraditelnou součást své identity a životního stylu. Počet depresí, sebevražd a všech jiných možných psychických neduhů je u nezletilých nejvyšší v historii lidstva, takže bude jistě fajn jim teď zcela hodit vidle do jejich životního stylu, nechat je uzavřít se zcela do sebe a napospas sobě samým. Lockdowny za covidu byly oproti tomu legrace, to jim aspoň nikdo nezakazoval, aby si mohli mezi sebou psát. A ne, opravdu všichni na povel nevyběhnou zvesela ven cvrnkat kuličky a skákat panáka. Spíš jim přeskočí úplně… nebo si najdou různé ne úplně legální způsoby, jak se zase do online světa vrátit, tentokrát ovšem do jeho zcela nekontrolované části, na různé nelegální servery, které pro ně budou představovat nesrovnatelně vyšší riziko než tomu bylo doposud. A kde na ně ti skuteční pedofilové možná opravdu číhají.

Zatímco v Číně se děti už na prvním stupni učí pracovat s AI, v EU v sedmnácti letech poprvé pošlou e-mail. K čemu má být tohle dobré, to absolutně nechápu. Vychováme generaci digitálních analfabetů a pak je vypustíme do plně digitalizovaného světa…

Podle mě si to málokdo uvědomuje, ale tady končí veškerá legrace. Tohle je bez nadsázky totalitní nástroj, jehož účel zcela jistě není takový, za co jej vydávají. Zneužívání dětí je dle mého názoru jen zástěrka, protože zrovna tohle je obecně asi nejvíce opovrhovaným zločinem a autoři návrhu tedy spoléhají na to, že se jen málokdo ozve proti. Nikdo přece nechce vypadat jako podporovatel pedofilů nebo lidí, kteří jakkoliv ubližují dětem. Proč třeba tento nástroj není určen pro boj proti finančním podvodům, ke kterým jsou tyto platformy zneužívány mnohem častěji? Protože tady každý namítne, že se tomu rozhodně dá zabránit jinak než plošným šmírováním všech a tato argumentace by neprošla. Ostatně nepřijde vám tak trochu absurdní, jak už jsem jednou zmiňoval, že má někdo kontrolovat naše konverzace, jestli náhodou něco nepíšeme dětem, které tam nejsou?

Já stále doufám jen v jedinou věc. Že tahle obludnost nakonec neprojde.

V říjnu tohoto roku byl návrh stažen pro nedostatečnou podporu. Tenkrát jsem si oddechl a bláhově jsem si myslel, že zvítězil zdravý rozum. Ovšem uplynul měsíc a autoři se vrátili s přepracovaným návrhem, který podstrčil ještě horší nápady (například ten zákaz komunikace na internetu do 16 let, což vnímám jako vůbec nejhorší část) a podsunuli to jako ryze dobrovolné pro konkrétní platformy. Ovšem na tom až tak nezáleží. Důležité je prolomit právo na soukromí a pak už je to jen krůček k tomu, aby to nařídili povinně všem a poté rozšířili povinnost hlášení mimo CSAM na naprosto cokoliv, za co by se jim zachtělo někoho šikanovat. Ostatně odříznutí mladých lidí od internetu a povinnost ověření totožnosti tam je, takže nemůže být ani řeč o tom, že by to byla nějaká mírnější forma.

S tímto návrhem souhlasí už 23 států, pouze 4 jsou proti. Tohle vypadá hodně špatně, ale ještě nic není zcela ztraceno.

Jediné, co teď můžeme dělat, je tlačit na naše politiky, že tohle rozhodně odmítáme a je to pro nás téma, které je důležité a tedy má potenciál ovlivnit výsledky následujících voleb. Chtějme po nich vysvětlení, proč hlasovali v rozporu s Listinou základních práv a svobod a zda tedy plánují její redukci (toto totiž bude v případě implementace nutné). Ptejme se jich, proč chtějí zamezit mladým lidem v používání veškerých komunikačních aplikací a zda jim nevadí, že bez těchto znalostí budou ve zbytku světa nekonkurenceschopní. Ptejme se jich, proč toto neměli ve svém programu a proč před volbami nezmiňovali, že souhlasí s omezením našich základních práv. Ptejme se jich, jestli si opravdu myslí, že toto nějak ochrání děti a chtějme po nich konkrétní osobní záruky, že se toto šmírování dále nerozšíří a v budoucnu nebude zneužito. Ptejme se jich, jak bude zajištěno, že celý tento systém nepůjde zneužít. Nebo proč hlasují o něčem ve zjevném rozporu s drtivou většinou občanů, jejichž zájmy mají zastupovat.

Jestli chceme žít ve svobodné společnosti, musíme tohle rázně odmítnout. Ani STB za nejhlubší normalizace nerozlepovala dopisy plošně všem. Ani v Číně, kterou EU tolik kritizuje pro porušování lidských práv, nezamezuje mladým lidem psát si spolu a posílat fotky přes chatovací aplikace nebo e-maily. Dokonce ani v Rusku něco takového nefunguje.

Členství v Evropské unii nám jistě přineslo mnoho dobrého, ale v tomto případě je potřeba se postavit za naše práva. I pokud tento návrh projde na evropské úrovni, měli bychom jej kategoricky odmítnout implementovat, třeba s odkazem na to, že je v rozporu nejen s naší Listinou základních práv a svobod, ale že tím EU sama odporuje vlastnímu GDPR.

Je to zásadní test toho, jak si umíme obhájit vlastní základní práva, protože je to zatím největší pokus o jejich omezení minimálně od Revoluce. Pevně doufám, že jím projdeme úspěšně a budeme nadále žít v právním státě.

Zarážející je už jen to, že se o něčem takovém seriózně jedná a nebylo to okamžitě smeteno ze stolu. Je to silný varovný signál, že tady něco není správně. A pokud se teď za svá práva nepostavíme, příště už nemusíme vůbec dostat příležitost, abychom se k tomu vyjádřili…