Chat Control: Evropská unie legalizuje šmírování občanů, které už dávno probíhá

Představte si, že každý dopis, který pošlete poštou, nejprve otevře úředník a zkontroluje jeho obsah. Zní to absurdně? Přesně to chce Evropská unie zavést do digitálního světa. Upravený návrh zákona známého jako Chat Control sice nenařizuje plošné skenování komunikace přímo, ale vytváří na technologické společnosti takový tlak, že jim fakticky nezbývá jiná volba. Pod záminkou boje proti dětské pornografii a ochraně nezletilých vzniká precedens masového sledování, který by i sám George Orwell ocenil.

Abychom pochopili, proč je Chat Control tak problematický, musíme si vysvětlit, jak technicky funguje. Klíčový koncept se nazývá „client-side scanning“ – skenování na straně klienta.

Client-side scanning funguje tak, že na vašem zařízení – ve vašem telefonu, tabletu nebo počítači – je nainstalován software, který kontroluje obsah PŘED tím, než je zpráva zašifrována. Každá fotografie, každé video, potenciálně každá zpráva prochází touto kontrolou doma u vás na stole, dřív než je vložena do zašifrována.

Technicky to znamená, že třetí strana – stát, agentura, soukromá firma provozující detekční software – se dozví obsah vaší zprávy ještě předtím, než ji pošlete. End-to-end šifrování stále existuje, ale je to jen divadlo. Zpráva je sice šifrovaná při přenosu, ale byla zkontrolována předtím. Je to jako kdyby poštovní úředník seděl u vás doma a kontroloval každý dopis, než vám dovolí ho zapečetit.

A nejhorší na tom všem je, že tento software běží na pozadí vašeho zařízení. Nepřináší vám žádný užitek. Pracuje aktivně proti vašim zájmům. Spotřebovává výkon vašeho procesoru, baterii a internetová data na to, aby vás sledoval. Je to v pravém slova smyslu špionážní software nainstalovaný s požehnáním vlády.

Problém není v záměru – ochrana dětí je legitimní cíl. Problém je v metodě, která ohrožuje soukromí všech občanů, porušuje základní práva zakotvená v Chartě základních práv EU a vytváří infrastrukturu, kterou může zneužít kdokoli, kdo se k ní dostane. A to vše při pochybné efektivitě.

Technologie rozpoznávání obsahu není dokonalá. Ve skutečnosti je daleko od dokonalosti. Akademici se shodují, že systémy pro detekci nelegálního obsahu pracují s mírou falešně pozitivních výsledků, která může dosahovat i desítek procent. Technologičtí experti uvádějí, že u textové analýzy může být obtížné dosáhnout míry chyb pod pět až deset procent. Při miliardě zpráv denně by to znamenalo padesát až sto milionů falešně pozitivních výsledků každý den; i kdyby systémy měly hypotetickou přesnost 99,9% – což je vysoko nad současnými možnostmi – WhatsApp s jeho sto čtyřiceti miliardami zpráv denně by generoval 140 milionů falešných obvinění denně.

Odborníci z oblasti kybernetické bezpečnosti jsou jednotní: neexistuje technologie schopná dosáhnout toho, co zákon požaduje, aniž by způsobila daleko více škody než užitku. Evropská unie však bez ohledu na technickou realitu tlačí svůj plán dál, jako by tvrdá vůle politiků mohla překonat fyzikální limity matematiky a informatiky.

Co to pro nás znamená v praxi? Pošlete fotku svého dítěte na koupališti partnerovi? Algoritmus může tento nevinný snímek vyhodnotit jako podezřelý. Sdílíte s lékařem fotku kožního problému svého dítěte? Můžete skončit v databázi podezřelých osob. Umělecká fotografie, vzdělávací materiály, zdravotnická dokumentace – vše může spustit automatickou detekci. Reálné případy již existují. Google například vytvořil falešná obvinění z dětského zneužívání u uživatelů, kteří posílali fotografie svých dětí lékařům.

Důsledky jsou závažné. Lidé označení jako podezřelí čelí vyšetřování, jejich účty mohou být trvale zablokovány a jejich pověst poškozena, a přestože se později ukáže, že šlo o omyl, digitální stopa zůstává. V některých případech jsou tyto údaje sdíleny s policií ještě předtím, než je jakkoliv ověřena jejich validita. Není těžké si představit, jak snadno může takový systém zničit životy nevinných lidí.

A tady přichází další problém: jak se bránit proti falešnému obvinění? Meta nabízí zákaznickou podporu pouze u placené verze svých služeb. Běžný uživatel, který platformu využívá zdarma a je nespravedlivě obviněn, nemá koho kontaktovat. Jeho účet je zablokován, nemá přístup k odvolání a nemá nikoho, kdo by jeho případ přezkoumal. Pomoc by mohl najít třeba u Úřadu pro ochranu osobních údajů, ale i tato instituce je pomalá a neefektivní a často trvá roky než se dobere nějakého verdiktu. Jiné platformy možná vůbec nenabízejí mechanismus pro nahlášení chyby systému. Jste prostě označen, odsouzen algoritmem, a nemáte právo na obhajobu.

Ironie celé situace spočívá v tom, že Chat Control stojí v přímém rozporu s dokumentem, který by měl být základem evropského právního prostoru. Charta základních práv Evropské unie v článku sedm zaručuje právo na respektování soukromého života a v článku osm právo na ochranu osobních údajů. Plošné skenování soukromé komunikace tyto principy podkopává.

Evropský soudní dvůr již v minulosti několikrát rozhodl, že plošné uchovávání dat nebo sledování komunikace bez konkrétního podezření je v rozporu s unijním právem. Chat Control se snaží tento problém obejít tím, že formálně nenařizuje skenování, ale vytváří podmínky, kdy firmy nemají jinou volbu. Jde o právní fikci – když vláda nenařídí sledování přímo, ale vytvoří takové prostředí, že k němu stejně dojde, je výsledek totožný. Máme právo na soukromí v našich konverzacích. Toto právo zahrnuje i možnost sdílet intimní obsah s partnerem bez toho, že by nás někdo sledoval.

Dospělí lidé si mezi sebou posílají nahé fotografie, intimní zprávy a osobní sdělení, která nejsou určena nikomu jinému. Toto chování není nelegální, není nemravné a rozhodně by nemělo být předmětem státního dohledu, přesto zákon nedokáže rozlišit mezi konsenzuálním sdílením intimního obsahu mezi dospělými a skutečným zneužíváním.

Výsledkem je, že každý intimní moment, každá důvěrná zpráva a každá osobní fotografie může projít rukama algoritmu a potenciálně i lidského operátora. To není jen porušení soukromí, je to ponížení důstojnosti člověka. Vztah vyžaduje důvěru a intimitu. Těžko budovat důvěrný vztah, když víte, že každá vaše zpráva může být předmětem kontroly.

Některé návrhy jdou ještě dál a požadují zákaz přístupu na sociální sítě pro osoby mladší šestnácti let. Na první pohled to může znít rozumně – ochrana dětí před nástrahami internetu, ale problém je opět v implementaci.

Jak ověříte věk uživatele na internetu? Nejsnazší způsob je požádat o doklad totožnosti, ale to znamená, že každý, kdo chce používat sociální síť, musí nahrát osobní dokument – občanský průkaz, pas nebo řidičský průkaz. Vzniká tak obrovská databáze citlivých osobních údajů, která je lákavým cílem pro hackery i autoritářské režimy.

Navíc toto opatření fakticky ukončuje anonymitu na internetu. Pokud musíte při registraci prokázat svou identitu, není možné používat internet anonymně. To má dopady nejen na svobodu projevu, ale i na bezpečnost novinářů, aktivistů, whistleblowerů a všech, kdo potřebují mluvit bez strachu z odplaty.

Paradoxně, takový systém děti stejně neochrání. Mladí lidé jsou technicky zdatní a najdou způsob, jak ověření obejít – použijí doklady rodičů, starších sourozenců nebo jednoduše přejdou na platformy, které ověření nepožadují (například skrze VPN). Výsledkem je další eroze soukromí bez skutečného přínosu k bezpečnosti.

Chat Control nečelí jen kritice od expertů a aktivistů. Samy technologické platformy, které by měly tuto legislativu implementovat, se proti ní vehementně staví.

Signal, jedna z nejbezpečnějších komunikačních aplikací, označila Chat Control za ,,malware na vašem zařízení". Jde o mimořádně silné vyjádření, které přesně vystihuje problém. Pokud něco skenuje váš obsah bez vašeho vědomí a souhlasu, pokud něco prolomí vaše šifrování a nahlíží do vašich zpráv, je to de facto škodlivý software. Rozdíl je jen v tom, kdo ten malware instaluje, jestli zločinec nebo vláda.

Tuta Mail, německý poskytovatel zabezpečené e-mailové služby, šel ještě dál a pohrozil žalobou proti Evropské unii. Argumentuje, že implementace Chat Control by byla v rozporu se základními principy, na kterých je jejich služba postavena. Celý VPN průmysl se vyjádřil podobně – poskytovatelé virtuálních privátních sítí varují, že Chat Control by fakticky znemožnil poskytování skutečně bezpečných služeb v Evropě.

A to není jen evropský problém. Evropská unie má v oblasti technologické regulace významný vliv. Když EU přijme nějaký standard, ostatní země často následují. Chat Control by dal signál zbytku světa, že soukromí digitální komunikace neexistuje, že je legitimní prolamovat šifrování a že masové sledování je přijatelné. Autoritářské režimy v Rusku, Číně, Íránu a desítkách dalších zemí by s nadšením použily evropský precedens jako ospravedlnění vlastních systémů totálního sledování. ,,Pokud to dělá demokratická Evropská unie, proč bychom to nemohli dělat my?" zní argument, který bude neodvratitelně následovat.

Možná nejsmutnější je fakt, že většina lidí bude pokračovat stejně jako dosud. Důvodů je několik a všechny jsou pochopitelné, i když znepokojivé.

Předně, mnoho lidí ani neví, že jejich komunikace nebyla až dosud plně chráněna. End-to-end šifrování se stalo standardem teprve v posledních letech a mnoho platforem ji stále neposkytuje pro všechny typy komunikace. Lidé posílali intimní zprávy, citlivé dokumenty i důvěrné informace, aniž by tušili, že nejsou plně zabezpečeny. Chat Control je v tomto smyslu jen pokračováním stavu, který zde již byl.

Mladí lidé, kteří vyrůstali v digitálním věku, často nemají povědomí o tom, co soukromí vlastně znamená. Pro ně je normální sdílet téměř vše online, být neustále sledován algoritmy a přijímat personalizovanou reklamu jako přirozenou součást digitálního života. Koncept soukromí je pro ně abstraktní, protože ho nikdy plně nezažili.

A pak je tu pohodlnost. Všichni vaši přátelé jsou na Instagramu, všechny skupinové chaty běží ve WhatsAppu, všechny pracovní konverzace jsou na Slacku nebo Teamsu a přechod na alternativní platformu znamená přesvědčit desítky lidí, aby šli s vámi. Většina lidí prostě není ochotna obětovat sociální spojení kvůli abstraktnímu konceptu soukromí.

Je důležité si uvědomit, proč jsou sociální sítě zadarmo. Není to filantropie. Sociální sítě neposkytují služby zdarma z dobré vůle – poskytují je zdarma, protože produktem jsme my.

Meta, Google, TikTok a další technologičtí giganti nevydělávají na předplatném. Vydělávají na datech. Každý váš like, každá zpráva, každé video, které zhlédnete, je datový bod, který pomáhá budovat váš profil. Tento profil je pak prodáván inzerentům, kteří vás chtějí přesvědčit, abyste koupili jejich produkt nebo volili jejich kandidáta.

Meta už dávno nemá žádné zábrany v narušování soukromí. Společnost potvrdila, že analyzuje obsah soukromých chatů v Messengeru pomocí automatizovaných nástrojů, oficiálně kvůli detekci malwaru a nelegálního obsahu, dále sleduje vaše chování mimo svou platformu pomocí tracking pixelů, které jsou instalovány na více než osmi milionech webových stránek po celém světě. Tyto pixely mohou sbírat velmi citlivé informace včetně historie prohlížení, finančních údajů a dokonce i zdravotních informací. V podstatě vše, co na platformách Mety děláte, je monitorováno, analyzováno a zpeněženo. Tato vlastnost, kterou ekonomové nazývají síťovým efektem, činí z velkých platforem téměř monopoly.

Jsme zkrátka otroci vlastního pohodlí. Víme, že nás sledují, víme, že zneužívají naše data, ale změnit platformu je prostě příliš obtížné, proto zůstáváme, kde jsme, zatímco naše soukromí se dál rozplývá do digitálního světa.

Chat Control v tomto kontextu není něco nového – je to jen formalizace toho, co korporace již dělají. Rozdíl je v tom, že nyní toto sledování získává státní požehnání a rozšiřuje se i na platformy, které dosud respektovaly soukromí uživatelů. A právě tady vyvstává jeden z nejpodivnějších paradoxů celé situace s evropským zákonem Chat Control. Evropská unie v posledních letech udělila Metě pokuty v miliardách eur za porušování soukromí uživatelů a aktivně bojuje proti praktikám korporací a snaží se chránit soukromí evropských občanů.

Jenže pak může přijít Chat Control, který v podstatě nařizuje stejné praktiky, za které Meta dostala pokuty. Skenování soukromých zpráv, analýza obsahu komunikace, masové zpracování osobních dat bez řádného souhlasu - to vše jsou právě ty aktivity, které EU u Mety pokutovala. Jak je možné, že EU na jedné straně trestá technologické firmy za narušování soukromí, a na druhé straně je k tomuto narušování fakticky nutí? Je to jako pokutovat někoho za krádež a pak mu nařídit, aby kradl dál, tentokrát s oficiálním požehnáním.

Tento problém je ještě vážnější v profesním kontextu. Pokud vaše firma komunikuje přes Microsoft Teams nebo vaše průmyslové odvětví používá WhatsApp, nemáte prostě volbu. Nemůžete říct svému šéfovi nebo klientům: ,,Omlouvám se, ale z důvodu ochrany soukromí nebudu používat tuto platformu." Riskovali byste ztrátu zaměstnání nebo obchodních příležitostí.

Výsledkem je, že i lidé, kteří si cení svého soukromí a rozumí problémům Chat Control, často nemají realistickou možnost změny. Jsou uzamčeni v systému, ze kterého není snadné uniknout.

Nyní přichází ta krutá pravda: Chat Control stejně děti neochrání. Zločinci nejsou hloupí. Vědí, jak obejít systémy detekce. Pokud jsou platformy jako WhatsApp a Instagram monitorovány, pachatelé prostě přejdou jinam. Existují desítky šifrovaných komunikačních nástrojů, které nejsou pod evropskou jurisdikcí. Existují anonymní sítě jako Tor, existují vlastní servery, peer-to-peer komunikace – metod, jak skrýt komunikaci, je nespočet.

Skuteční zločinci se adaptují. Naivní uživatelé, kteří netuší, že jsou sledováni, zůstanou zranitelní. Výsledkem je, že Chat Control nejspíše zachytí nejvíce nevinných lidí a falešně pozitivních případů, zatímco skutečné zneužívání se přesune do temnějších zákoutí internetu, kde je ještě těžší ho odhalit.

Navíc plošné skenování vytváří falešný pocit bezpečnosti. Rodiče se možná budou cítit lépe, ale pokud systém nefunguje, pokud zločinci ho obcházejí a pokud skutečným výsledkem je jen eroze soukromí všech občanů, není to vítězství, je to katastrofa.

Existuje lepší cesta. Místo investic do systémů masového sledování by Evropská unie měla investovat do vzdělávání.

Učit děti, jak bezpečně používat internet, jak rozpoznat nebezpečné chování, jak nastavit soukromí na sociálních sítích nebo jak mluvit s dospělými, kterým důvěřují, když se cítí ohrožené. Toto všechno jsou dovednosti, které dětem zůstanou po celý život a skutečně je ochrání – nejen před online hrozbami, ale i před manipulací, podvody a dalšími riziky.

Vzdělávat rodiče, učitele a další dospělé, jak rozpoznat varovné signály. Jak mluvit s dětmi o online bezpečnosti a jak vytvořit prostředí, kde se děti nebojí přijít a svěřit se se svými problémy.

Posílit systémy oznamování a vyšetřování konkrétních případů zneužívání. Místo plošného skenování všech zaměřit zdroje na cílené vyšetřování podezřelých. Tohle funguje. Policejní práce založená na konkrétních důkazech a vyšetřování vede k odhalení skutečných zločinců.

Podporovat technologie, které chrání soukromí a zároveň umožňují bezpečnost. Například end-to-end šifrování s dobrovolnými nástroji pro hlášení problematického obsahu. Uživatel může zvolit, že nahlásí konkrétní zprávu nebo obrázek, ale nikdo nemůže skenovat jeho komunikaci bez jeho vědomí.

Stojíme na křižovatce. Jedna cesta vede k digitálnímu sledování, kde každá zpráva, každá fotka, každý intimní moment je potenciálně předmětem státního dohledu. Druhá cesta vede k respektování soukromí jako základního práva a k investicím do řešení, která skutečně fungují.

Můžeme to změnit! Můžeme požadovat lepší zákony. Můžeme podepisovat petice a tlačit na politiky. Můžeme přejít na platformy, které respektují naše soukromí a můžeme vzdělávat sebe i své děti, ale musíme jednat ihned.