Článek
Jsme o krok blíže k zavedení „Orwelloveského nástroje“ pro čtení soukromých komunikací občanů Evropské Unie za účelem boje proti dětské pornografii.
Nařízení CSAR (Child Sexual Abuse Regulation – nařízení o sexuálním zneužívání dětí), nejčastěji přezdívané jako Chat Control či jeho odpůrci coby „šmírovací zákon“, prošlo ve středu schválením Radou EU. Té aktuálně předsedá Dánsko, jenž na protlačení legislativy nejvíce tlačilo. Česko bylo proti.
Jaký je záměr nařízení Chat Control a proč je tolik kontroverzní?
Cílem zvýšeného dohledu nad chatovacími aplikacemi (mezi ty nejpopulárnější se řadí WhatsApp, Messenger, Signal, Telegram, iMessage) je silnější ochrana dětí vůči internetovým sexuálním predátorům.
Nové nařízení by mělo pomoci odhalovat tzv. grooming, při kterém predátoři navazují důvěryhodný vztah s nezletilými právě prostřednictvím populárních chatovacích aplikací a služeb za účelem jejich následného zneužívání například skrze vylákávání citlivých a explicitních materiálů, které slouží k dalšímu vydírání oběti.
Nařízení CSAR se na půdě Evropské rady ohřívalo již několik let. V roce 2021 pro jeho přijetí hlasovalo poprvé. Tehdy byla většina českých europoslanců pro, především z řad stran SPOLU a ANO, zatímco europoslanci z řad Pirátů, SPD a KSČM byli proti. Druhé hlasování proběhlo letos 14. října, kdy bylo hlasování odloženo pro nedostatečnou podporu.
Česko se proti návrhu postavilo jako jedna z mála zemí EU. Vadí narušení soukromí občanů
Po čtyřech letech ovšem Česko jednohlasně otočilo a stavělo se vůči Chat Controlu odmítavě. Důvodem změny názoru bylo především povinné přijetí nástroje společnostmi stojícími za nejpoužívanějšími online komunikátory namísto jeho dobrovolného implementování do chatovacího softwaru, jako tomu bylo v původním ustanovení z roku 2021.
„Jsem zásadně proti povinné chat control. Hlasování v roce 2021 bylo o něčem jiném. Tehdy šlo o koncept dobrovolný a dočasný,“vyjádřil se europoslanec Alexander Vondra (ODS) v roce 2021 redakci iDNES.cz.
„Původně to měl být dočasný, a především dobrovolný nástroj s ambicí zvýšit ochranu dětí. Návrh, který je dnes na stole, je však povinný a trvalý. ANO je zásadně proti plošnému sledování soukromí,“doplnil Ondřej Knotek (ANO).
Někteří čeští europoslanci se ale vyloženě proti nepostavili už ani v původním návrhu. „Boj proti dětské pornografii je pro mě naprostou prioritou a podporuji všechny účinné a právně předložené kroky, které k tomu mohou vést,“ uvedl Tomáš Zdechovský (KDU-ČSL).
Většina českých europoslanců od té doby návrh nepodporovala především z důvodu změny původního záměru a jeho provedení. Ten totiž v současné podobě de facto rozbíjí systém šifrované online komunikace mezi uživateli, která je jedním z pilířů svobodného, chráněného, a především anonymního projevu slova na internetu.
S návrhem CSAR přišli v roce 2021 jako první europoslanci Dánska. Mezi státy, které se stavěly proti přijetí, bylo Rakousko, Polsko, Nizozemsko, Finsko a Lucembursko. Česko tehdy návrh v původní podobě podpořilo.
Nyní v roce 2025 ovšem otočilo spolu se Slovenskem, které se připojilo k bloku odpůrců z dřívějšího nerozhodnutého stavu. Avšak nyní se již nepodařilo přesvědčit velké státy jako Německo a Itálie, které z dřívějšího negativního či neutrálního postoje přešly na stranu podporovatelů.
Rada, kde zasedají ministři členských států, hlasuje tzv. kvalifikovanou většinou: pro musí být 55 % členských států, které zároveň představují minimálně 65 % obyvatel EU. Názor lidnatějších zemí má proto v tomto hlasování větší váhu.
Návrh dále poputuje do dalšího ze tří kol. Schválit jej musí ještě Evropský parlament a Evropská komise. Nic ještě není definitivní. Nicméně se podívejme, co by to pro nás běžné uživatele online komunikátorů mohlo znamenat v praxi.
Začátek digitální totality? Jak bude Chat Control fungovat v praxi?
Nová podoba Chat Controlu má ukládat povinnost technologickým společnostem spravující chatovací aplikace prohledávat (či chcete-li šmírovat) komunikaci vlastních uživatelů při hledání škodlivého obsahu, jako je právě dětská pornografie.
V současnosti probíhá zabezpečování uživatelské komunikace na nejvyšší úrovni prostřednictvím koncového šifrování. Nejběžněji jde o postup E2EE (End-to-End Encryption – metoda koncového šifrování), která zajišťuje, že zprávu může přečíst pouze její odesílatel a zamýšlený příjemce.
Funguje na principu toho, že jsou klíče k dešifrování obsahu uloženy pouze na koncových zařízeních, nikoli na serverech poskytovatele služby. Server sice zprávu přenáší, ale nezná její „soukromý klíč“, a proto nedokáže zprávu přečíst. Pouze „soukromý klíč“ příjemce dokáže zprávu posléze rozluštit.
Jde o natolik sofistikovanou metodu šifrování, že prolomení takové konverzace by bez klíčů trvalo stovky let. A ani poskytovatelé služeb nemají k obsahu přístup. Přistoupení chat kontrolu do hry by nebezpečně změnilo hru.
Jde o to, že by do hry přišla implementace nástroje pro kontrolu chatu – složitého, několikaúrovňového systému třetí strany (viz společnost Thorn níže). Provozovatelé komunikačních platforem (jako např. Meta, Apple, Telegram, Signal) by byli donuceni, aby do svých aplikací nebo na své servery nahrát detekční software.
Chtějí evropští komisaři číst naše zprávy?
Nebylo by to tak, že by nějaký policista četl v reálném čase všechny vaše zprávy. Celý proces čtení zpráv by byl z velké části automatizovaný pomocí umělé inteligence (AI) a zapojoval by jak technologické giganty, tak nově vzniklou evropskou agenturu pro boj proti zneužívání dětí v online prostoru, jakožto dohlížející organizaci.
Mnohé aplikace již dlouhou dobu využívají softwary na bázi umělé inteligence pro vyhodnocování nevhodného obsahu porušujícího podmínky použití na sociálních sítích a v chatovacích aplikacích, jelikož není v lidských silách vše ručně odhalit. Podstatný rozdíl je však v podmínkách a metodě kontroly obsahu ze stran technologických gigantů.
V případě nahrávání nebo odesílání nevhodného obsahu (např. pornografie, násilí, drog) v chatu jsou ještě před odesláním příjemci zkontrolovány jejich vlastním softwarem a posléze případně zablokovány nebo jsou příjemci na možné riziko varováni.
Činnost provádí AI, která porovnává obsah (text, fotky, videa) s nelegálním obsahem ve své databázi či hledá vzorce nevhodného chování (grooming) a porovnává jej. I v takovémto případě jsou veškeré zprávy šifrovány a firma je na svých severech nepřečte.
V případě Chat Controlu by do hry vešel tzv. nástroj Client-Side Scanning (skenování na straně klienta). To v praxi funguje tak, že jakmile napíšete zprávu nebo nahrajete médium pro příjemce, ještě před odesláním a zašifrováním se tato zpráva „přečte“ skenovacím softwarem.
Zcela laicky si to můžeme představit jako „virtuálního agenta StB“, který před odesláním vašeho dopisu kamarádovi obálku rozlepí, přečte, vyhodnotí obsah a buď znovu zalepí a odešle, nebo vytvoří kopii, kterou předá vyšetřovatelům.
Za běžných okolností by tento proces pro uživatele byl neviditelný (ačkoliv by mohl výkonnostně zpomalovat zastaralejší zařízení). Ovšem v momentě nálezu nelegálního obsahu by se vzorek (kopie zprávy – tzv. digitální otisk) odeslal k posouzení příslušným orgánům (pravděpodobně policii nebo onomu evropskému centru pro ochranu dětí).
A právě v tomto případě přichází největší a oprávněné obavy ze ztráty soukromí uživatelů EU.
Společnost Thorn lobbuje v EU za zavedení Chat Controlu
Všechny soukromé zprávy by byly automaticky skenovány „šmírovacím softwarem“ pravděpodobně ještě na našich zařízeních, jako jsou chytré telefony, tablety nebo počítače, jelikož by byl software přímou součástí kódu aplikace.
Takový software má údajně delší dobu v šuplíku připravená americká společnost Thorn, založená v roce 2009 hollywoodskými hvězdami Demi Moore a Ashtonem Kutcherem. Jejím cílem je podporovat lidi a platformy s ambicemi zajistit bezpečnost dětí na internetu a bojovat vůči pedofilům a sexuálním predátorům.
Avšak kritici společnosti Thorn poukazují na rozmazávání ušlechtilé snahy bojovat proti dětské pornografii a snaze o nabízení (chcete-li vnucování) svého softwarového řešení (např. Child Safety API) technologickým gigantům jako Microsoft, Google, Twitter (dnes X) či Mozilla.
Kontroverze kolem Thornu se rozhořely poté, co dva pracovníci napojení na Europol (unijní organizaci pro prevenci a potírání zločinu) přešli v roce 2021 pracovat právě do této společnosti, z nichž jeden se vypracoval až na vedoucí pozici.
Na případ poukázala evropská ombudsmanka Emily O’Reilly, která požadovala, aby se prošetřily konkrétní kroky bývalých zaměstnanců Europolu, nyní Thornu, a jejich následných schůzek se svými někdejšími kolegy ohledně nabízení svého skenovacího softwaru.
Společnost zůstává zapsána v transparentním registru EU pro lobbisty, což potvrzuje její aktivní snahu ovlivňovat rozhodovací procesy v Bruselu. Lobbing je však na půdě EU zcela legální. Díky silnému morálnímu apelu ochrany dětí je pro evropské politiky extrémně obtížné postavit se proti organizaci s takovou „ušlechtilou misí“, i když to znamená přijetí kontroverzní techniky.
Konec listovního tajemství?
Jak dobře víme, technologie a umělé inteligence nejsou neomylné. V případě zavedení návrhu by hrozila vlna falešných obvinění lidí, kteří jen kupříkladu sdílí fotografie ze svých dovolených se svými příbuznými, na nichž jsou děti v plavkách. Nebo dokonce zcela nahé. Jistě máme každý nějakou takovou choulostivou fotku schovanou v rodinném albu.
Neomylná (chcete-li místy debilní) umělá inteligence by soubor vyhodnotila jako šíření dětské pornografie a pořízený záznam by automaticky odeslala k přezkoumání. Uživatel by o ničem nemusel ani vědět (protože proč taky plašit potencionálního úchyla?).
Následující kroky by nejspíše vedly k zablokování účtů a vyšetřování nevinných lidí, čímž by se příslušné úřady masivně zahlcovaly. Jen si představte, kolik zpráv se denně pošle jen v rámci ČR, natož v celé EU. Jak dlouho by trvalo prověřit miliony falešných poplachů?
Hackeři a vyděrači by měli žně
Chat Control by de facto měnil základní principy presumpce neviny. Místo toho, aby policie sledovala pouze podezřelého na základě soudního příkazu, byli by plošně sledováni všichni občané z preventivních opatření, aby se našli ti provinilci, kteří skutečně páchají trestnou činnost.
Ani tímto veškeré kontroverze nekončí. Skenovací software je ve své podstatě „zadními vrátky“ pro monitorovací úřady s již popsaným záměrem boje proti dětské pornografii.
Tato zadní vrátka by však mohla být hravě zneužita zkušenými hackery a kyberzločinci při snaze prolomit konverzaci nic netušícího uživatele za účelem vydírání, šmírování nebo pronásledování (např. novinářů, whistleblowerů, opozice apod.) jako se tomu děje v zemích s autoritářským režimem.
Cesta do pekel je vždy dlážděná dobrými úmysly
Evropská komise obhajuje CSAM s tím, že policie je v době dnešní sofistikované šifrované komunikace bez přímého přístupu k obsahu zpráv podezřelých ze zneužívání dětí bezmocná. Možnost zprávy číst a mít přímý důkaz by výrazně pomohla v procesu usvědčování. Ale za jakou cenu?
Plošné šmírování všech občanů bez podezření neudělá dobrou vizitku demokratického uskupení Evropské unie. Prolomování šifrování může oslabit bezpečnost bankovnictví, firemních tajemství i státní zprávy, jelikož hojně politici používají tytéž aplikace jako běžní smrtelníci.
Kromě toho vážně hrozí už jen při samotném (zdlouhavém) procesu schvalování odchod významných technologických hráčů, respektive jejich aplikací z evropského trhu. Chat Control by byl v rozporu s jejich firemní politikou naprosté ochrany a anonymity komunikace mezi uživateli.
Technologičtí giganti vyhrožují odejitím z EU
Nejradikálněji se k záležitosti vyjadřuje zástupce aplikace Signal Meredith Whittaker, která opakovaně prohlásila, že by se v případě zavedení Chat Controlu Signal zcela stáhl z EU. Podobné stanovisko zastává také ruský Telegram, švýcarská Threema nebo americký WhatsApp a Messenger od Mety.
Naopak společnost Apple před pár lety plánovala zavést vlastní „šmírovací software“ pro kontrolu zpráv iMessege a fotografií na iCloudu. Po obrovské vlně kritiky však od plánu ustoupila. V současnosti se předpokládá, by se společnost Apple postavila proti, protože by to poškodilo její marketingovou image.
Evropanům proto může již brzo vážně hrozit, že by ze dne na den přišli o nejpoužívanější chatovací aplikace. Firmám by se totiž kromě jiného nevyplatilo provozovat dvě různé verze, jedna se „štěnicí“ pro EU a jedna bez pro uživatele ze zbytku světa.
Sexuální predátoři si stejně najdou cestičku
Sexuální predátoři, hackeři a ostatní kyberzločinci jsou velmi vynalézavá svoloč. Odpůrci namítají, že by systém CSAR v praxi nefungoval dostatečně dobře, pomohl by možná pochytat pár menší ryb za cenu ztráty soukromí a osočování nevinných občanů z důvodu selhání AI algoritmů. S těmi největšími distributory dětské pornografie by ale stejně nedokázal účinně zatočit.
Do karet jim hraje používání softwarů pro změnu VPN adresy, aby se zdánlivě mohli připojovat z úplně opačných koutů planety, obejít tak zákony a ochranné systémy a stát se pro policii prakticky nepolapitelnými.
Ostatně, tak je tomu už dávno, přičemž některé společnosti jako ruský Telegram chrání anonymitu svých uživatelů natolik, že nepředá důkazy policii ani v případě vážného podezření ze spáchání trestného činu. Takže kdo tu, koho chrání?
Další zdroje: idnes.cz, irozhlas.cz, seznamzpravy.cz, novinky.cz, novinky.cz, wikipedia.org
