Stát jako autoimunitní nemoc: Až se CBDC spojí s Palantirem

V minulých úvahách jsme si nakreslili poměrně idylický, až utopický obraz budoucnosti. Bavili jsme se o tom, jak by digitální měny centrálních bank (CBDC) mohly fungovat jako dokonalá „Kryptografická ústava“. Systém, který nás nesleduje, ale funguje jako neviditelná gravitace omezující monopoly a chránící střední třídu pomocí exponenciální daně z hlíny. Byla to krásná představa „Boha, který nastavil hranice, ale nepotřebuje kamery“.

Teď je ale čas na mrazivý střih a návrat tvrdýma nohama na zem. Do reality.

Zatímco my sníme o decentralizovaných systémech, které lidem vrátí svobodu, v epicentru současného technologického vývoje se staví něco úplně jiného. Architektura, která ty kamery naopak instaluje úplně všude. Pokud se totiž ty naše budoucí státní „chytré peníze“ spojí s technologiemi, které dnes vyvíjejí společnosti jako je Palantir, nevznikne spravedlivá gravitace. Vznikne ten nejdokonalejší a nejděsivější dozorový aparát v dějinách lidstva.

Většina lidí si představuje státní sledování jako úředníka, který si vyjede váš výpis z účtu. To je ale myšlení 20. století. Dnešní realita dozorového kapitalismu se jmenuje Palantir (a jemu podobné systémy). Je to společnost, která začínala vývojem softwaru pro CIA, Pentagon a tajné služby (systém Gotham), a dnes dodává datovou analytiku i největším světovým korporacím (systém Foundry).

Palantir nesleduje jen jednu linku vašich dat. Jeho genialita a zároveň děsivost spočívá ve fúzi. Dokáže nasát naprosto nesourodá data z tisíců různých, dříve nepropojených databází a hledat v nich skryté korelace.

Představte si ten moment, kdy se tento systém napojí na vaše digitální peníze (CBDC). Najednou to není jen o tom, co jste si koupili. Systém ví:

Zatímco náš sluníčkový model CBDC vás ignoroval, dokud jste neskoupili tisíc hektarů půdy, architektura Palantiru mikromanažuje každou vaši vteřinu a z obrovského množství datových bodů tvoří váš dokonalý behaviorální profil.

Možná si řeknete: „Ať si mě analyzují, já nic špatného nedělám.“ Jenže analytika je jen první krok. Tím druhým je predikce.

Systémy podobné Palantiru se již dnes v některých amerických městech testují pro tzv. Predictive Policing (prediktivní policii). Analyzují historická data a posílají policejní hlídky do konkrétních ulic ještě dřív, než se tam stane zločin. V kombinaci se státními penězi se dostáváme do dystopie filmového Minority Report.

Algoritmus by mohl vaši peněženku zablokovat preventivně. Vyhodnotil by: „Občan XY si v posledním měsíci koupil knihy o kryptografii, nakoupil větší množství léků, jeho auto parkovalo blízko nehlášené demonstrace a stýká se s lidmi s nízkým sociálním skóre. Pravděpodobnost radikalizace je 87 %. Odstřihněte ho od finančního systému.“

Ve vojenské terminologii se Palantir aktuálně chlubí platformou AIP (Artificial Intelligence Platform), jejímž cílem je zkrátit takzvaný Kill chain – rozhodovací proces od detekce nepřátelského cíle po jeho zničení. Umělá inteligence vyhodnotí satelitní snímky, označí cíl a operátorovi jen nabídne tlačítko „Zničit“. Pokud to přeneseme do státní správy, stane se z úředníka jen biologický klikač. Algoritmus mu ráno na stůl vysype seznam lidí určených k exekuci, zablokování účtů či odebrání dávek. Úředník nebude tušit, jak k tomu ta digitální černá skříňka došla. Jen zmáčkne „Schválit“, aby vykázal činnost. Člověk je tak efektivně vyřazen z rozhodovací smyčky.

Zde narážíme na fascinující a temný filozofický paradox. Zakladatelem Palantiru je Peter Thiel – excentrický miliardář, geniální investor a zarytý libertarián. Člověk, který nenávidí státní zásahy, miluje volný trh a financuje projekty na nezávislá plovoucí města na oceánech. Jak může zrovna on stavět ten absolutně nejdokonalejší nástroj pro digitální totalitu?

Jeho omluvou je klasický argument závodů ve zbrojení: „Pokud nepostavíme ultimátní dozorový systém pro západní demokracie my, postaví ho Čína a ta nás nakonec zničí.“ Tento přístup nápadně připomíná osud jednoho z největších filozofů 20. století, Martina Heideggera. Heidegger byl brilantní myslitel, který se ale ve 30. letech přidal k nacistické straně. Ne proto, že by byl hloupý, ale z neuvěřitelné intelektuální pýchy. Domníval se, že on, jako velký filozof, dokáže to temné a primitivní hnutí nacistů „intelektuálně zkrotit“ a nasměrovat ho k záchraně německé duše. Jak to dopadlo, víme. Nástroj se vymkl kontrole a Heidegger se stal jen užitečným idiotem totalitní mašinérie.

Thiel kráčí po velmi podobné hraně. Domnívá se, že dokáže postavit „Vševědoucí oko“, které bude sloužit svobodě. Ale technologie nemá žádnou loajalitu ke svému tvůrci. Architektura naprosté kontroly je prostě architekturou naprosté kontroly, bez ohledu na to, zda na ní visí americká, čínská, nebo korporátní vlajka.

To nás přivádí k tomu vůbec největšímu nebezpečí, kterému jako lidstvo čelíme. Není to zlá vůle nějakého konkrétního diktátora. Je to inherentní vlastnost samotných složitých systémů. Systémů, které se začnou nudit.

V biologii se tomu říká Hygienická hypotéza. Když lidstvo začalo žít v příliš sterilním prostředí a vybilo pomocí léků a hygieny skutečné vnější parazity a smrtelné bakterie, náš vlastní imunitní systém se ocitl bez práce. Máme v sobě obrovskou armádu bílých krvinek, která ztratila nepřítele. Aby systém obhájil svou existenci a nezkolaboval, začal si vymýšlet nepřátele falešné. Začal útočit na neškodný pyl (alergie), nebo rovnou požírat vlastní tělesné orgány (autoimunitní nemoci).

V sociologii pro to máme Parkinsonův zákon: Byrokratický aparát roste bez ohledu na množství reálné práce, jen aby ospravedlnil své rozpočty. A v informatice tomu říkáme Algoritmický Mission Creep (plíživé rozšiřování cílů).

Představme si, že se onen spojený systém (Palantir + chytré CBDC) opravdu spustí s těmi nejlepšími úmysly. Jeho imunitním úkolem bude: Chytat mezinárodní teroristy, oligarchy vyhýbající se daním a obří pračky špinavých peněz.

Jenže ten systém je obdařen umělou inteligencí a obrovským výpočetním výkonem. Během několika málo let tyto velké, zjevné hrozby zlikviduje, nebo je vytlačí úplně mimo digitální síť. Co se stane pak? Systém stojí daňové poplatníky miliardy dolarů ročně na serverech a chlazení. Algoritmus nemůže přijít za prezidentem a ohlásit: „Mám hotovo, zločin už neexistuje, můžete mě teď vypnout a propustit mých dvacet tisíc inženýrů.“ Instinktem každého systému je za každou cenu přežít a zdůvodnit svou užitečnost.

A tak systém automaticky sníží práh své citlivosti.

Už nehledá teroristy. Začne hledat mikro-hrozby a přestupky z běžného života, aby mohl generovat reporty. Najednou vám z vaší CBDC peněženky automaticky zmizí 500 korun, protože jste s autem přejeli plnou čáru někde na opuštěné okresce. Zmrazí vám deset procent platu, protože jste na sociální sítě napsali „protistátní“ vtip.

A nakonec přijde ta pravá digitální dystopie. Do systému se – čistě v zájmu efektivity, samozřejmě – integruje vaše zdravotní pojišťovna. V pátek večer si u kasy pípnete třetí basu piv a koupíte k tomu karton cigaret. Algoritmus bleskově vyhodnotí, že svými životními návyky představujete statistickou „budoucí zátěž pro systém veřejného zdravotnictví“. V tu samou vteřinu se vaše programovatelné peníze uzamknou a na displeji se objeví nápis: „Transakce zamítnuta: Překročen týdenní limit pro toxické látky. Zdravotní pojištění vám bylo navýšeno o 15 %.“

Autoimunitní nemoc dosáhla svého vrcholu. Systém, který měl svobodného občana chránit před zlem, ho začal sám systematicky požírat a trestat za každý drobný prohřešek proti strojové dokonalosti. Zabije v lidech veškerou kreativitu, drzost a odvahu žít po svém. A s mrtvým hostitelem nakonec umře i ten obří hlídací systém.

Jak tuto nevyhnutelnou destrukci zastavit? Pokud se chceme inspirovat v historii, musíme se podívat po modelech, kterými se mocná impéria snažila udržet vlastní byrokracii na uzdě.

Historická Čína, za dob dynastií Ming či Čching, narazila na to, že se její státní úřednický aparát rozrostl do tak obludných rozměrů, že svými desátky začal rdousit zemědělskou produkci celé říše. Císařové proto museli zavést nekompromisní kapovací mechanismus. Byly zavedeny tvrdé, nepřekročitelné kvóty na to, kolik lidí vůbec smí v daném roce složit státní zkoušky. Stát dostal strop.

Pokud tento čínský model převedeme do éry umělé inteligence, dostaneme Zákon o omezení výpočetního výkonu státu (Compute Cap).

Místo omezování počtu úředníků s razítkem zavedeme limit na výpočetní sílu státní sítě. Do samotné architektury systému vložíme pravidla, která nazývám Datová dieta nebo Tvrdě naprogramovaná amnézie. Kód CBDC a státní policie by obsahoval fyzický limit: „Tento algoritmus smí vyhledávat pouze anomálie a transakce nad 100 000 Kč. Záznamy starší než tři roky se na úrovni hardwaru nenávratně mažou.“Systém by se nemohl začít nudit a buzerovat občany za nákupy piva, protože bychom mu jednoduše odřízli přísun výpočetního kyslíku. Odepřeli bychom mu přístup k těm zrníčkům dat, na kterých by mohl trénovat svou autoimunitní represi.

Druhý historický model nás přivádí do dob Studené války. Jaderné odzbrojení fungovalo jen díky jediné myšlence: Vzájemně zaručené zničení (Mutually Assured Destruction - MAD). Generálové a politici v USA i v Sovětském svazu pochopili, že zbraň je tak mocná, že pokud stisknou tlačítko, shoří v atomovém ohni i jejich vlastní rodiny.

Propojení databází typu Palantir s digitálními měnami je ekvivalentem jaderné zbraně. Pokud tento systém necháme volně růst, dospějeme do bodu „Vzájemně zaručeného sledování“. Algoritmy se stanou tak chytrými a tak hluboko propletenými v síti, že si časem začnou samy hledat ony „mikro-zločiny“ i na samotné politiky, policejní ředitele a oligarchy, kteří je stvořili a spustili.

Až si elity uvědomí, že monstrum, které vypustily, nemá slitování ani s nimi, možná se dočkáme globální shody na Algoritmickém odzbrojení. Stejně jako jsme zakázali výrobu biologických zbraní, mohly by vzniknout mezinárodní, kryptograficky jištěné smlouvy o tom, že určité databáze (státní zdravotnictví, lokace pohybu a digitální měna) se nesmí na centrální úrovni nikdy fyzicky propojit. Architektura státu bude muset být úmyslně roztříštěná a neefektivní. Naše záchrana bude spočívat právě v tom, že stvoříme systém, který nebude dokonalý.

Nastínili jsme si obrovské hrozby autoimunitního státu i teoretická systémová řešení v podobě datových diet a algoritmického odzbrojení. Papír a technologické manuály snesou všechno. Ale na konci tohoto hlubokého ponoru do architektury moci zůstává jedna obrovská, praktická propast.

Když totiž u jaderných zbraní chcete dodržovat smlouvy, můžete poslat mezinárodní inspektory OSN, aby fyzicky spočítali betonová raketová sila. Jadernou hlavici neschováte pod stůl. Ale algoritmus? Zkopírovanou databázi chování padesáti milionů občanů? Tyto gigabajty dat může jakákoliv tajná služba přesunout na skrytý server kdesi ve vládním podzemí rychlostí světla.

Když s jistotou víme, že stát (jako každý živý organismus) má biologickou tendenci podvádět a tajně hledat zadní vrátka pro posílení vlastní moci, nezbývá než si položit tu nejpalčivější otázku naší digitální dekády.

Jakým mechanismem dokáže běžný občan zkontrolovat uzavřenou algoritmickou „černou skříňku“ státu, a získat tak absolutní jistotu, že ho systém tajně na pozadí neanalyzuje, a že skutečně dodržuje ty sjednané zákony o amnézii a nepropojování dat?

A tak tuto otázku budeme muset nechat viset ve vzduchu. Možná totiž odpověď na to, jak zkontrolovat vševědoucí stroj, neexistuje v softwaru, ale jedině v našem pevném odhodlání udržet si kousek off-grid reality v našem vlastním, fyzickém světě.

Zdroje a doporučená literatura k tématu: