Umělá inteligence jako zabiják peněz?

Světovými médii v posledních dnech proběhla zpráva, která by ještě před pár lety patřila do scénáře laciného sci-fi filmu, ale dnes vyvolává studený pot na čelech bankéřů a politiků. Společnost Anthropic vyvinula model umělé inteligence jménem Mythos. Není to chatbot, který vám napíše báseň. Je to první plně autonomní hacker na světě. Reakce technologických elit byla rychlá: okamžitě tento model uzamkly a přístup k němu dostalo jen pár vyvolených korporací v rámci utajeného projektu Glasswing. Jenže zamknout matematiku do skříně je jako snažit se utajit objev střelného prachu. Je jen otázkou času, kdy někdo jiný vyvine něco podobného. A až se tento digitální predátor zaměří na naše bankovní účty, spustí se řetězová reakce. Stát nám jako záchranný kruh hodí svou vlastní digitální měnu (CBDC). Místo bezpečí nás ale čeká ten nejstarší příběh v dějinách státní správy: „Mysleli jsme to dobře, ale dopadlo to jako vždycky.“

Abychom pochopili, co se na nás řítí a jak se na to připravit, musíme si celou situaci rozebrat pěkně popořádku. Od toho, co model Mythos vlastně umí, přes to, jak zranitelné jsou naše dnešní peníze, až po to, proč je státní lék možná mnohem horší než samotná nemoc.

Zkuste si představit běžného zloděje. Chodí po ulici a zkouší, kde lidé zapomněli zamknout dveře. To je klasický lidský hacker. Model Mythos je ale něco úplně jiného. Představte si entitu, která se dokáže podívat na samotný plánek vašeho domu, pochopí strukturu kovu ve vašem zámku, sama si v milisekundě vyrobí dokonalý paklíč, dům vykrade a ještě po sobě zamete stopy.

Mythos dokáže sám a bez pomoci člověka nacházet v počítačových kódech takzvané „zero-day“ zranitelnosti. To jsou chyby, o kterých tvůrci systémů ještě vůbec nevědí. Tvůrci Mythosu se tak vyděsili jeho schopností, že model nevydali pro veřejnost, ale dali ho jen několika technologickým gigantům, aby si pomocí něj otestovali vlastní bezpečnostní díry.

Je to ale jen naivní kupování času. Algoritmy se nedají utajit. Dříve nebo později – možná do roka, možná do dvou – podobný autonomní systém vyvine nějaká státní diktatura, kyberzločinecká skupina nebo parta geniálních nadšenců a vypustí ho do světa (tzv. open-source). A největším a nejlukrativnějším terčem na světě nejsou fotky ve vašem telefonu, ale globální finanční systém.

Proč by nás to mělo zajímat? Protože finanční gramotnost většiny lidí ohledně toho, kde vlastně leží jejich peníze, je velmi nízká. Mnoho lidí si stále myslí, že když mají na účtu v bance 100 000 korun, tak tam někde v trezoru leží sto tisícových bankovek s jejich jménem.

Realita je taková, že naše peníze jsou jen svítící čísla na monitoru. Dnešní bankovní systém funguje na principu „částečných rezerv“. Když vložíte do banky sto tisíc, banka si nechá v hotovosti třeba jen dvě tisícovky a zbytek okamžitě půjčí někomu jinému na hypotéku. Systém funguje naprosto hladce jen díky jedné jediné věci: důvěře. Věříme, že ta čísla v mobilní aplikaci odpovídají realitě.

A přesně na to by budoucí AI hacker zaútočil. Nepotřebuje složitě převádět miliardy dolarů na tajné účty na Bahamách, kde by je úřady hned zmrazily. Stačí mu mnohem levnější zbraň – chaos. Představte si, že se superinteligentní kód dostane do databáze několika bank a začne náhodně měnit zůstatky. Někomu připíše milion, někomu smaže výplatu. Systémy začnou kolabovat. Jakmile se první zoufalí lidé začnou svěřovat na sociálních sítích, že jim zmizely úspory, vypukne nezastavitelná panika. Nastane digitální bank run (útok na banky). Všichni se budou snažit své peníze vybrat v hotovosti, ale banky tolik hotovosti nemají.

V ten moment se náš současný finanční systém, postavený na starých papírových penězích (fiat měnách) a křehkých aplikacích, s ohlušujícím rachotem zhroutí.

A zde nastává ta nejnebezpečnější část celého příběhu. Z historie víme, že stát a politici milují krize, protože vystrašený občan ochotně odevzdá své svobody výměnou za pocit bezpečí.

Až budou lidé stát v nekonečných frontách před zavřenými pobočkami bank, vystoupí politici a centrální bankéři s připraveným řešením. Řeknou: „Vidíte? Soukromé banky selhaly. Hotovost je nepraktická a kryptoměny jsou plné podvodníků. My vám ale přinášíme absolutní bezpečí. Představujeme vám Státní digitální měnu (CBDC – Central Bank Digital Currency). Vaše peníze už nebudou u komerčních bank, budete mít účet přímo u centrální banky, garantovaný státem, s nejvyšším vojenským šifrováním.“

Běžný člověk, který nerozumí technologiím, si oddechne. Nainstaluje si státní aplikaci a bude rád, že jeho výplata je „v bezpečí“. Ale v ten moment sklapne past, ze které už není úniku.

CBDC totiž nejsou jen „stejné peníze, akorát v mobilu“. Z technologického hlediska je to naprosto jiný živočišný druh. Zatímco s dnešní hotovostí můžete jít na tržnici a anonymně si koupit kilo jablek, CBDC jsou programovatelné peníze. Jsou to chytré kontrakty ovládané státem.

Co to znamená v praxi a pro běžného člověka?

A tady se dostáváme k absurdnímu paradoxu, kde do hry znovu vstupuje umělá inteligence. Politici nám CBDC vnutí s tím, že nás má ochránit před AI hackery. Skutečnost je taková, že CBDC je pro hackery ten nejdokonalejší myslitelný cíl.

Dnešní systém je roztříštěný – každá banka má svůj systém. Skutečný Bitcoin je zase absolutně decentralizovaný (abyste ho zničili, museli byste vypnout elektřinu a internet po celém světě současně). CBDC je ale centralizované. Všechna data, všechny peníze celé země leží pod kontrolou jedné centrální autority. Vznikne tak obrovský zranitelný bod (tzv. Single Point of Failure).

Pokud nějaký budoucí, dokonalejší model typu Mythos dokáže prolomit obranu centrální banky, nestane se jen bankovním lupičem. Získá klíče od celého státu. Hackerská AI by mohla využít programovatelnosti CBDC proti samotným politikům. Mohla by peníze upravit tak, aby s nimi nešlo zaplatit logistiku a zásobování měst. Mohla by ze všech transakcí neviditelně krást haléře. Země, která se spolehne na jeden centrální digitální systém, dává krk na špalek naprosto komukoliv, kdo napíše chytřejší kód.

Jak už jsme detailně rozebírali u naprostého fiaska s digitalizací českého stavebního řízení představa, že byrokratický státní aparát dokáže postavit dokonalý, neprůstřelný a superbezpečný IT systém, je k uzoufání směšná.

Podívejte se na historii státních IT zakázek. Nedokážeme postavit funkční e-shop na dálniční známky, aniž by nezkolaboval hned první den. Státní registry si mezi sebou neumějí předat ani vaši adresu, aniž byste to nemuseli nosit na papíře s razítkem. A tito stejní úředníci, kteří vyhlašují předražená a nefunkční výběrová řízení na obyčejné formuláře, nám teď budou tvrdit, že vybudují kryptografickou pevnost pro národní měnu, která odolá superinteligentním AI hackerům z celého světa?

To je klasický příklad politického hesla: „Mysleli jsme to dobře, ale dopadlo to jako vždycky.“

Nacházíme se v bodě zlomu. Modely jako Mythos nám ukazují, že to, co je digitální a centralizované, je v konečném důsledku extrémně zranitelné. Až se systém fiat peněz zachvěje a státy nám začnou vnucovat svou vylepšenou digitální klec jménem CBDC, musíme si pamatovat, že to není záchrana, ale nástroj kontroly.

Co by měl dělat běžný člověk, který nechce skončit jako rukojmí ani AI hackerů, ani vlastních politiků? Musí se připravit na cokoliv a diverzifikovat. Nespoléhat se jen na svítící čísla v mobilu. Vlastnit fyzická, hmatatelná aktiva (nemovitosti, půdu), držet část svého majetku ve fyzickém zlatě a stříbře, uchovávat si přístup ke klasické hotovosti, dokud existuje, a prozkoumat skutečně decentralizované alternativy, jako je Bitcoin, které neovládá žádná centrální banka. Jen ten, kdo není stoprocentně závislý na jednom systému, dokáže přežít den, kdy tento systém přestane fungovat.