Článek
Čtvrtý a závěrečný díl série o tallinnské studii The Agentic State. V prvních třech textech jsem psal o tom, jak by mohl vypadat stát z pohledu občana, jak by mohly fungovat služby, a jak by se daly proměnit regulační pravidla. Dnes zbývá otázka, která tu celou stavbu drží pohromadě nebo ji rozsype. Kdo nese odpovědnost.
Demokracie začíná u srozumitelnosti
Agentický stát se ve studii prezentuje s důrazem na efektivitu a uživatelský komfort. Je ale dobré nezapomínat, že demokracie se nemůže redukovat na uživatelský komfort. Stojí na něčem starším a křehčím. Na tom, že občan rozumí, podle jakých pravidel se s ním zachází, a má jak se proti rozhodnutí bránit.
Tahle podmínka platí stejně pro úřad, který razítkuje papír, i pro úřad, který deleguje výkon na algoritmus. Když se ti zamítne dávka, máš právo vědět proč. Když ti přijde kontrola, máš právo vědět, podle jakých indikátorů ses ocitla na seznamu. Když systém udělá chybu, někdo musí být dostupný, aby ji napravil. To není luxus, to je předpoklad legitimity.
Rozdělit autonomii agenta od politické vůle
Tallinnský článek navrhuje rozumný princip, který stojí za vyzdvihnutí. Rozlišuje technickou parametrizaci, kterou může agent provést sám, od podstatné změny politiky, která je rozhodnutím lidí. Aktualizace inflační indexace prahu je technická úprava. Změna toho, kdo dávku vůbec dostává, je politická.
Tahle hranice nesmí být v praxi rozmazaná. Pokud bude úředník nebo politik rád, že se některé rozhodnutí přesune na agenta, protože se mu to politicky hodí, demokratická kontrola se vypaří, aniž bychom si toho všimli. Stačí pár let nepozornosti a ocitneme se ve světě, kde se přerozdělování dělá podle pravidel, kterým rozumí čtyři lidé v zemi.
Tady chci přiznat osobní zkušenost. V Evropském parlamentu jsme při psaní AI Actu narazili přesně na tenhle problém. Velcí dodavatelé tlačili na to, aby se hranice mezi „technickým parametrem“ a „rozhodnutím“ definovala co nejmlhavěji. Mlhavost je v jejich zájmu, protože jim ponechává prostor. Jasná definice je v zájmu občana.
Data jako energie i jako riziko
Agentický stát potřebuje hodně dat. Pokud má agent rozhodovat o dávce, musí znát příjmy. Pokud má sám koordinovat odpověď na povodeň, musí znát polohy. Pokud má proaktivně oslovit rodinu pod hranicí příjmů s návrhem podpory, musí ji nejdřív identifikovat. Tohle všechno je v rozporu s reflexem, který jsme si v Evropě posledních deset let vybudovali. Méně dat, jen co je nutné, jen pro účel, ke kterému byla získána.
Studie na to odpovídá zajímavou cestou. Kryptografické techniky, takzvané privacy enhancing technologies. Agent se nedostane k datům přímo, dostane se k důkazu, že podmínka platí. Stát se neptá, kolik vyděláváš. Stát si nechá od důvěryhodného zdroje potvrdit, že tvoje příjmy jsou pod hranicí. Surové číslo zůstává u tebe.
Tahle linie technologického vývoje je v Evropě silná. Máme tu výzkumná pracoviště, máme tu standardy, máme tu právní rámec, který tomu dává smysl. Spojení s agentickým státem by mohlo být evropský originál v dobrém slova smyslu.
Kybernetická odolnost není nadstavba
Když agent zpracovává sto procent žádostí o dávky a někdo na něj zaútočí, není to obtíž v IT oddělení. Je to porucha státního aparátu. Tallinnský dokument to popisuje jasně. Bezpečnost agentických systémů musí být navržená od základu, ne přilepená později jako certifikace. Tamper-evident logy, forenzní audit, ochrana proti útokům na samotné chování modelu. Z toho posledního se může v polo veřejné správě vyklubat noční můra. Stačí, aby útočník dokázal navést agenta k tomu, aby udělal něco, co dělat neměl, a důsledky jsou systémové.
Lidé v centru, ne na okraji
Vrstva, ke které mám asi nejosobnější vztah, se ve studii jmenuje People, Culture and Leadership. Autoři popisují, že přechod na agentický stát vyžaduje rekvalifikaci úředníka z vykonavatele rutiny na dohlížitele systému. Z toho, kdo razítkuje, na toho, kdo posuzuje výjimky a navrhuje, kam by se měl systém ohnout.
Tohle je v dokumentu vzato vážně, ale v české politické debatě se tomu zatím nevěnujeme vůbec. Dělá se to, jako kdyby přechod ke státu řízenému AI byl převážně otázkou technologickou, kterou vyřeší dodavatel. Není to pravda. Je to převážně otázka lidská. Stát, ve kterém se zruší rutinní úředníci a nepřipraví se nový typ profese, který by je nahradil, je stát, který se brzy octne v silně negativní spirále.
Strategická autonomie ve výbavě státu
Závěrečná myšlenka se vrátí k tomu, čím jsem celou sérii začal. Kdo bude dodavatelem agentické infrastruktury pro evropské státy, ten v praxi určí, jaké hodnoty budou v kódu zabudované. To není rétorická figura. To je technická realita. Kód, na kterém poběží státní rozhodování, obsahuje předpoklady o tom, co je férové, jak se vyhodnocuje riziko, kdy se má eskalovat na člověka. Tyhle předpoklady jsou v amerických a v čínských produktech jiné, než v jakých bychom je rádi měli v Evropě.
Pokud Česko a Evropa nezačnou cíleně investovat do otevřené infrastruktury, do veřejných standardů a do domácího GovTech ekosystému, převezmeme model zvenčí. Politicky bezbarvý, technicky uzavřený, demokraticky neprostupný.
Co by mělo nastat dál
Nepatřím k těm, kdo by si mysleli, že stát zachrání jen jeden dokument. Tallinnská studie takhle ostatně sama není napsaná. Je to nabídka, ke které se ostatní mohou připojit.
Konkrétně bych si v Česku přál čtyři věci. Aby ministerstvo pro místní rozvoj a ministerstvo vnitra společně otevřely strategický dokument o agentickém státu, který nebude marketingem, ale plánem. Aby Evropská komise dostala silnou agendu pro společný stack a společné standardy, na kterých se shodne aspoň skupina ochotných států. Aby na ministerstvech a v krajích vzniklo dlouhodobé vzdělávání, které z dnešních úředníků udělá zítřejší supervizory systémů. A aby se začalo investovat do domácích firem, které tuhle infrastrukturu umí stavět tak, aby zůstala pod evropskou kontrolou.
Bylo by ode mne nepoctivé psát čtvrtý bod, aniž bych přiznal, že ve Voltu, jehož jsem členem, jsme se na něm rozhodli začít sami. Vyvíjíme vlastní AI pro stranické potřeby a principy z tallinnské studie si na ní zkoušíme - od outcome-driven logiky po dílčí kusy machine readable pravidel. Domácí GovTech know-how nevzniká samo. Buď ho začne někdo stavět tady, anebo ho dovezeme s licencí a hodnotami zvenčí. Strana je o pár řádů menší než stát, ale ten experiment nám dává něco, co se z papírové debaty získat nedá: konkrétní praxi a konkrétní chyby. To, co se podaří vychytat, rádi nabídneme jako vstup pro debatu - a hlavně pro práci - komukoli, kdo se na úrovni ministerstva, kraje nebo Komise pustí do téže otázky.
Pokud tahle čtveřice nastane, můžeme být u rozhodnutí, které se ve studii nazývá nejvýznamnější změnou ve veřejné správě od vzniku byrokracie. Pokud nenastane, dohoníme nás zase někdo jiný a budeme jen vykonávat jeho představu o tom, jak má stát fungovat.
Tohle byla celá moje série o tallinnském textu. Děkuji všem, kdo dočetli až sem. Debatu o tom, jak má vypadat evropský stát zítřka, můžeme vést jen tehdy, když ji vůbec povedeme veřejně. Zkusme s tím začít.
Zdroj: The Agentic State, studie představená na Tallinn Digital Summit 2025.
Předchozí díl série: Zákony, které čte kromě právníka i počítač. A nepřestávají platit.
