Řízení AI agentů vyžaduje porozumění textu. To nám ale jde čím dál hůře

Jak se porozumění textu vlastně měří? Zkuste si jednoduchou úlohu:

Na internetovém fóru se žena ptá, jestli smí své zraněné slepici dát aspirin. Jeden z diskutujících jí odpoví, že ano, a připíše dávkování: 5 mg na kilogram tělesné hmotnosti.
Proč jí nemohl říct přesnou dávku?

Odpověď vás nejspíš napadla dřív, než jste dočetli otázku: žena nenapsala, kolik slepice váží. Nejde o vymyšlený příklad. Je to skutečná úloha z mezinárodního testu PISA 2018 a podle publikace České školní inspekce patří do základní úrovně čtenářské gramotnosti (ČŠI). Této úrovně nedosahuje 27 % českých patnáctiletých (ČRo Plus). Takové úlohy tedy spolehlivě nezvládá víc než čtvrtina z nich.

Všimněte si, co úloha vlastně měří. Diskutující odpověděl správně – obecným pravidlem, protože přesnou dávku určit nemohl. Údaj nechyběl v jeho odpovědi, ale v dotazu. Čtenář proto musí propojit dva příspěvky a vyvodit, co v zadání chybělo. Přesně tohle dělá člověk, který kontroluje výstup umělé inteligence: hlídá, z jakých údajů odpověď vychází a co postrádá. Kde člověk přizná, že mu údaj chybí, tam si ho AI může vymyslet – odborně se tomu říká halucinace – a podat ho stejně sebejistě, jako by šlo o ověřený fakt.

Agenti umělé inteligence zvládnou za pár minut práci, která by jinak trvala hodiny. Co udělali nebo co navrhují, nám ale sdělují textem: plánem, shrnutím, zdůvodněním, seznamem změn. Než člověk rozhodne, co dál, musí takový výstup přečíst a pochopit.

Jenže právě tahle schopnost v populaci měřitelně slábne. Podle zářijových výsledků PISA 2025 zůstali čeští patnáctiletí nad průměrem OECD, ve čtenářské gramotnosti si ale mezi lety 2022 a 2025 pohoršili zhruba o 20 bodů (ČRo Plus). Rozevírá se tak mezera mezi tím, co agenti od lidí potřebují, a tím, co lidé zvládnou.

Lidskou roli při práci s agentem obvykle shrnujeme anglickým heslem human in the loop: u důležitých kroků má mít poslední slovo člověk. Pod tím heslem se ale skrývají dvě různé činnosti. Kontrola znamená posoudit, jestli je to, co agent udělal nebo navrhuje, správné a bezpečné. Řízení znamená určit cíl, posoudit plán a vrátit agenta na cestu, když směřuje jinam, než by měl.

Toto rozlišení používá i sám Anthropic. Ve svém školení AI Fluency učí čtyři kompetence. Dvě z nich se neustále střídají: popsat AI svůj cíl (Description) a posoudit užitečnost jejího výstupu (Discernment). První je v podstatě psaní, druhá čtení s porozuměním.

Data z Claude Code ukazují, že lidé obě role zvládají velmi rozdílně. Když se agent zeptal, jestli smí provést konkrétní krok, třeba upravit soubor nebo spustit příkaz, uživatelé podle údajů Anthropicu klikli na „schválit“ v 93 % případů. Anthropic to sám nazývá únavou ze schvalování: když se žádosti pořád opakují a skoro vždy jde o neškodný krok, lidé je přestanou číst a schvalují automaticky.

Když ale agent předložil vícekrokový plán, uživatelé ho podle pozdějších údajů Anthropicu odmítli v 39 % případů. Lidé se tedy skutečně zapojují tam, kde jde o záměr a směr. Rutinní kontrolu jednotlivých kroků dělají jen formálně.

Odpověď průmyslu je logická: rutinní kontrolu automatizovat. Automatický režim, který Anthropic od srpna nastavil v Claude Code jako výchozí pro předplatitele, řeší oprávnění na počítači: místo člověka rozhoduje, jestli agent smí zapsat soubor nebo spustit příkaz. Každou takovou akci před provedením posoudí klasifikátor a zastaví ty nebezpečné, třeba hromadné mazání souborů nebo odeslání citlivých dat (Claude). Je to rozumný krok, lidská role se tím ale nezmenšuje. Jen se přesouvá jinam. Zůstává řízení: určit cíl, posoudit plán, poznat, že výsledek sice vypadá dobře, ale řeší špatnou otázku. A pro řízení je schopnost číst a psát s porozuměním ještě důležitější než pro kontrolu.

Pokles čtenářské gramotnosti není česká specialita. PISA ji přitom chápe šířeji než porozumění textu: patří k ní i schopnost text použít, posoudit a přemýšlet o něm. Průměr zemí OECD klesl mezi lety 2015 a 2025 o 28 bodů (OECD) a pokles začal už po roce 2012, tedy dávno před chatboty (OECD, PISA 2022). U dospělých měří čtenářskou gramotnost šetření PIAAC s vlastní stupnicí. V Česku se průměr dospělých oproti letům 2011–2012 také zhoršil, hlavně u starších ročníků (OECD), a na nejnižší úrovni práce s textem zůstává 25 % dospělých.

Důležité je, které její složky slabnou nejvíc. Šéf PISA Andreas Schleicher uvádí rozlišování faktu od názoru, orientaci v nejednoznačnosti a kritické hodnocení informací. Nejde o abstraktní školní dovednost. Přesně tohle dělá člověk, když čte plán agenta a rozhoduje, zda je rozumný.

Anthropic i OpenAI se dohledu věnují důkladně, ale počítají s člověkem jako s danou veličinou: s vývojářem, hodnotitelem nebo zkušeným uživatelem. OpenAI například zkoumala, jak psát výstupy tak, aby je člověk dokázal zkontrolovat. Když byl model trénován jen na správnost odpovědí, hodnotitelé s omezeným časem dělali v jeho řešeních skoro dvakrát víc chyb. Firmy tedy čitelnost výstupů vědomě řeší. I dobře napsaný text ale potřebuje čtenáře, který ho dokáže posoudit – a toho žádná firma v laboratoři nenatrénuje.

Anthropic zase zjistil, že zkušení uživatelé přestávají schvalovat každý krok: nechají agenta pracovat a zasáhnou, když něco nesedí. To ale funguje jen u lidí, kteří mají za sebou stovky sezení s agenty a dost znalostí, aby chybu poznali. A spokojenost uživatele není spolehlivé měřítko. Rozhovory s AI, které mohly oslabit úsudek uživatelů, hodnotili sami uživatelé dokonce lépe než ostatní.

Vývojáři, kteří se s pomocí AI učili pracovat s novou knihovnou, měli v následném testu porozumění průměrně 50 % oproti 67 % u skupiny bez AI. Nejvíc zaostávali v hledání chyb, tedy v dovednosti, kterou dohled potřebuje nejvíc.

V medicíně se letos uchytil pojem never-skilling. Článek v Nature Medicine ho odlišuje od ztráty dovednosti u zkušených lékařů. Never-skilling je stav, kdy se student dovednost nikdy nenaučí, protože práci od začátku dělala AI. Autoři poctivě přiznávají, že přímé důkazy z lékařského vzdělávání zatím chybí.

Autoři doporučují postupovat ve třech krocích: nejdřív si student osvojí základy bez AI, pak se učí výstupy AI kriticky posuzovat a teprve potom s ní pracuje pod dohledem. Medicína si takový postup může nařídit, protože má kde: na fakultě, při atestaci a pod dohledem zkušenějších kolegů.

Na základních a středních školách žádný podobný postup pro práci s textem zatím stanovený není. Revidované RVP zavedly informatiku a digitální kompetence. AI je v RVP pro základní školy z let 2021 i 2025 součástí výuky napříč předměty (NPI). Doporučení Národního pedagogického institutu, která vznikla na podnět MŠMT, radí AI nezakazovat ani neignorovat a vést žáky k odpovědnosti a kritickému hodnocení výstupů (NPI). To je rozumné a odpovídá to i zjištění PISA, že pomáhá, když žáky někdo naučí výstupy AI posuzovat. AI ale nikomu schopnost psát sloh nevezme. Může však vzít příležitost se ji naučit. Podle PISA 2025 už zhruba třetina patnáctiletých používá AI k psaní školních textů – a kdo si nechá slohovku napsat, ten si psaní ani přemýšlení nad textem netrénuje.

MŠMT teď připravuje Strategii umělé inteligence ve vzdělávání. Při její přípravě na červnovém workshopu zaznělo, že by se ve škole mělo hodnotit hlavně to, jak žák látku zvládá a jestli jí rozumí, ne jen to, co odevzdá (MŠMT). Kdyby se to podařilo prosadit, mohla by škola pro čtení a psaní nastavit podobný postup, jaký Nature Medicine navrhuje pro lékařské fakulty.

Tady se sčítají dvě věci. Čtenářská gramotnost začala slábnout už před nástupem AI. Poradenská firma BCG upozorňuje, že lidé méně čtou pro radost. Kdo ale dovednosti neprocvičuje, nedokáže je použít ani při dohledu nad AI – a z dohledu se stane pouhá formalita. Na tuto oslabenou základnu teď navíc dopadá AI, která mladým bere příležitost čtení a psaní pořádně trénovat. Never-skilling tedy přichází ve chvíli, kdy je výchozí úroveň už deset let na sestupu.

Třetí vrstvou je načasování. Do práce teď nastupují dnešní dvacátníci a hned za nimi přijdou dnešní patnáctiletí, zhruba mezi lety 2028 a 2032. Podle lednového odhadu organizace METR se délka úloh, které agenti zvládnou samostatně, od roku 2023 zdvojnásobuje zhruba každé čtyři měsíce. Nikdo neví, jestli to tempo bude pokračovat. I při opatrném zhodnocení ale obě kohorty nastoupí do práce právě ve chvíli, kdy agenti dozrávají a kdy se od lidí bude čím dál častěji chtít, aby práci „neodváděli“, ale řídili.

Proč by to měli odnést nejvíc právě mladí, když starší lidé rozumějí textu v průměru často hůř? Nejde o to, že by mladí rozuměli textu nejhůř. Starší kolegové ale mají něco, co mladým chybí: roky praxe. A právě praxe se teď získává hůř. Podle BCG AI odstraňuje rutinní úkoly, na kterých se začátečníci dřív učili úsudku. Od juniora se tak bude čekat, že bude agenty řídit, dřív než získá zkušenost, ze které by poznal, kdy agent chybuje.

Kdyby se problém za deset let vyřešil sám, tahle generace přechodem stejně projde se slabší výbavou, než měla ta předchozí. Nadcházející roky proto nejsou obdobím, kdy stačí počkat, až se to vyřeší. Právě během nich problém dopadne nejtvrději.

Debata o dohledu se většinou točí kolem odborníků: programátor kontroluje kód, lékař diagnózu, analytik model. Agenti se ale dostanou i k běžným lidem a jejich každodenním rozhodnutím – o penězích, pojištění, energiích nebo úředních věcech. O těch lidé rozhodují už dnes, jen jinak: platbu zadají sami, produkt si vyberou sami. Agent tuhle roli promění. Klient už nebude věci dělat sám, ale svěří je agentovi a bude posuzovat, co agent připravil a proč. Z uživatele aplikace se tak stane dohlížitel nad agentem.

Takový dohlížitel ale není odborník ani zkušený uživatel se stovkami sezení s AI. O hypotéce rozhoduje jednou za několik let. A mezi klienty bude i ta čtvrtina dospělých, kteří v Česku zvládají práci s textem jen na nejnižší úrovni; podle dřívějšího šetření PIAAC jsou to častěji starší lidé (MŠMT). Tady tedy nejde o mladou generaci, ale o druhou skupinu, které se nástup agentů dotkne: o lidi, kteří budou na agenta dohlížet, aniž by se to kdy učili.

Výzkum pro takovou situaci už má pojem. Práce o prahu kognitivní integrity popisuje minimální míru porozumění, pod kterou se dohled mění v prázdnou proceduru: člověk sice formálně souhlasí, ale nemá čím posoudit, s čím souhlasí. Autoři počítají s tím, že lidé pod tento práh postupně klesají, když na AI delegují stále víc věcí.

Výzkumníci z Hugging Face a Data & Society navíc ukazují, že dlouhodobé používání AI oslabuje právě ty schopnosti, které dohled vyžaduje. Navrhují dva druhy nápravy: lépe navržený systém a organizační opatření, jako jsou školení, střídání rolí nebo udržování odborných dovedností. Organizační opatření ale u klientů nefungují. Klienty banky nelze proškolit ani vystřídat a nikdo jim nemůže uložit, aby si dovednosti udržovali. Zbývá jen to, jak je produkt navržený.

Z toho plyne i otázka odpovědnosti. Podle práce o prahu kognitivní integrity má odpovědnost odpovídat skutečné možnosti kontroly. Kdo nemá jak výstup ověřit, neměl by za něj nést odpovědnost; ta má přejít na toho, kdo jeho roli navrhl. V agentním bankovnictví by to byla banka a její dodavatel, ne klient, který klikl na „souhlasím“.

Cílem tohoto textu není navrhovat řešení, ale upozornit na souvislosti. Možnosti přitom existují. Výzkumníci navrhují třeba „brány porozumění“: před rizikovou akcí systém cílenými otázkami ověří, že člověk ví, co schvaluje (Sabri). Jiní doporučují předem omezit, co smí agent udělat bez svolení (Mitchell a kol.). Takové nástroje ale jen tlumí následky. Neřeší, že schopnost porozumět textu slábne – to se dá změnit jen ve škole a v rodině a trvá to roky. A hlavně by neměly vést k tomu, že člověka z rozhodování úplně vytlačíme. Lidský dohled musí zůstat – ne jako formalita, ale jako rozhodnutí člověka, který ví, co schvaluje.

Data jsou korelační. Žádná z citovaných studií neprokazuje, že AI způsobuje pokles gramotnosti. Pokles mezi lety 2022 a 2025 se navíc časově kryje s nástupem chatbotů, takže ho nelze čistě přičíst ani AI, ani tomu, co bylo před ní.

Agenty nebudou řídit všichni. Kdyby šlo jen o čtvrtinu populace, mohl by to být okrajový problém. Jenže 27 % patnáctiletých spolehlivě nezvládá ani úlohy, které většina dospělých vyřeší za pár vteřin. Nejvyšších úrovní čtenářské gramotnosti, tedy schopnosti porozumět dlouhým a hutným textům, odhalit v nich skryté významy a zhodnotit je, dosahuje v zemích OECD jen 12 % dospělých (OECD). Ubývá jich přitom i mezi mladými: podíl českých patnáctiletých na čtvrté a vyšší úrovni čtenářské gramotnosti klesl mezi lety 2022 a 2025 z 27 na 20 % (Echo24). Výstupy agentů mají k takovým textům blíž než k příspěvku o slepici. A schvalovat se nebude jen v práci: jakmile se agenti dostanou do běžných aplikací a služeb, bude jejich výstupy posuzovat skoro každý.

AI může rozdíly i vyrovnávat. BCG cituje výzkum, podle kterého se slabší profesionálové s AI výrazně zlepšují. U jasně zadaných úloh to platí. U otevřených rozhodnutí ale randomizovaná studie s keňskými podnikateli ukázala opak: silní si s AI polepšili o 15 %, slabí si pohoršili zhruba o 8 % (Otis a kol.). Rozdíl nebyl v tom, na co se ptali, ale v tom, jak rady vybírali a používali.

Problém se může částečně vyřešit sám. Tam, kde lze výsledek ověřit automaticky, bude čtení ubývat a nic zlého se nestane. To ale pokrývá kontrolu, ne řízení. Cíl agentovi stále někdo zadává slovy.

Pomůže jiná podoba výstupu? Nabízí se nechat agenty místo dlouhých textů mluvit, kreslit schémata nebo ukazovat výsledky v přehledných grafech. Hlasové režimy i vizualizace už existují a hledat takové cesty má smysl. Porozumění ale nenahradí. Hlas odstraní nutnost číst písmo, ne nutnost pochopit, co se říká. Graf nebo schéma člověku pomůže se zorientovat, rozhodnutí ale stejně stojí na tom, jestli dotyčný pochopí, co znamená.

O bezpečnosti agentů dnes rozhoduje hlavně to, co dokáže model. Stejně důležité je ale, co dokáže člověk, který ho řídí. A zatímco schopnosti modelů rostou rychleji než kdy dřív, schopnost lidí porozumět textu slábne. Mezera mezi nimi se rozevírá a nejdřív ji pocítí mladí bez praxe a laici, kteří budou agentům svěřovat své peníze a běžné záležitosti.

Kontrolu částečně převezmou stroje, a je to tak správně. Řízení by ale mělo zůstat na nás. Určit cíl, poznat špatný plán a říct „ne“ vyžaduje přesně ty dovednosti, které podle PISA i PIAAC slábnou.

Právě tohle by měla být největší výzva pro AI firmy. Stačí, když budou modely chytřejší a jejich výstupy čitelnější? Nebo by měřítkem úspěchu mělo být i to, jestli agentům porozumí ten, kdo s porozuměním textu zápasí – a ne jen ten, kdo je naprogramoval? Na odpověď nemusíme čekat do dalšího kola PISA v roce 2029. A ani nemůžeme.

Gramotnost

Anthropic

OpenAI

Dohled a never-skilling