AI je zrcadlo svého uživatele a Šimon Magus se možná neměl dívat zblízka

Šimon Magus publikoval text Mýty o umělé inteligenci: Nespolkla všechnu moudrost světa ani není kamarád. Jeho výchozí teze je překvapivě střízlivá. Prvotní nadšení z velkých jazykových modelů vystřídalo poznání jejich omezení. AI není vševědoucí, její odpovědi je třeba kontrolovat a člověk by ji neměl zaměňovat za myslícího kamaráda.

S tím se dá v zásadě souhlasit.

Dokonce bych šel ještě dál. Magus poměrně přesně popisuje zkušenost, kterou během posledních let prodělala značná část pravidelných uživatelů velkých jazykových modelů. Nejprve přijde úžas. Model píše, překládá, programuje, sumarizuje, vysvětluje. Po několika měsících intenzivního používání začne člověk vidět švy.

LLM opakuje oblíbené konstrukce. Vyrábí falešné protiklady. Miluje úhledné trojice. Při nedostatku informací dokáže sebevědomě doplnit něco, co zní pravděpodobně. Má sklon přitakávat předpokladům vloženým do otázky. Ze sporného tvrzení dovede během několika sekund vyrobit elegantní argument. Zkušenější uživatel tyto vlastnosti rozpoznává. Právě proto je Magusův text tak zajímavý.

Článek totiž nese řadu znaků typických pro práci s LLM. Samy o sobě samozřejmě nic nedokazují. Detektory AI textu jsou nespolehlivé a z pouhého stylu nelze poctivě určit, zda konkrétní odstavec napsal člověk ručně, s pomocí modelu či v extrémním případě LLM bez sebemenší interakce na základě jediného vstupního promptu.

Jenže zde nejde o jednu podezřele uhlazenou větu. Jde o způsob stavby argumentace.

Magus začíná poměrně rozumnou tezí. AI není neomylná. Následuje vysvětlení. Potom příklad. Z něj vznikne obecné pravidlo. To je následně rozšířeno za hranici toho, co původní ukázka skutečně dokazovala. Nakonec se objeví kategorický závěr. Tohle je velmi dobře známá vlastnost špatně vedeného jazykového modelu.

LLM totiž nemusí svému zadavateli odporovat. Pokud do promptu vložíte předpoklad, že velký jazykový model je pouze „naběračka“ vybírající informace z databáze, dokáže tento obraz velmi ochotně rozvíjet. Nejdříve jej vysvětlí. Potom k němu najde analogii. Pak dodá ilustraci. Nakonec může vytvořit přesvědčivě znějící závěr.

Problém spočívá v tom, že krásně vystavěná argumentace může stát na vadném prvním schodu.

Magus píše:

„AI je algoritmická naběračka na korpus dat a mísa na jejich mísení.“

Jako metafora je to výborné, avšak základní premisa je zcela mylná.

Ještě nápadnější je následné vysvětlení generování textu, podle něhož model další slovo „vybere z databáze“. Právě zde se projevuje typická slabina úvah vytvářených nebo rozvíjených pomocí LLM: metafora začne nenápadně suplovat mechanismus.

Aby bylo jasné, co se tím „výběrem z databáze“ ve skutečnosti myslí, je potřeba si zjednodušeně představit, jak jazykový model pracuje s textem.

Velký jazykový model totiž nepracuje se slovy jako s hotovými položkami ve slovníku. Vstup si nejprve rozseká na malé jednotky, kterým se říká tokeny. Token nemusí být celé slovo. Může to být jen jeho část, třeba „ne“ a „možné“ zvlášť, nebo naopak celé krátké slovo jako „pes“. Někdy je tokenem dokonce jen tečka, čárka nebo mezera.

Každá taková jednotka se pak převede na číselnou reprezentaci – na vektor v mnohorozměrném prostoru významů. S těmito čísly už systém pracuje matematicky. Když následně generuje text, nedělá to tak, že by „otevíral databázi vět a vybíral z ní hotové věty“. Místo toho zohledňuje všechny dosavadní tokeny a postupně odhaduje, jaký další má největší pravděpodobnost, že bude následovat.

Jinými slovy: text nevzniká skládáním hotových vět, ale postupným řetězením malých jednotek, které se teprve dohromady formují do slov, vět a významů.

Ano, zjednodušeně řečeno model „předpovídá další token“. Ale právě proto je metafora o „naběračce v databázi“ zavádějící – vytváří dojem, že někde existuje hotový zásobník vět, ze kterého se jen vybírá. Magus tedy správně varuje před zjednodušujícími odpověďmi AI a vzápětí nabídne zjednodušující výklad toho, jak tato technologie funguje.

Zrcadlo začíná být zajímavé.

Další krásnou ilustraci představují kočky.

Podle Maguse potřebuje AI přibližně sto tisíc obrázků koček, aby dosáhla 98procentní úspěšnosti jejich rozpoznávání, zatímco dvouletému dítěti stačí ukázat kočku dvakrát a následně ji poznává se stoprocentní úspěšností.

Pointa je pochopitelná. Člověk se dokáže učit z malého množství příkladů mimořádně efektivně. Jenže tato ukázka opět obsahuje charakteristickou vlastnost generovaného argumentu: čísla mu dodávají zdání exaktnosti, které je mnohem silnější než jejich skutečná vypovídací hodnota.

Dvouleté dítě totiž nezačíná experiment jako prázdný klasifikátor. Dva roky pozoruje trojrozměrný svět, učí se rozlišovat objekty, lidi, zvířata, pohyb, zvuky, tvary a řeč. Porovnávat dva obrázky ukázané dítěti se sto tisíci trénovacími snímky izolovaného systému znamená stavět vedle sebe dvě zásadně odlišné situace.

Magusova základní myšlenka přitom může být správná. Jen ji přehnaně přesným číslem sám oslabuje. To je opět něco, co zkušený uživatel LLM zná velmi dobře. Model miluje čísla. Číslo vytváří autoritu. Čím přesnější údaj, tím vědečtěji věta působí. Jenže právě proto je třeba každou takovou hodnotu kontrolovat.

Ještě výraznější problém nastává ve chvíli, kdy se článek přesune od popisu současnosti k technologickým limitům. Dozvídáme se například, že AI „nikdy nebude vědět něco, co není na internetu nebo v knihách“.

Tahle myšlenka je v jádru pochopitelná a do značné míry správná jako varování před přeceňováním dnešních modelů. Jenže v této formulaci přehlíží jednu praktickou realitu, která je pro běžné využívání AI zásadní: hranice „internetu a knih“ není pro moderní systémy pevná ani uzavřená.

Uživatel totiž může AI bez jakýchkoli technických překážek zásobovat také informacemi, které nikdy nebyly online. Stačí obyčejný skener, fotoaparát nebo mobilní aplikace pro OCR a z tištěné knihy se během chvíle stane strojově čitelný text. Ten lze vložit do modelu stejně snadno jako webovou stránku. Z pohledu systému pak nejde o „tištěnou knihu“, ale o další vstupní data, která se stávají nedílnou součástí kontextu, s nímž pracuje.

Podobně může AI využívat kameru, mikrofon, lidar, laboratorní přístroj, neveřejnou databázi, podnikový informační systém nebo senzory robota. V takových případech se informace vůbec nemusí nacházet na internetu ani v žádné publikované knize – a přesto s nimi systém běžně operuje.

Z tohoto pohledu je tedy přesnější říct, že omezení AI není dáno tím, kde se informace „nachází“, ale tím, k jakým datům a vstupním kanálům má konkrétní systém přístup.

Podobný posun v argumentaci nastává i u autonomního řízení. Z oprávněného upozornění, že skutečný svět obsahuje obrovské množství nepředvídatelných situací, se postupně stane kategorický závěr, že dosažení páté úrovně autonomie pomocí matematických modelů „není reálné“.

Před časem jsem zde publikoval text AI je zrcadlem svého uživatele aneb inflace obsahu není konec kultury. Jeho teze byla jednoduchá. Umělá inteligence sama o sobě nedělá člověka chytřejším. Pouze násobí jeho schopnost produkovat výstupy. Tomu, kdo tématu rozumí, umožní rychleji třídit informace, formulovat hypotézy, hledat slabiny argumentace a vytvářet pracovní verze textu.

Naopak tomu, kdo tématu nerozumí, dovolí rychleji produkovat přesvědčivě vypadající omyly. Používání AI proto nepovažuji za nic kompromitujícího. Ostatně i tento text vznikal s využitím velkého jazykového modelu. Rozdíl není jen mezi „člověkem“ a „AI“, ale především mezi uživatelem, který model řídí, a tím, koho model řídí.

LLM je mimořádně schopný pomocník, avšak mizerná autorita. Dokáže rozvinout myšlenku, kterou mu předložíte. Stejně ochotně však rozpracuje i zjevnou pitomost. Pokud po něm nechcete opozici, kontrolu zdrojů a hledání alternativních vysvětlení, může vás velmi elegantně doprovodit přesně tam, kam jste se rozhodli dojít. Včetně slepé uličky.

Základní tezi bych Šimonu Magusovi vůbec nebral. Prvotní fascinaci umělou inteligencí skutečně může vystřídat vystřízlivění. Čím déle člověk velké jazykové modely používá, tím méně je ohromen tím, že dokážou vytvořit stránku uhlazeného textu, a tím více oceňuje schopnost poznat, kdy začínají fabulovat, zjednodušovat nebo poslušně potvrzovat předpoklady svého uživatele.

Skutečně zkušený uživatel AI se pozná podle toho, že dokáže svému LLM říct, že mele nesmysly.

Magus tedy podle mého názoru správně vystřízlivěl z představy AI jako vševědoucího elektronického kamaráda. Jen při tom možná přehlédl druhou polovinu problému. Umělá inteligence není zásobárnou veškeré lidské moudrosti. Není ani autonomním mudrcem, který člověka ochrání před jeho vlastními omyly.

Teze o AI jako zrcadle svého uživatele má ještě jednu důležitou konsekvenci, která v současné debatě často zůstává pod povrchem. Nejde jen o to, co AI odráží dnes, ale také o to, jak se v čase promění samotné prostředí jejího využívání. Velké jazykové modely totiž nevstupují do stabilního světa. Přicházejí do prostředí, kde se jejich ekonomika, dostupnost i způsob použití rychle mění. Právě tyto faktory mohou zásadně ovlivnit, jaký typ uživatelů u nich dlouhodobě zůstane.

První scénář je poměrně přímočarý: výrazné zdražení AI služeb. Pokud se modely stanou nákladnějšími na provoz a firmy přenesou tyto náklady na zákazníky, dojde k přirozené selekci. Diletantští uživatelé, kteří dnes AI využívají spíše rekreačně, ke generování povrchních textů, shrnutí nebo experimentování bez jasného výstupu, začnou odpadat.

Platit za nástroj, který nevytváří hodnotu odpovídající ceně, je dlouhodobě neudržitelné. Začne se projevovat rozdíl mezi člověkem, který AI používá jako pracovní nástroj, a tím, kdo ji využívá jako hračku.

Druhý scénář je možná ještě pravděpodobnější: konec masivního dotování a omezení free tierů. Pokud současný model „levného nebo bezplatného přístupu“ postupně ustoupí, dojde k jinému typu selekce prostřednictvím omezení funkcí, rychlosti, kontextu nebo kvality výstupů pro neplatící uživatele.

V takovém prostředí se AI přestane jevit jako univerzální veřejný nástroj a začne se více podobat profesionální infrastruktuře. Významná část náhodných, povrchních a experimentálních uživatelů zmizí. Oba scénáře vedou k podobnému výsledku: k postupné filtraci uživatelské základny, a tím i k deflaci obsahu.

Dnešní fáze je charakteristická obrovským objemem textů, shrnutí, komentářů, pseudoanalýz a generovaných výstupů, které vznikají s minimální námahou. Velká část této produkce je zaměnitelná a argumentačně slabá. Je to přirozený důsledek toho, že nástroj je levný, dostupný a snadno použitelný.

Jakmile se však změní ekonomika přístupu, promění se i struktura produkce. Množství obsahu pravděpodobně klesne, ale jeho průměrná kvalita může naopak vzrůst, neboť nástroj zůstane v rukou těch, kteří jej dokážou efektivně využít.

Zrcadlový efekt se tím zpřesní. Méně šumu znamená ostřejší odraz a menší množství nahodilých uživatelů způsobí, že rozdíly mezi kvalitním a nekvalitním použitím budou viditelnější než dnes. Inflace obsahu tak může být pouze přechodnou fází, v níž se technologie teprve masově rozšířila, ale ještě neprošla ekonomickou ani kognitivní selekcí. Potom se naplno ukáže, co z AI je skutečně nástroj a co jen dočasná iluze snadné produkce.

Autor: Martin Cikán

Cikán, M. (2026) „AI je zrcadlem svého uživatele aneb inflace obsahu není konec kultury“, Médium.cz, 3. června 2026. Dostupné z: https://medium.seznam.cz/clanek/monarchisticke-noviny-ai-je-zrcadlem-sveho-uzivatele-aneb-inflace-obsahu-neni-konec-kultury-282417 [cit. 8. 8. 2026].

Magus, Š. (2026) „Mýty o umělé inteligenci: nespolkla všechnu moudrost světa ani není kamarád“, Médium.cz, 5. srpna 2026. Dostupné z: https://medium.seznam.cz/clanek/simon-magus-myty-o-umele-inteligenci-nespolkla-vsechnu-moudrost-sveta-ani-neni-kamarad-305053 [cit. 8. 8. 2026].

OpenAI (2026) „What are tokens and how to count them?“, OpenAI Help Center. Dostupné z: https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them [cit. 8. 8. 2026].

Kalai, A., Vempala, S., Nachum, O. et al. (2025) „Why language models hallucinate“, OpenAI, 5. září 2025. Dostupné z: https://openai.com/index/why-language-models-hallucinate/ [cit. 8. 8. 2026].Šimon Magus publikoval text Mýty o umělé inteligenci: Nespolkla všechnu moudrost světa ani není kamarád.