Hlavní obsah

Poznáte text od AI? Čím dál častěji už to člověk nedokáže

Foto: Unsplash

technika

Umělá inteligence píše články, příspěvky i e-maily tak přesvědčivě, že odhalit její výtvor pouhým okem je stále těžší. Dokážeme ještě spolehlivě poznat, co napsal člověk a co stroj?

Článek

AI už nepíše jako robot

Ještě nedávno mohl text vytvořený chatbotem působit nápadně. Často byl příliš uhlazený, opakoval stejné obraty a používal nepřirozeně obecné formulace. Dnešní jazykové modely jsou ale výrazně lepší v napodobování lidského stylu. Dokážou psát stručně i obsáhle, měnit tón podle zadání a reagovat na konkrétního čtenáře. Z obyčejného textu proto nemusí být na první pohled vůbec jasné, zda za klávesnicí seděl člověk, nebo umělá inteligence.

Proč nestačí hledat typické fráze

Představa, že AI lze odhalit podle několika charakteristických slov, je lákavá, ale realita je složitější. Neexistuje univerzální seznam výrazů, který by spolehlivě označil strojově napsaný text. Stejné slovo může používat člověk i jazykový model a výsledek ovlivní také téma, jazyk, délka textu nebo způsob, jakým byl text vytvořen. Navíc člověk může text po vygenerování výrazně upravit. Několik vět přepíše, přidá vlastní zkušenost, změní strukturu nebo nechá AI přeformulovat problematické části. Výsledný text pak může mít se svou původní podobou jen málo společného.

Na scénu nastoupily AI detektory

Právě proto vznikly nástroje, které se pokoušejí odhadnout pravděpodobnost, že text vznikl pomocí generativní AI. Analyzují například strukturu vět, předvídatelnost slov nebo další statistické vlastnosti textu a na jejich základě vytvoří skóre.

Jedním z nejznámějších systémů je Turnitin, který své detekční modely průběžně aktualizuje. V roce 2026 například vydal další úpravy svého systému a zároveň upozorňuje, že výsledky nemají být používány jako jediný podklad pro rozhodnutí o akademickém provinění.

Problém jménem falešný poplach

Tady se dostáváme k největšímu problému. Detektor může označit lidský text za text vytvořený AI. A opačně může strojově vytvořený text vyhodnotit jako lidský. Sami provozovatelé detekčních nástrojů proto na tuto možnost upozorňují. Turnitin například uvádí, že jeho model nemusí být vždy přesný a doporučuje výsledek kombinovat s dalšími informacemi a lidským posouzením. U výsledků pod 20 procent navíc v současnosti nezobrazuje přesné skóre právě kvůli vyššímu riziku falešných pozitivních výsledků.

Ani vývojáři detektorů nemají klid

Důvodem je mimo jiné rychlý vývoj samotných jazykových modelů. Detektor se snaží rozpoznat technologii, která se mezitím neustále mění. Jakmile se objeví nový model nebo nový způsob generování textu, může být nutné detekční systém znovu trénovat a testovat. Výzkumy navíc ukazují, že některé detektory mohou mít problém ve chvíli, kdy je text upraven nebo záměrně přeformulován. Studie zveřejněná na arXivu v roce 2024 například testovala několik detekčních metod a zjistila, že jejich schopnost spolehlivě zachytit AI text se v různých podmínkách výrazně lišila.

Čím delší text, tím lepší výsledek?

Ani délka sama o sobě problém neřeší. Detektory obvykle potřebují dostatek textu, aby měly k dispozici dostatek statistických informací. Turnitin například vyžaduje pro svůj AI Writing Report nejméně 300 slov souvislého prozaického textu a upozorňuje, že jeho systém není určený pro spolehlivou detekci všech typů obsahu, například kódu, tabulek nebo některých krátkých a nestandardních formátů. Krátká odpověď na otázku „Napsala to AI?“ tak může být překvapivě obtížná. Čím méně textu máme k dispozici, tím méně signálů může detektor analyzovat.

Problém není jen technologický

Otázka autorství má přitom důsledky daleko za hranicemi technologických hraček. Ve školách, na univerzitách nebo v zaměstnání může výsledek AI detektoru ovlivnit posouzení práce konkrétního člověka. Právě proto například Turnitin výslovně uvádí, že jeho AI skóre není definitivním důkazem a nemá být jediným podkladem pro postih studenta. Skóre je podle něj jeden z údajů, který má člověk posoudit společně s dalšími okolnostmi.

Možná budeme hledat spíš původ než styl

Do budoucna se proto nabízí jiná cesta. Místo snahy zpětně odhadnout, zda určitý text napsala AI, by bylo možné označit obsah už v okamžiku jeho vytvoření. Jednou z diskutovaných možností jsou například digitální vodoznaky nebo metadata. Takový systém by neříkal „tento text vypadá jako AI“, ale poskytoval by informaci o jeho původu. Ani to však není jednoduché řešení. Metadata lze změnit nebo odstranit a digitální obsah může procházet několika různými nástroji ještě předtím, než se dostane ke čtenáři.

Poznáme tedy AI text pouhým okem?

Někdy ano. Spolehlivě však ne. Člověk může odhadnout, že určitý text působí strojově, ale samotný dojem není důkazem. Stejně tak vysoké procento v AI detektoru neznamená automaticky, že máme jistotu o původu každé věty. To je možná nejdůležitější změna, kterou generativní AI přináší do světa psaného slova. Dříve jsme řešili především otázku, zda je text pravdivý a kdo ho napsal. Nyní k tomu přibývá další otázka: Jak vlastně můžeme původ digitálního obsahu ověřit?

Máte na tohle téma jiný názor? Napište o něm vlastní článek.

Texty jsou tvořeny uživateli a nepodléhají procesu korektury. Pokud najdete chybu nebo nepřesnost, prosíme, pošlete nám ji na medium.chyby@firma.seznam.cz.

Související témata:

Sdílejte s lidmi své příběhy

Stačí mít účet na Seznamu a můžete začít publikovat svůj obsah. To nejlepší se může zobrazit i na hlavní stránce Seznam.cz