Umělá inteligence vám napsala nádhernou hloupost. Dokonce bez překlepů.

Odpověď je přesná na pohled: tři odstavce, odborné výrazy, přesvědčivý závěr a zdroj, který vypadá jako výsledek něčího doktorského studia. Jenže po otevření odkazu zjistíte, že uvedená práce možná nikdy nevznikla. Text měl výborný oblek. Pod ním ovšem nebyl svědek, ale improvizátor.

To není důvod umělou inteligenci zahodit. Je to důvod rozlišovat, k čemu ji právě používáte. Návrh struktury, hledání variant formulace a ověření důležitého faktu jsou různé úlohy. V každé má chyba jinou cenu.

OpenAI ve své vlastní nápovědě upozorňuje, že ChatGPT může poskytovat nesprávné informace, vymyšlené citace či odkazy a přitom znít sebejistě. Doporučuje důležité údaje kontrolovat v důvěryhodných zdrojích a otevírat uvedené odkazy. [1]

Věta „jsi si jistý?“ může přimět nástroj odpověď přehodnotit, sama ale není nezávislým důkazem. Stejně tak souhlas dvou podobných odpovědí neukazuje automaticky, že obě vycházejí z reality. Potřebujete se dostat k podkladu, ne jen k dalšímu ujištění.

Správně vypadající citace má být začátek kontroly, nikoli její konec. Existuje zdroj? Je od správného autora? Říká opravdu to, co mu text připisuje? A týká se stejné situace, data a země?

Nemusíte přistupovat stejně k návrhu názvu a k tvrzení, podle něhož někdo podepíše smlouvu. Označte si věty, na kterých závisí rozhodnutí: částky, termíny, právní podmínky, citace, technické postupy a závěry o zdraví či bezpečnosti.

U nich vyhledejte původní nebo jinak vhodný autoritativní podklad. U výrobku dokumentaci výrobce, u úřadu jeho vlastní informace, u výzkumu skutečnou publikaci. Zkontrolujte časovou platnost. Správná informace o starší verzi programu nemusí popisovat tu, kterou používáte dnes.

Když se podklad nepodaří získat, ponechte tvrzení jako neověřené nebo ho z výstupu vypusťte. Nevyrábějte jistotu jen proto, že v textu vznikla nepříjemná mezera. Poctivé „zatím neověřeno“ je pracovní informace, nikoli stylistická vada.

Požádat o deset návrhů titulku je něco jiného než požádat o přesný výklad smluvní podmínky. U titulku vybíráte, co vás zaujme. U podmínky potřebujete, aby se odpověď opírala o správný dokument a odpovídala skutečné situaci. Stejná plynulost textu nemůže být společným měřítkem kvality.

Před zadáním si tedy napište, co budete s výsledkem dělat. Má vám pomoci přemýšlet, připravit koncept nebo rozhodnout o konkrétním kroku? Podle toho určete, které části musí člověk zkontrolovat před použitím. Ne až potom, co text odejde zákazníkovi.

Dobré zadání může znít: „Navrhni strukturu odpovědi, ale chybějící údaje označ. Nic nedoplňuj jako skutečnost.“ Nezaručuje bezchybný výsledek. Přinejmenším však nedává stylistické úplnosti přednost před tím, co skutečně víte.

Modelový text uvádí, že určitý úřad přijímá žádosti elektronicky. Odkaz skutečně vede na stránky úřadu. Jenže popisuje jiný formulář, jinou situaci nebo postup, který se na váš případ nevztahuje. Kontrola existence stránky by dopadla výborně. Kontrola závěru nikoli.

Přečtěte proto i podmínky kolem citovaného údaje. Komu je postup určen, co předpokládá a zda obsahuje výjimky. U studie zase oddělte, co se skutečně zkoumalo, od širokého životního doporučení, které z výsledku někdo vytvořil. Zjištění z jedné situace nemusí samo rozhodovat o všech podobných situacích.

Praktická otázka zní: „Která konkrétní část podkladu podpírá právě tuto větu?“ Když odpověď vyžaduje několik nevyřčených předpokladů, označte je. Odkaz není kouzelná pečeť pravdivosti, kterou lze přilepit na libovolný sousední odstavec.

Představte si rozpočet, v němž jedna položka uvádí měsíční cenu a jiná roční. Samotné sčítání může být provedeno správně, ale výsledek přesto neodpovídá žádnému smysluplnému období. Tabulka vypadá důkladně, protože má desetinná místa. Ta bohužel neumějí zachránit pomíchané jednotky.

U důležitého výpočtu zkontrolujte vstupy, měnu, časové období a předpoklady. Potom přepočítejte rozhodující součet nezávislým způsobem. Nemusíte kvůli každé drobnosti vytvářet druhý projekt, ale číslo, podle kterého se objednává nebo platí, si tuto pozornost zaslouží.

Když údaj chybí, použijte jasně označený model nebo rozpětí založené na vysvětlených předpokladech. Nepředstírejte, že odhad získal přesnost jen tím, že jej někdo napsal bez otazníku. Dobře vypadající neznámá zůstává neznámou, i když dostane tabulkový rámeček.

Při závěrečné kontrole čtěte výstup jako příjemce, který neviděl vaše zadání ani upozornění v předchozí konverzaci. Pozná, co je návrh, co modelový příklad a co ověřený údaj? Nebo se všechny vrstvy slily do stejného sebejistého tónu?

Odstraňte pracovní poznámky, nahraďte zástupné údaje a prověřte, že se do textu nedostala vymyšlená osobní zkušenost. Věta „v praxi jsem mnohokrát viděl“ nemá vzniknout jen proto, že dodává autorovi důvěryhodnost. Buď odpovídá skutečnosti, nebo do výsledku nepatří.

Nakonec si u významného závěru uložte podklad a krátkou poznámku, co jste ověřili. Ne proto, abyste dokazovali, že používáte moderní technologie, ale abyste se k rozhodnutí uměli vrátit. Odpovědnost za použitý text se nedá přeposlat zpátky do okna chatu.

Požádejte o rozlišení faktů, předpokladů a návrhů. Nechte uvést, ke kterému tvrzení zdroj patří, a chtějte přiznání omezeného přístupu. To samo nezaručuje pravdivost, ale zpřehlední, co máte kontrolovat.

Při práci s citlivými dokumenty nejprve ověřte pravidla organizace a podmínky použité služby. Do ověřování veřejného tvrzení zpravidla není nutné přidávat cizí osobní údaje nebo celou neveřejnou databázi. Užitečný nástroj není automatické svolení sdílet všechno.

Nakonec text upravte podle skutečně zjištěných informací. Nenechávejte původní sebejistý závěr jen proto, že zní lépe než opatrnější realita. Dobrá formulace má poznání zpřístupnit, ne překrýt jeho nedostatek.

Umělá inteligence může výrazně pomoci s prací. Jen není rozumné jmenovat krásnou větu vedoucím oddělení pravdy pouze na základě toho, že přišla včas a umí odstavce.

U důležitých tvrzení otevřete skutečný zdroj a ověřte obsah, datum i souvislosti. Sebejistá formulace není náhradou důkazu.

Číslované odkazy se vztahují k označeným věcným tvrzením. Modelové situace, dialogy, výpočty a praktické postupy jsou autorské; zdroje automaticky nepotvrzují každou radu nebo vtip.