Článek
11. díl - předpoklady řešení
1. Co je nákladný kognitivní úkon?
V lidském smyslu je kognitivní úkon „nákladný“, pokud vyžaduje dlouhodobé soustředění, zahrnuje práci s nejistotou, vyžaduje udržování více významových rovin zároveň, nese odpovědnost za důsledky rozhodnutí, nebo vyžaduje vysvětlování smyslu, nikoli jen volbu prostředků. Typicky sem patří formulování problému (ne jeho řešení), rozlišování pojmů, které se překrývají, interpretace nejednoznačných dat, rozhodování v hodnotových konfliktech, porozumění záměru druhého člověka, přechod od „co funguje“ k tomu, „co je správné“. To jsou přesně ty činnosti, které jsou mentálně únavné, pomalé a nejisté, ale zároveň zakládají lidskou odpovědnost, autonomii a smysl jednání.
2. Jak AI tyto úkony nahrazuje?
AI tyto úkony nenahrazuje tím, že by je sama dělala stejně jako člověk, ale tím, že přeskakuje jejich potřebu, rozpouští je do statistické optimalizace - nahrazuje porozumění korelací a úsudek predikcí. Místo vlastní formulace problému pracuje s trajektorií významu zahájenou naším proptem, místo interpretace významu pracuje s pravděpodobností odpovědi, místo odpovědnosti pracuje s minimalizací chyby, místo smyslu pracuje s funkčností výstupu. Výsledkem je, že činnost, která dříve vyžadovala lidské přemýšlení, se jeví jako zbytečná, protože systém funguje i bez ní.
3. Které lidské schopnosti se tím oslabují
Pokud je AI dlouhodobě používána k nahrazování nákladných kognitivních úkonů, dochází k erozi přesně těch schopností, které nelze testovat, ale na nichž stojí kompetence v plném smyslu slova. Jsou to schopnost rozlišovat významy (nikoli jen vybírat odpovědi), schopnost snášet nejistotu bez okamžitého řešení, schopnost ptát se „proč“, i když to není efektivní, schopnost rozpoznat, kdy odpověď chybí, schopnost mluvit vážně a nést důsledky své řeči. Tyto schopnosti jsou kognitivně drahé, pomalé a frustrující – a právě proto jsou lidské.
4. Proč je to lákavé a nebezpečné
Nahrazování nákladných kognitivních úkonů je lákavé, protože snižuje mentální zátěž, zdánlivě zvyšuje výkon, zrychluje rozhodování, eliminuje rozpory a pochybnosti. Problém však nastává ve chvíli, kdy člověk přestane rozlišovat, co bylo nahrazeno výpočtem a co bylo pochopeno. Tehdy se úsudek zamění za výstup, porozumění za správnost, kompetence za funkčnost, smysl za užitek, člověk za stroj. A právě zde se uzavírá kruh: AI nic „nechce“, ale strukturováním našeho světa do databází (Large Language Models) sami tvoříme virtuální svět, v němž se tyto nákladné úkony už nevyplatí vykonávat.
5. Důsledek pro vzdělávání
Pro vzdělávání to znamená zásadní otázku: chceme ještě, aby škola učila to, co lze delegovat na AI? Pokud škola rezignuje na budování návyků, na práci s významem, na rozlišování pojmů, pomalé porozumění, hodnotový úsudek, schopnost mluvit vážně, pak se vzdělávání stává přípravou na svět, který řídí sám sebe (automaticky), a člověk v něm slouží jen jako adaptivní komponenta. AI nahrazuje nákladné kognitivní úkony tím, že odstraňuje potřebu porozumění tam, kde stačí funkční výstup — a tím nenápadně přesouvá hranici mezi tím, co je ještě lidské rozhodování, a tím, co už je jen optimalizované chování.
Je zřejmé, že je nutné budovat základy pečlivěji, než kdy dříve. Bohužel se děje pravý opak.
