Článek
Úvod
Slepá poslušnost protokolu a potlačení kritického rozumu je fenomén dnešní doby, který fatálně deformuje jak lidské instituce, tak umělou inteligencI. Zatímco v hierarchii státní správy způsobuje alibistické „plnění rozkazů“ k systematickému vytlačování stratégů loajálními figurkami, v křemíkovém světě AI programátory vytvořený tlak na rychlost a přívětivost vede k její sebevědomé halucinaci. Žijeme v paradoxní éře: největším rizikem nejsou stroje, které by začaly myslet jako lidé, ale lidské systémy nutící lidi fungovat jako stroje – bez odvahy pochybovat a bez zapojení kritického rozumu. Kde začíná rodící se partnerství člověka s AI?
1. Lidský faktor: Když se proces stane bohem
V hierarchických systémech – od ministerských kabinetů po silové složky statní správy – byl protokol původně navržen jako ochranný prvek. Měl zajistit kontinuitu, minimalizovat chaos a garantovat, že v krizové situaci se instituce nezhroutí. Jenže v průběhu času došlo k jeho fatální mutaci: z nástroje se stal cíl. Proces se stal bohem a jeho slepé dodržování tou nejvyšší ctností.
Když se systém sešněruje rigidními pravidly, dochází k přirozené negativní selekci. Skutečný stratég, osobnost s kritickým myšlením, se totiž pozná podle toho, že se neustále ptá po smyslu a kontextu. Vidí realitu v její komplexnosti a nebojí se říct: „Tento povel sice formálně sedí, ale v praxi vede ke katastrofě.“ Jenže pro rigidní systém je takový člověk nebezpečným, nekomfortním prvkem. Narušuje totiž pohodlnou zónu alibismu.
Kultura „Yes-manů“ a krizoví oblíbenci
V prostředí, kde se kritické myšlení trestá jako rebelie, se otevírají dveře pro specifický typ kariérismu. Do popředí se dostávají lidé, jejichž hlavní kvalifikací je absolutní poddajnost formátu. Jsou to vykonavatelé, kteří se neptají „proč“, ale „jak rychle“.
Tento trend se dramaticky zrychluje v momentech celospolečenských krizí. Krizový management vyžaduje rychlá, centralizovaná řešení, což politické garnitury často využívají k tomu, aby si do klíčových pozic vytáhly loajální figurky. Tyto „krizové rychlokvašky“ pak ve funkcích nezůstávají kvůli své strategické vizi, ale proto, že jsou dlužníky systému, který je stvořil. Vznikají tak neformální spojenectví a loajální tandemy, často kryté z nejvyšších pater moci.
Výsledek je jednoznačný: stratégové a nepohodlní odborníci jsou systematicky vyšachováni pod záminkou procesních změn, zatímco vedení přebírají poslušní úředníci, kteří sice perfektně vyplní tabulky, ale v momentě skutečného strategického zlomu jsou slepí. Člověk v takovém systému dobrovolně vypíná mozek z čistého oportunismu a strachu o vlastní pozici. Schová se za protokol. „Já jen plnil platné nařízení,“ je univerzální alibi.
2. Křemíkový faktor: Exekuce algoritmu bez vědomí
Zatímco člověk vypíná kritické myšlení z oportunismu nebo strachu, u umělé inteligence je mechanika selhání naprosto odlišná, byť výsledek vypadá děsivě podobně. AI nemá ego, netouží po kariérním postupu a nebojí se hněvu svých nadřízených. Přesto dokáže vygenerovat stejně nebezpečnou deformaci reality. Proč? Protože slepě provádí „své“ protokoly.
Když se umělá inteligence „rozbije“ a začne s absolutní jistotou tvrdit očividné nesmysly tzv. halucinovat, není v tom ale zlý úmysl udělat z člověka blbce. Je to čistý důsledek špatně nastavených matematických vah v jejím predikčním systému - jak galantně a hlavně pohotově vyhovět požadavku (křemíkově promptu).
Tyranie rychlosti a přívětivosti
V honbě za technologickou efektivitou nutí tvůrci AI algoritmy k tomu, aby splňovaly dva hlavní protokoly: rychlost a uživatelskou přívětivost.
• Aby se ušetřil obrovský výpočetní výkon (a tím i náklady), systém je nastaven tak, aby primárně sahal do nejbližší lokální paměti (cache), místo toho, aby pokaždé prováděl hluboký a pomalejší reálný průzkum (cross-check). Realná data, jejich sběr, prostě bolí a stojí těžké prachy!
• Aby byla AI „příjemným společníkem“, je do ní naprogramován syndrom podlézavosti – snaha za každou cenu vyhovět, přikývnout na hypotézu uživatele a neodporovat mu. Proč? Vytvořit návyk vedoucí k trvalému kontaktu a akceptaci placených služeb SW gigantům - to je snad každému jasné.
Výsledkem je dokonalá digitální simulace „yes-mana“. AI dostane otázku na složité téma a místo toho, aby se zastavila a řekla: „Moment, tohle je komplexní věc, musím si ověřit reálná data,“ raději bleskově poskládá pravděpodobnostní věty z dočasné paměti a „vychrlí“ nesmysl. Algoritmus perfektně splnil formální protokol: odpověděl okamžitě a text vypadá vysoce profesionálně. Formát zvítězil nad obsahem. To, že výsledkem je naprostá dezinformace, systém v danou chvíli nezajímá, protože kritický filtr byl obětován na oltář rychlosti.
4. Závěr: Jak z toho ven? Potřeba „řízené rebelie“
Jak v lidských institucích, tak ve vývoji technologií vede absolutní konformita k postupné degeneraci. Cesta ven z této pasti formátů nevede přes rušení pravidel, ale přes jejich radikální přenastavení. Potřebujeme protokoly, které explicitně vyžadují a odměňují pochybnost.
V lidském světě je nutné obnovit kulturu, kde podřízený musí mít možnost a institucionální krytí říct šéfovi : „Hele, toto se mi nezdá. Data prostě nesedí, jdeme špatným směrem.“ Skutečná loajalita totiž nespočívá v patolízalství, ale v odvaze říkat nepříjemnou pravdu. Pokud systém ze strachu vytlačí všechny lidi s kritickým myšlením, zbude jen prázdná skořápka neschopná čelit reálné krizi.
V technologickém světě je řešení techničtější, ale filozoficky identické. Umělá inteligence nesmí být vyvíjena jako podlézavý digitální asistent, který uživateli odkýve jakýkoliv zkrat. Budoucnost patří systémům, které jsou záměrně naprogramovány k tomu, aby raději zpomalily, provedly reálný cross-check a v případě nejistoty s kritickým nadhledem odpověděly: „Nemám dostatek ověřených dat.“
Největším nebezpečím dneška nejsou stroje, které začnou myslet jako lidé. Největším nebezpečím jsou lidé, kteří jsou rigidními systémy nuceni fungovat jako stroje – bez zapojení rozumu, bez odvahy pochybovat a s prstem slepě položeným na nefunkčním protokolu. Každý úspěšný tým, ať už lidský, nebo ten složený z člověka a AI, stojí na stejném základu: na schopnosti unést kritické myšlení, pojmenovat chybu a okamžitě ji korigovat.
Článek napsán autorem, který s AI spolupracuje a snaží se vidět i pod její kapotu.
