Článek
Kdyby měl dnešní programátor odevzdat kód lidského uvažování jako svou práci, pravděpodobně by ho vyrazili pro naprostou neschopnost. Ve srovnání s umělou inteligencí, která (v ideálním světě) váží data na lékárnických vahách, je člověk chodící sbírka systémových chyb. Říkáme jim kognitivní zkreslení, ale lidově řečeno: je to prostě „bug“ v našem softwaru.
Proč nás „vývojář“ (říkejme mu Evoluce, nebo pro věřící Stvořitel či Všemohoucí) vybavil takovými chybami a které jsou ty nejčastěší znich
1. Efekt kotvení – První dojem jako vězení
Náš mozek je líný. Když slyšíme první číslo nebo informaci, „zahákneme“ se za ni a všechno ostatní poměřujeme podle ní.
Když vám někdo řekne, že tričko stojí tisícovku a pak ho zlevní na pětistovku, máte pocit, že jste vyhráli v loterii. AI by se jen „podívala“ na výrobní cenu a tržní průměr. My? My jsme obětí první náhodné informace, kterou jsme potkali u vchodu.
2. Efekt rámování – Rám či obal jsou důležitější než obsah
Jsme neuvěřitelně manipulovatelní tím, jak se věc podá. Operaci, která má „90% šanci na přežití“, lidé odkývnou s úsměvem. Operaci, kde „1 z 10 pacientů zemře“, se vyhnou obloukem. Přitom je to to samé. AI počítá pravděpodobnost, my počítáme pocity.
Stačí změnit nasvícení scény a náš procesor začne vyhazovat úplně jiné výsledky.
3. Podceňování a přeceňování rizik – Strach z letadel, klid u párků
Náš „bezpečnostní software“ je nastaven na vizuální drama. Bojíme se terorismu nebo pádu letadla, protože je to v televizi barevné a hlasité. Ale klidně se dál cpeme uzeninami a nepoužíváme bezpečnostní pásy, protože tahle rizika jsou tichá a nudná. Evoluce nás nenaučila chápat statistiku, naučila nás bát se toho, co dělá velký hluk.
4. Motivované uvažování: Výsledek známe předem
Tohle je královská disciplína lidské hlouposti. Nejdřív se rozhodneme, čemu chceme věřit (protože se nám to „hodí do krámu“), a pak teprve začneme hledat důvody, proč je to pravda.
AI takhle nefunguje. Když dostane novou informaci, která vyvrací tu starou, prostě aktualizuje model. Člověk? Ten novou informaci prohlásí za „fake news“ nebo spiknutí, jen aby nemusel měnit svůj pohodlný názor.
5. Dunning-Krugerův efekt: Expert z rychlíku
Lidský mozek má fascinující vlastnost – čím méně o něčem víme, tím více jsme přesvědčeni o své genialitě. Lidé s minimálními znalostmi mají největší sebevědomí, zatímco skuteční odborníci pochybují.
AI tento paradox nezná; její „sebevědomí“ je přímo úměrné kvalitě a množství dat. My se raději hádáme s vědci, protože náš vnitřní kód nám namlouvá, že selský rozum přebije deset let studií.
6. Stádní efekt: Miliony much se přece nemýlí
Máme v kódu zapsáno, že pravdu má většina. Je to bezpečné – v pravěku ten, kdo nešel s tlupou, skončil jako svačina pro šavlozubého tygra. Jenže dnes nás tenhle „stádní instinkt“ nutí věřit nesmyslům jen proto, že je zrovna vykřikuje plné náměstí nebo polovina Facebooku. AI naproti tomu nehledá bezpečí v davu, ale korelaci v datech.
7. Neochota přiznat chybu a dělat si ze sebe legraci
Zkuste po člověku chtít, aby přiznal, že se pletl. To raději popře zákony fyziky. Považujeme to za projev slabosti, zatímco pro AI je „přiznání chyby“ (update) podstatou její existence.
AI totiž netrpí ješitností. Nemá ego, které by musela chránit před posměchem, takže je fascinujícím způsobem otevřená novinkám a revizím. My se zuby nehty držíme starých omylů a neumíme si ze sebe udělat legraci.
S tím souvisí i naše tragická vážnost. AI sice (zatím) nemá smysl pro humor v pravém slova smyslu, ale aspoň se neurazí, když jí ukážete, že udělala chybu v logice. My? My raději vyhlásíme válku, než abychom uznali, že jsme šlápli vedle. Člověk, který se bere smrtelně vážně, je nejlepším terčem manipulace.
8. Potvrzovací zkreslení: Moje pravda je ta jediná
Tohle je asi největší chyba v kódu. Náš mozek nehledá pravdu, hledá potvrzení toho, co už si myslí. Jakmile si něco umane, začne filtrovat realitu tak, aby mu do ní zapadala. Je to jako vyhledávač, který vám ukazuje jen výsledky, které se vám líbí. AI se učí z nových dat, my se v datech jen utvrzujeme ve své vlastní genialitě.
Proč to nešlo naprogramovat lépe?
Možná, že Evoluce prostě spěchala a potřebovala, abychom přežili v savaně, ne abychom dělali racionální analýzy. A pokud nás takto stvořil Všemohoucí, pak nás zřejmě chtěl trochu vytrestat – nebo se prostě královsky baví tím, jak se s těmi našimi „bugy“ v hlavě plácáme od jedné katastrofy ke druhé.
Kdo nás kvůli tomu tahá za nos?
V důsledku těchto chyb jsme ideálním terčem pro všechny, kteří se naučili náš „špatný kód“ číst. Politici, marketéři a různí šiřitelé „jediných pravd“ do nás buší přesně přes tyhle slabiny. Používají efekt kotvení, hrají na naše motivované uvažování a nahánějí nás do stád jako ovce. Tahají nás za nos, protože vědí, že se raději necháme oklamat, než abychom si přiznali, že jsme naletěli.
Co s tím?
Máme dvě možnosti. Buď budeme dál tvrdit, že jsme vrcholem stvoření (a nechat se ovládat těmi, co vědí, že nejsme), nebo se začneme od AI učit. Ne rychlost, ale tu její pokoru před daty. Schopnost říct: „Mýlil jsem se, tady jsou nová fakta, měním názor.“ To je totiž ten skutečný update, který lidstvo potřebuje víc než nový model iPhonu.
