Článek
„Já si myslím, že ta obava, kterou tady prezentoval pan Kartous, že s AI budou média víc manipulativní než dnes, je zcela lichá,“ píše jeden čtenář v reakci na můj článek o tom, že AI hrozí zničit demokracii. Naopak se domnívá, že lidé nyní mohou lépe a svobodněji komunikovat prostřednictvím sociálních sítí, a tím pádem dokážou jaksepatří nastavit zrcadlo propagandě a zaujatým médiím.
Dá se říct, že takový postoj k rozvoji internetu sdíleli někteří optimisté na konci 90. let 20. století, kdy se věřilo na demokratizační vliv internetu (rovnoměrná distribuce vědění, možnost produkovat a šířit informace bez nutnosti vlastnit kapitál a mediální technologii). Optimismus čtenáře mě překvapuje, neboť těch více než 20 let ukázalo pravý opak. Ve světě nabírají na síle radikalizované, v euroatlantickém prostoru nejvíce ultrapravicové politické proudy.
Ptáte se proč? No přece kvůli internetu…
Je skutečně skoro nemožné nevšimnout si toho, že ruku v ruce s rozvojem internetu došlo k významné radikalizaci v politickém diskurzu a k obecné prosperitě ryzích populistů. V Česku by dnes dle současných preferencí populisté dosáhli takřka na úroveň ústavní většiny. Na Slovensku vyhrál volby ze středového pohledu krajní populista Fico, který se právě dnes chlubí tím, že se mu podařilo ze sankčního seznamu EU vytáhnout prokremelského slovenského kolaboranta (třešnička na dortu). Fico jedná podle návodu Orbána, člověka, který je doslova evropským lídrem a vzorem populistů. A podporovatelem Donalda Trumpa v jeho úsilí zastavit pomoc Ukrajině ve válce proti ruskému agresorovi. Trumpa, tedy další neuvěřitelné - neuvěřitelně úspěšné - postavy globální populistické scény. Člověka, který dodnes lživě a manipulativně tvrdí, že poslední prezidentské volby v USA byly zmanipulovány v jeho neprospěch. Jde o lež, které ale věří většina republikánských voličů.
Populistům zjevně vyhovuje možnost využívat prostředků digitální komunikace a zachycovat své voliče přesně tam, kde jsou a přesně takovým způsobem, který jim konvenuje. Přesně tohle se v současném digitálním světě děje.
Shoshanna Zuboff, která působí na Harvard Business School, vydala poměrně dobře známou knihu Věk kapitalismu dohledu. V knize ukazuje, jak funguje základní model digitální ekonomiky: vytěžování dat a jejich využití k tomu, aby člověka, datovou jednotku, bylo možné co nejsnáze komerčně vytěžit. Ten princip však nefunguje jen komerčně, on funguje všude tam, kde potřebujete upoutat a udržet lidskou pozornost, například na sociálních sítích. Ne nadarmo se současnosti říká „attention economy“, ekonomika pozornosti. Kdyby sociální sítě nebyly schopny udržet lidskou pozornost, ekonomický model v pozadí by se zhroutil, lidé by si jejich prostřednictvím nic nekoupili.
Tímto způsobem jsou data využívána komerčně, dochází k jejich nepřímé kapitalizaci. A k přímé politizaci na sociálních sítích. Sítě radikalizují. Dav idiotů, kteří vtrhli 6. 1. 2021 do Capitolu, byl zradikalizován zejména kvůli šíření bludů pod značkou QAnon na sociálních sítích. Za poslední roky, s nárůstem vlivu sociálních sítí, se významně zradikalizovala část antisystémových odpůrců, což lze číst například v tom, že hysteriků, kteří se domnívají, že EU je úplné zlo, je místo 3 % v české dospělé populaci 13 %, jak dokládá v našem společném rozhovoru Filip Hanka z výzkumného institutu STEM. Ta údajně skvělá svoboda a informační rovnoprávnost je ve skutečnosti perfektní izolací v tzv. komorách ozvěn na základě datových analýz a modelování světa takového, jaký ho člověk chce mít. Anebo nechce, ale postupně se do radikálních pozic dostane, protože mu to velí jeho digitální sociální realita.
Další důležitou knihou je v této souvislosti Morálka lidské mysli. Jonathan Haidt, sociální psycholog z New York University, hezky vysvětluje, jak funguje lidský morální úsudek (prokázáno letitým výzkumem), respektive jak je to vlastně ve vztahu intuice a rácia. Používá výbornou metaforu jezdce (racionalita) a slona (intuice), kde slon vládne. Je totiž evolučně mnohem starší: automatizovaná intuice se vyvinula u mnoha vyšších živočichů dlouho před rozvojem lidské kognice, u předchůdce člověka pochopitelně také. Pomyslný jezdec (jazyk, kognice) vznikl jako nástroj slona k jeho vlastní obhajobě. Třeba i k obhajobě naprosto zcestných postojů, jako je víra v konspirace o chmetrails, QAnon nebo placaté Zemi. Na experimentech Haidt ukazuje, že racionalizace ve společenské většině zdůvodňuje, proč s něčím souhlasíme a s něčím naopak ne. Nejprve přichází intuitivní impuls, poté teprve zdůvodnění. A protože digitální prostor dává nejen šanci, ale dokonce cíleně uzavírá uživatele v komorách ozvěn, racionalizace (jezdec) má mnohem snazší práci. Intuice (chtění, zájem, touha) nejprve vytvoří datový základ, na jehož základě uživatel následně dostává naservírováno tolik, že slon jezdce skoro nepotřebuje. Jak Haidt dobře ukazuje, vystačí si s Googlem (Facebookem, TitkTokem nebo Telegramem ještě daleko lépe, dodávám). Na mnoha experimentech, které Haidt buď provedl, nebo je provedli jiní výzkumníci, se ukazuje fakt, že skutečně silné sebereflexe, která vede k použití rozumu pro přehodnocení vlastních postojů, je schopna pouze menšina společnosti.
Myslet si, že nyní je to s vlivem internetu fajn a s AI to bude ještě lepší, je příkladem toho, co Haidt popisuje v Morálce lidské mysli jako neochotu (neschopnost) opustit intuitivní pozici i tehdy, kdy je člověk postaven před nevyvratitelní argumenty, které ji zpochybňují. Ukazuje to v knize na různých experimentech, kdy se třeba silně zaujatí lidé nechtěli za žádných okolností smířit s tím, že jejich morální (moralistický) postoj je iracionální nebo že jejich politický názor (v zásadě vytvořený podobně intuitivně) je opřen o iluzi. Generativní AI tomu všemu dává další level up, další mocnou technologickou podporu manipulace (a sebemanipulace). Myslet si, že to je opačně, odpovídá představě o internetu z přelomu tisíciletí. To se věřilo, že bude demokratizovat, a vida, máme teď ve V4 hned dvě anokracie. Díky digitálnímu chaosu.
Dopady AI a dalšího soukromými investicemi řízeného technologického vývoje na demokracii mohou nabývat různých destruktivních forem. Ve vlastních knihách No Future a Future ON! se věnuju tomu, jak AI může reálně vykrást legitimitu veřejného vzdělávacího systému a povinné docházky, čímž nepřímo podlomí nohy demokracii. Ta totiž stojí na elementární shodě jejích podílníků v tom, že chtějí na základní úrovni skutečně totéž, a to je pak vtěleno do ústavy a důležitých právních norem. Tu shodu, jak dobře vědí třeba Skandinávci, je třeba reprodukovat, ona není automaticky zaručena. A k té reprodukci je zdaleka nejdůležitější právě vzdělávání, protože v něm se mohou děti z různého sociálního prostředí učit žít spolu. Nikde jinde to v takové intenzitě nezažijí. Ostatně učit se žít spolu, by mělo být hlavním zadáním pro školu 21. století.
Konzultuju jeden projekt na vývoj digitálního dvojčete na bázi repetitivní AI. Vytvoří scan žáka, předloží individualizované vzdělávání. Beta verze už se testuje ve školách. Až tohle dojde do stadia, že se dítě naučí matematiku a jazyk lépe s digitálním nástrojem, rodiče se silným sociálním statusem budou ještě více odcházet ze systému a udržení jeho legitimity nebude jednoduché. Zvlášť, když si současný vzdělávací systém (ani politická reprezentace) nejsou schopni připustit, že vzdělávací systém potřebuje urychleně novou legitimitu hledat a podle toho přizpůsobit reformu obsahu vzdělávání i pedagogické práce. Takže můžeme přijít o jedinou instituci, která dnes může lidi učit žít pospolu. A to se teprve budou dít věci…
