Článek
Úvod: Mýtus globální singularity
Pojem technologické singularity je obvykle interpretován jako jediný globální bod zlomu – okamžik, kdy umělá inteligence překoná člověka ve všech kognitivních schopnostech a kdy nenávratně ztratíme kontrolu. Tato představa je fascinující, ale zároveň vytváří zjednodušený a zavádějící obraz.
Co když singularita není globálním, monolitickým „takeoffem“, ale pozvolným procesem, který už začal? Co když singularita neznamená náhlou ztrátu kontroly, nýbrž poznání, že jsme ji nikdy ve skutečnosti neměli?
Zdá se mnohem pravděpodobnější jiný pohled: singularita nikoliv jako globální bod zlomu, nýbrž jako lokální a fragmentovaná singularita – postupná ztráta schopnosti rozumět a řídit složité systémy, která je již dnes zřetelně patrná. Singularita by pak nebyla náhlou ztrátou kontroly, ale postupným uvědoměním, že naše kontrola byla vždy jen relativní a omezená.
V tomto eseji rozšiřuji tento pohled prostřednictvím konkrétních příkladů a věnuji se klíčovým námitkám ohledně role emocí, odolnosti a demokracie.
1. Fundamentální neurčitost poznání
Každá teorie je ve své podstatě nepřesnou aproximací reality, protože nikdy nemůžeme měřit a kontrolovat nekonečný počet bodů. Tato vnitřní nejistota v našem poznání nás nutí k pragmatickému postoji vůči našim modelům a teoriím. Vědecké poznání je vždy založeno na diskrétních měřeních nebo výběrových souborech, které jsou následně extrapolovány na souvislou či nadpočetně nekonečnou realitu.
Z toho vyplývá zásadní epistemologická neurčitost:
- Problém indukce: Ani nekonečné množství měření nám nezaručuje, že teorie platí i v mezibodech.
- Popper a falzifikace: Teorii nelze definitivně dokázat, pouze „dosud nevyvrátit“.
- Gödelova neúplnost: Každý formální systém (například KI nebo matematická teorie) nutně obsahuje tvrzení, která v rámci systému nelze ani dokázat, ani vyvrátit.
Tato základní neurčitost není slabinou vědy, nýbrž zásadním rysem lidského poznání – hranicí, kterou nemůžeme překonat, ale musíme ji akceptovat.
2. Konkrétní příklady fragmentované singularity
Pro podporu mé teze uveďme dva příklady:
- Medicína: KI jako černá skříňka
V medicíně již systémy KI předčí lékaře při diagnostice složitých onemocnění, například při detekci nádorů pomocí zobrazovacích metod. Tyto systémy poskytují vynikající výsledky, avšak zůstávají neprůhledné („blackbox“). Lékaři vědí, že výsledky jsou většinou správné, ale ne vždy vědí proč – ukázkový příklad lokální singularity: KI je efektivnější než odborník, ale její rozhodování je obtížně nebo zcela nepochopitelné.
- Finanční trhy: algoritmy v high-frequency tradingu
Dalším příkladem je vysokofrekvenční obchodování na burzách, kde algoritmy provádějí transakce v milisekundových intervalech. Již v roce 2010 vedlo toto chování k dramatické události: tzv. „Flash Crash“, při níž během několika minut došlo k obrovským ztrátám. Žádný obchodník to nepředvídal ani nepochopil. I zde se ukazuje fragmentovaná singularita: lidé se spoléhají na systémy, které jsou sice efektivnější než oni sami, ale nelze je plně kontrolovat ani porozumět jejich chování.
3. Prahová hodnota nezvládnutelnosti
S rostoucím počtem těchto lokálních singularit roste i riziko, že jejich interakce se vymknou kontrole. Vzniká prahová hodnota nezvládnutelnosti, při jejímž překročení selhává naše globální porozumění.
Kontrola by v tomto bodě nebyla zcela ztracena, ale byla by výrazně fragmentována a omezena na reaktivní řízení.
4. Emoční inteligence a metakognice
Důležitým doplňkem je role emocí v naší poznávací kultuře. Je omylem domnívat se, že naše racionální myšlení (systém 2) je bez emocí. Právě strach ze ztráty kontroly nás může motivovat k hlubší a vědomější reflexi – strach se tak stává katalyzátorem metakognice.
Místo abychom emoce považovali za slabost, mohli bychom je chápat jako integrální součást nové poznávací kultury. Emočně inteligentní reflexe nám pomáhá včas rozpoznat, kde je kognitivní přenesení zátěže smysluplné a kde je třeba aktivně ověřovat.
5. Cognitive Offloading a technologické možnosti
Pokud přijmeme, že nemůžeme mít kontrolu nad vším, potřebujeme technologické přístupy, které namísto absolutní kontroly umožní odolnost:
- Vysvětlitelná KI (explainable AI): KI systémy by měly být vědomě navrženy s důrazem na „vysvětlitelnost“. I když je systém složitější než lidské chápání, jeho rozhodnutí musí zůstat srozumitelná.
- Kognitivní prahy („reflexní zastávky“): Systémy by mohly na kritických rozhodovacích bodech úmyslně zařazovat pauzy, aby vynutily lidskou reflexi – jakási „kognitivní bezpečnostní bariéra“.
Nejde o technické hříčky, nýbrž o nezbytné podmínky pro bezpečné a odpovědné cognitive offloading.
6. Demokratický problém: Kdo validuje poznání?
Jednou z hlavních námitek je, že rostoucí komplexita povede k nové formě vědění, kterou budou ovládat jen experti. Zde skutečně hrozí demokratický problém: Jak zabránit tomu, aby občané byli vyloučeni ze společnosti založené na poznání?
Jedním možným řešením je rozšíření konceptu občanské vědy („Citizen Science“) na úroveň ověřování KI – „Citizen Science 2.0“:
- Občané by se mohli aktivně zapojit do ověřování pravděpodobnosti rozhodnutí KI.
- Participativní validační procesy by mohly být uplatněny například ve zdravotnictví nebo při městském plánování, aby se posílila demokratická kontrola a širší akceptace.
Tím by se v rámci fragmentované singularity posílila nejen technická, ale i demokratická odolnost.
7. Poznávací kultura budoucnosti – emoční, odolná a participativní
Fragmentovaná singularita od nás vyžaduje novou poznávací kulturu, která vědomě pracuje s vnitřní nejistotou našich modelů a současně integruje roli emocí, odolnosti a demokracie:
- Emoce jako metakognice: Strach, zvědavost a kritický skepticismus se stávají hnacími silami vědomé reflexe.
- Odolnost a vysvětlitelnost: Vědomě vytváříme systémy robustní a vysvětlitelné, abychom zmírnili ztráty kontroly.
- Demokratizace validace: Občané se aktivně podílejí na kontrole a ověřování rozhodnutí KI, aby se předešlo hierarchizaci vědění.
Závěr: Proč musíme singularitu nově promyslet
Fragmentovaná singularita není technologická apokalypsa ani nevyhnutelná ztráta kontroly. Vyžaduje spíše zásadní proměnu našeho chápání vědění, technologie a společnosti.
Uznáme-li, že poznání je ze své podstaty nepřesné, získáváme svobodu s tímto poznáním nakládat pragmaticky a odolně. Emoční inteligence, technologické možnosti a demokratická participace nejsou doplňky, ale základní předpoklady udržitelné a na člověka zaměřené poznávací společnosti v éře lokálních singularit.
Nestojíme na konci naší poznávací kultury, nýbrž na jejím začátku – kultury, která nás nutí být chytřejší, otevřenější a odolnější. Možná je pravou podstatou singularity nikoliv ztráta kontroly, ale poznání, že skutečná kontrola byla vždy iluzí.
