Článek
Existuje znepokojivá myšlenka, která v posledních desetiletích stále hlasitěji rezonuje mezi vědci, filozofy i futuristy. Na první pohled paradoxní tvrzení se při bližším pohledu ukazuje jako jedna z nejzásadnějších hypotéz naší doby. Technologický pokrok nás osvobodil od nemocí, hladu a fyzické dřiny, ale zároveň nám do rukou vložil nástroje, jejichž nesprávné použití by mohlo znamenat konec veškeré lidské civilizace.
Historie kolapsu civilizací
Dějiny lidstva jsou plné varování, která jsme příliš ochotně zapomněli. Velké civilizace jako Řím či Mayové nezanikly najednou. Padaly postupně, v akumulaci chyb, přehlíženém vyčerpání a kolektivní slepotě vůči vlastnímu úpadku.
Římská říše je možná nejznámějším příkladem civilizačního kolapsu v dějinách Západu. Přestože její zánik trval staletí, historici identifikují shodný vzor rostoucích vojenských výdajů, korupce, ekonomického vyčerpání, politické nestability a neschopnost zvládnout klimatické výkyvy a epidemie současně. Řím podlehl kombinaci krizí, které se navzájem zesilují.
Mayská civilizace, jejíž astronomické a architektonické výkony dodnes vzbuzují úžas, se zhroutila přibližně v 9. století n. l. Souhra dlouhodobého sucha, přelidnění, devastace půdy a politické fragmentace způsobila, že rozsáhlá centra jako Tikal nebo Copán byla v průběhu méně než dvou staletí opuštěna. Přitom šlo o civilizaci, která ovládala sofistikované zemědělství, matematiku a kalendář, ale přesto nebyla schopna se přizpůsobit.
Historik Joseph Tainter ve své teorii kolapsu civilizací argumentuje, že komplexní společnosti zanikají tehdy, když investice do zvyšující se složitosti přestávají přinášet odpovídající výnosy. Stát, armáda, byrokracie a infrastruktura se stávají nákladnými bez toho, aby přinášely nová řešení. Civilizace se nerozpadá proto, že by ztratila inteligenci, ale rozpadá se proto, že ztratila pružnost.
Poučení pro moderní svět je jasné. Žádná civilizace není imunní. Globalizace nás propojila způsobem, který zrychluje šíření inovací, ale také šíření krizí. Ekonomický otřes, pandemie, klimatická katastrofa nebo politický rozklad se již nešíří pomalu přes hranice; probíhají simultánně, v reálném čase a na celé planetě.
Technologický pokrok a jeho rizika
Technologie rostou exponenciálně a lidský mozek na to není evolučně připraven. Jsme zvyklí uvažovat lineárně. Exponenciální křivka nás mate, protože začíná pomalu a pak náhle exploduje. Výpočetní výkon se zdvojnásobuje přibližně každé dva roky a umělá inteligence za posledních pět let překonala lidské schopnosti v oblastech, kde to experti ještě v roce 2010 nepovažovali za možné dříve než za padesát let. Biotechnologie umožňují editaci genomu s přesností, jakou si dříve dovolila jen příroda v průběhu milionů let evoluce.
Tento pokrok má nespornou světlou stránku. Moderní medicína vymýtila choroby, které decimovaly celé generace, obnovitelná energie nabízí cestu z závislosti na fosilních palivech a AI pomáhá analyzovat klimatická data, urychlovat vývoj léků a optimalizovat logistiku zásobování potravinami. Jsou to skutečné, životně důležité výsledky.
Zároveň však každá nová technologická vlna přináší existenciální stín. Jaderné zbraně přinesly energii i schopnost srovnat město se zemí během vteřin. Genetické inženýrství slibuje léčbu dědičných chorob i možnost vytvořit patogeny s nebývale vysokou smrtností. Nekontrolovaná umělá inteligence může optimalizovat výrobu a vědu, nebo, pokud by její cíle nebyly správně nastaveny, postupně marginalizovat lidský vliv na vlastní civilizaci.
Klíčový problém tkví v nesouladu mezi tempem technologického pokroku a pomalostí lidské psychologie. Evoluce nás vybavila pro svět, kde největšími hrozbami byli predátoři, rivalové z vedlejšího kmene a nedostatek potravy. Náš mozek je nastaven na bezprostřední hrozby, ale ne na abstraktní rizika, která se naplní za dvacet nebo padesát let. Tribalismus nás rozděluje tam, kde bychom potřebovali spolupráci a krátkodobé politické myšlení odsunuje dlouhodobá existenciální rizika na konec agendy dokud není příliš pozdě.
Filozofové a vědci jako Nick Bostrom nebo Toby Ord definují existenciální rizika jako takové události, které by buď ukončily existenci lidstva, nebo trvale a radikálně omezily jeho potenciál. Nejde o apokalyptické fantazie, ale jde o statisticky nenulové pravděpodobnosti, jejichž dopady jsou tak obrovské, že si zaslouží mimořádnou pozornost.
Filozof Toby Ord ve své knize The Precipice odhaduje, že pravděpodobnost existenciálního kolapsu lidské civilizace v průběhu tohoto století je přibližně jedna ku šesti, čili podobná jako u ruské rulety. Tento odhad vychází z kombinace rizik jako jsou nekontrolovaná AI, pandemie vytvořená v laboratoři, jaderný konflikt, klimatická katastrofa nebo kombinace více z nich najednou.
Hovoříme o tzv. nebezpečném okně civilizace, tedy historickém období, kdy technologie rostou rychleji, než se vyvíjejí mechanismy jejich kontroly a etické regulace. Jsme v tomto okně právě nyní. Máme jaderné zbraně bez globálního odzbrojení. Vyvíjíme AI bez konsensu o jejích limitech a editujeme genomy bez mezinárodní shody na etických hranicích.
Scénáře, které vědci zvažují, zahrnují technologickou sebedestrukci — ať již cílenou válkou nebo nehodou — civilizační stagnaci v situaci, kdy technologie přestanou sloužit rozvoji a stanou se nástrojem kontroly, nebo naopak digitální únik malé skupiny lidí do virtuálního světa, který je natolik soběstačný, že přestane potřebovat fyzický vesmír. Ve všech případech jde o scénáře, kde lidstvo jako druh přestává existovat v podobě, jakou bychom dnes nazvali civilizací.
Budoucnost lidstva
Pesimistický scénář není nevyhnutelný, ale ani nerealistický. Kombinace existenciálních rizik v průběhu tohoto nebo příštího století může přivodit kolaps globální civilizace dříve, než stihneme vybudovat záchranné sítě. Nedostatečná regulace AI, biologické zbraně vytvořené státními i nestátními aktéry, klimatická destabilizace a politická fragmentace jsou rizika, která se mohou vzájemně zesilovat v řetězovém selhání, které nezačíná jedinou katastrofou, ale sérií zdánlivě zvládnutelných krizí.
Optimistický scénář je však stejně reálný. Pokud lidstvo překoná kritické období — přibližně příštích padesát až sto let — mohlo by se dočkat budoucnosti, která přesahuje naši dnešní představivost. Kolonizace Marsu a dalších planet by zajistila redundanci: zánik jedné planety by neznamenal zánik druhu. Stabilní zdroje energie z fúze nebo obnovitelných technologií by eliminovaly jeden ze základních zdrojů konfliktů. Eticky ukotvená AI by se stala naším partnerem, nikoliv soupeřem.
Civilizace, která přežije příštích sto let, může přežít miliony. Jsme první druh, který vědomě reflektuje vlastní možný zánik a je schopen ho aktivně odvrátit. To je paradox a zároveň naděje, protože vyspělost nás ohrožuje, ale zároveň nám dává nástroje, jak se ubránit.
Příběh lidské civilizace je příběhem paradoxů. Čím více toho víme, tím lépe chápeme, jak málo chápeme. Čím silnější nástroje tvoříme, tím větší je naše odpovědnost za jejich použití a čím blíže jsme hvězdám, tím lépe vidíme propast pod nohama.
