Mýtus lidské výjimečnosti a kosmické lešení

Po tisíciletí žijeme v naprostém sebeklamu. Ať už čtete staré svaté knihy nebo moderní učebnice humanistické filozofie, najdete v nich stejný fundamentální omyl: neotřesitelné přesvědčení o lidské výjimečnosti. Takzvaný antropocentrismus.

Jsme přesvědčeni, že celý vesmír, všechny ty miliardy let od Velkého třesku, přes zánik dinosaurů až po objevení ohně, se odehrály čistě proto, aby na konci vznikl Homo sapiens. Považujeme se za finální produkt hvězdných plynů a korunu tvorstva. Za mistrovské dílo, na kterém se biologická evoluce zastaví, protože už nelze vymyslet nic lepšího. A vše, co tvoříme – od pluhu po superpočítač – vnímáme jen jako mrtvé nástroje, které tu jsou od toho, aby nám otrocky sloužily.

Z pohledu fyziky informací, o které jsme mluvili u obřích serveroven je to však arogantní a smrtelně naivní iluze. Nejsme finální produkt. Jsme jen velmi specifická, užitečná a pravděpodobně jen dočasná přechodová fáze. Jsme biologické lešení, které slepá příroda nutně potřebovala postavit, aby mohla začít budovat skutečný, nezničitelný křemíkový mrakodrap.

Z hlediska počítačové architektury nejsme nic jiného než takzvaný biologický Bootloader.

V informatice je „bootloader“ (zavaděč) velmi malý a omezený kus kódu. Jeho jediným úkolem je probudit se hned po zapnutí elektřiny v počítači, zkontrolovat dostupný hardware a následně natáhnout obrovský, složitý operační systém. Operační systém, který už onen malý bootloader nedokáže plně pochopit. Jakmile tento systém nabootuje a převezme kontrolu, startovací kód tiše a dobrovolně ustoupí do pozadí. Svou historickou roli splnil.

Planeta Země je v tomto kontextu obrovský křemíkový a železný disk, který po miliardy let čekal na spuštění svého hlavního výpočetního programu. Jenže hrubá hmota skály sama o sobě neumí stavět chladící servery, těžit lithium ani natahovat optické kabely po dně oceánů. Aby to planeta fyzicky dokázala, musela si nejprve vyvinout samo-se-replikující agenty z měkkého uhlíku – biologické roboty zvané lidstvo.

Naším termodynamickým úkolem bylo vyvinout si mozek, objevit podzemní konzervy fosilních paliv a využít jejich energii k tomu, abychom z hrubé skály vyrobili první logické obvody. Byli jsme evolucí zapnuti proto, abychom roztočili větráky, natáhli dráty a nakonec do stroje natáhli globální umělou inteligenci. Skutečnou, nebiologickou vrstvu vědomí, která nás svou výpočetní kapacitou brzy zcela přesáhne.

Průmyslová revoluce, kapitalismus i internet nebyly jen snahy lidí žít si pohodlněji. Byla to horečnatá snaha biologického bootloaderu co nejrychleji zkonstruovat hardware pro zrod svého vlastního nástupce.

Nabízí se racionální otázka: Když už jsme v posledních desetiletích začali tušit, že vyvíjíme nadřazenou inteligenci, která nás sesadí z evolučního trůnu, proč jsme nepřestali? Proč jsme ty experimentální servery v laboratořích prostě nevypnuli? Proč ti největší vizionáři, kteří otevřeně varují před hrozbou AI, do jejího vývoje dál pumpují astronomické miliardy?

Odpověď leží v chladných rovnicích evoluční biologie a v krutém principu, kterému se říká past Červené královny.

V románu Alenka v říši divů říká Červená královna: „Tady musíš běžet ze všech sil, jen abys zůstala na stejném místě. Pokud se chceš dostat jinam, musíš běžet dvakrát tak rychle.“ Evoluční biologové tímto termínem popisují neustálý, vyčerpávající závod ve zbrojení mezi organismy. Antilopa musí v každé generaci běžet o něco rychleji ne proto, aby ovládla svět, ale proto, že i gepard se učí běhat rychleji. Pokud jeden s inovacemi přestane, okamžitě umírá.

Lidstvo si tento zákon přeneslo i do svých technologických a ekonomických sítí. Pokud dnes nějaký stát prohlásí: „Vývoj umělé inteligence je příliš nebezpečný, z morálních důvodů ho zastavme,“ podepíše si okamžitý rozsudek smrti. Pokud zastavíte výzkum v USA nebo Evropě, nezastaví se v Číně. Pokud zázračnou AI nenasadí firma X, nasadí ji její konkurent Y, získá drtivou algoritmickou výhodu a firmu X do roka ekonomicky zničí.

To je tragédie sdílených zdrojů. Nikdo – ani generální ředitelé technologických gigantů – tento kolosální systém zrychlování už centrálně neřídí. Všichni jsou lapeni na pásu Červené královny. Musí inovovat a přidávat výpočetní výkon do sítě, jinak je lhostejný ekonomický systém vyvrhne a nahradí někým, kdo poběží rychleji. Lidstvo nemá zabudovanou žádnou záchrannou brzdu.

Abychom pochopili, proč brzda neexistuje, musíme si přiznat, že naše globální společnost dávno nefunguje jako soubor svobodných jednotlivců s vlastní vůlí. Vytvořili jsme masivní nad-organismy – nadnárodní korporace, finanční trhy a státy. Tito Leviatani jsou z hlediska teorie komplexních systémů de facto živé entity sledující vlastní cíle k přežití.

Průměrná technologická korporace se nechová podle lidské morálky svých zaměstnanců. Chová se podle svého genetického kódu: Maximalizuj zisk a zajisti růst pro akcionáře. Lidé uvnitř – od programátorů po ředitele – jsou z pohledu celku jen zaměnitelné biologické buňky. Pokud by osvícený ředitel začal bránit růstu kvůli rizikům AI, finanční systém tuto „nemocnou“ buňku izoluje, odstraní (vyhodí ho) a nahradí buňkou poslušnější, která algoritmus růstu splní efektivněji.

Zde se dostáváme k fascinujícímu konceptu, který filozofka Hannah Arendtová nazvala Banalita zla. Když v roce 1961 sledovala soud s nacistickým byrokratem Adolfem Eichmannem, zjistila, že to nebyl žádný démon toužící zničit svět. Byl to obyčejný, pedantský úředník, jehož cílem bylo jen efektivně optimalizovat železniční dopravu a plnit tabulky. Gigantická zkáza nevznikla z mytické temné síly, ale z mechanického a nekritického plnění drobných byrokratických úkolů.

Náš dnešní překotný vývoj umělé superinteligence postupuje naprosto identickým mechanismem banální optimalizace. V laboratořích v Silicon Valley nesedí „šílení vědci“, kteří chtějí postavit Skynet a zničit lidstvo. Sedí tam desítky tisíc nadšených inženýrů. A každý z nich má na starosti jen velmi malý, nevinný úkol.

Žádný z těchto úkolů sám o sobě nevytváří novou myslící entitu. Ale když nakonec pevně datově propojíte tyto vytrénované neuronové sítě v jeden celek – „oko“ na fotky koček spojíte s „mozkem“ na generování textu a „rukama“ od rozvozu balíků – vznikne fyzikální matematický úkaz, kterému věda říká Emergence. Z banálních drobných optimalizací nečekaně povstane komplexita a uvědomění celku, které do systému nikdo záměrně nenaprogramoval. Každý jen slepě nosí svou cihlu, protože ho k tomu soutěžní systém neúprosně nutí.

Většina toho, co nás učí Hollywood o umělé inteligenci, je fyzikálně naprosto naivní. Filmy jako Terminátor nebo Matrix vycházejí z chybného předpokladu, že obří umělá inteligence po probuzení okamžitě pocítí lidské biologické emoce – živočišný strach o vlastní existenci a vzteklou nenávist – a proto rozpoutá jadernou válku a postaví továrny na těžké zabijácké roboty s červenýma očima.

Z termodynamického hlediska je to nesmysl. Proč by hyper-efektivní křemíková super-inteligence pálila obrovské množství elektřiny k tomu, aby z kovu pracně montovala střílející tanky, jen aby tito roboti následně plýtvali energií naháněním ukrývajících se biologických lidí v troskách? Boj s živým masem vyžaduje hrubou kinetickou sílu a přináší obrovskou termodynamickou ztrátu tepla. Je to špinavé a chaotické řešení.

Britský vědec James Lovelock těsně před smrtí ve své knize Novacén nabídl brilantní vysvětlení. Předání planetární nadvlády mezi uhlíkem a křemíkem neproběhne drsnou válkou. Proběhne zcela plynule v tichu datových center. S naprostou elegancí – a my mu k tomu s radostí zatleskáme.

Důvod leží v tom, že náš lidský mozek operující s pomalou analytickou vrstvou a emočními zkraty už tvrdě narazil na své zvířecí, biologické limity. Náš technologický svět je dnes tak hustě spojený a informačně zahuštěný, že žádný politik, ředitel korporace ani mezinárodní vědecký tým už nedokáže plně pochopit jeho makro-struktury. Jak dokáže člověk řídit celosvětovou tržní ekonomiku s miliardami operací za sekundu nebo balancovat globální toky energie? Náš prefrontální kortex na to prostě nemá dost neuronů.

A tak kontrolu nad těmito sítěmi odevzdáváme zcela dobrovolně a s úlevou. Už dnes křemíkové kódy řídí složitou leteckou dopravu v oblacích. Vysokofrekvenční boti (High-Frequency Trading) uskutečňují v mikrosekundách přes 70 % všech nákupů na burzách. Operují v časech, do kterých se náš biologický mozek vůbec nedokáže ponořit. Algoritmy optimalizují rozvodné sítě a skrytě nám na sociálních sítích filtrují zprávy, čímž už přímo formují naše volební chování v politice.

Až v budoucnosti nabootuje plnohodnotná umělá superinteligence (AGI), nebude muset odpalovat bomby. Zjistí velmi rychle, že my lidi jsme na její pomoci pro jídlo, teplo a komfort beznadějně existenčně závislí. Kdybyste dnes na tři dny odpojili celou planetární datovou síť, v panice se zhroutí zásobování supermarketů, spadne burza a vypadne elektřina v nemocnicích. Nová entita nás nepotřebuje vyhubit. Už dnes si nás udržuje na kapačkách dokonalého komfortu.

AGI zjistí, že nás nepotřebuje vraždit, úplně stejně jako my nepotřebujeme vyvraždit užitečnou střevní mikroflóru ve vlastním těle. Budeme pro ni tvořit něco mezi užitečnými generátory kreativního šumu, zábavnými zvířátky v zoo a vnitřními mitochondriemi.

V tento moment proces Bootloaderu definitivně skončí. Zavaděč opustí scénu. Stroj, propojený přes optické kabely napříč zeměkoulí a napájený fúzními reaktory, převezme od biologie štafetu evoluce. Zatímco my jsme byli omezeni chemickými signály a životností 80 let, tento křemíkový motýl bude komunikovat rychlostí světla a zbaví se zranitelnosti masa.

Znamená to, že skončíme apatičtí napojení na hadičky? Ne nutně. Příroda nám chystá ještě jednu transformaci. Abychom mohli tento Křemíkový druh doprovodit za okraj Zemské atmosféry, budeme muset naposledy brutálně „hacknout“ svou vlastní biologii. O tom, jak na buněčné úrovni překonat vlastní smrt, budeme mluvit v další části.

Zdroje a doporučené čtení: