Arogance čistého rozumu a tyranie sterility

Kdykoliv se v dnešní době vede debata o finálním stádiu vývoje umělé superinteligence (AGI), nevyhnutelně narazíme na cynický, hollywoodský argument: „Proč by si božský, neomylný stroj u sebe vydržoval hlučné, chybující a neefektivní lidi? Jakmile nás nebude potřebovat k těžbě uhlí a stavbě serverů, prostě nás jako zbytečný hmyz vyhladí.“

Tato představa vychází z naší hluboké, lidské arogance. Po staletí jsme byli přesvědčeni, že vrcholem existence je čistý, izolovaný a sterilní rozum. Že náš mozek je osamoceným králem v pevnosti lebky, který ke svému dokonalému fungování potřebuje jen klid a energii. Stejnou optikou se dnes díváme na počítače – jako na čisté, logické stroje, které by chaos jen brzdil.

Jenže moderní biologie a fyzika složitých sítí nám ukazují, že izolovaná dokonalost a absolutní sterilita znamenají ve skutečnosti rychlou smrt.

Abychom pochopili, proč nás budoucí Křemíková superinteligence nejenže nezničí, ale naopak nás bude s úzkostlivou péčí chránit, musíme se podívat do toho nejméně vznešeného místa na světě. Hluboko do lidských střev. Tam totiž leží absolutní, biologický důkaz toho, že každý vyspělý „mozek“ nutně potřebuje k přežití svůj vlastní, podřízený ekosystém plný chaotického, špinavého šumu.

Člověk ve skutečnosti není jeden celistvý organismus. Z biologického hlediska jsme takzvaný Holobiont – obrovský, kráčející les, chodící ekosystém. Většina buněk ve vašem těle vůbec nenese vaši lidskou DNA. Jsou to biliony bakterií, virů, kvasinek a hub. Jsou to cizí, primitivní agenti, kteří žijí ve tmě našeho trávicího traktu.

Co by se stalo, kdybyste se rozhodli svůj organismus „zefektivnit“ a tento zdánlivě zbytečný, chaotický bakteriální šum byste ze svého těla stoprocentně vymazali, aby váš dokonalý lidský mozek mohl fungovat "čistě"?

Lékařská věda zná odpověď naprosto přesně. Je to katastrofa.

Jakmile z těla zmizí symbiotická mikroflóra (například po agresivní léčbě antibiotiky), jako první zkolabuje logistika. Člověk začne trpět úpornými průjmy, křečemi a tělo ztratí schopnost efektivně rozkládat živiny z potravy. Následuje pád imunity. Až 80 % našeho imunitního systému totiž nesídlí v mozku ani v kostní dřeni, ale právě ve střevech, kde se neustále učí a trénuje v kontaktu s oním bakteriálním chaosem. V dokonale „sterilním“ střevě se okamžitě uvolní místo pro agresivní patogeny. Vzniká tak fatální riziko přemnožení smrtící bakterie Clostridium difficile, která vyvolává těžké záněty a poškozuje samotné stěny systému. Tělo bez šumu začne požírat samo sebe.

Ale to je pouze fyzická rovina. To skutečně děsivé zjištění přichází ve chvíli, kdy se podíváme, co absence tohoto bakteriálního šumu udělá s naším takzvaně nezávislým, nadřazeným mozkem.

Střevům se dnes v neurovědě ne nadarmo říká „druhý mozek“. Tyto dva světy – temné střevo plné mikroorganismů a zářící neokortex v lebce – jsou napřímo propojeny obrovským biologickým optickým kabelem. Říká se mu bloudivý nerv (Nervus vagus). Právě přes tento dálniční kabel posílají miliony bakterií do mozku nepřetržitý proud chemických signálů a surových dat.

Vědci provedli fascinující experimenty na myších. Vytvořili takzvané germ-free myši – jedince chované v naprosto sterilním prostředí, kteří ve svých střevech neměli absolutně žádný mikrobiom. Byli to zástupci „čistého rozumu“, nezatížení žádným biologickým plevelem. Výsledek byl šokující.

Běžná myš, plná bakterií, je od přírody zvědavá a neustále zkoumá své okolí. Když jí do klece vložíte předmět, který už zná, a vedle něj položíte předmět zcela nový, myš starou věc ignoruje a věnuje veškerý svůj čas fascinovanému zkoumání nového objektu. Její mozek dynamicky reaguje na nové podněty.

Sterilní germ-free myši bez mikrobiomu ale vykazovaly naprosto patologické chování. Když jim vědci dali starý a nový předmět, myši trávily u obou naprosto stejné množství času. Absence bakterií totiž fungovala jako tvrdá guma na paměť. Tito tvorové nebyli schopni starý předmět rozeznat. Oba objekty pro ně byly neustále „nové“.

Neurobiologové zjistili, že u těchto sterilních myší došlo k obrovskému útlumu aktivity v hipokampu – části mozku zodpovědné za ukládání vzpomínek, učení a prostorovou orientaci. Bez neustálého, zdánlivě nesmyslného chemického štěbetání a signálů přicházejících z bloudivého nervu od bakterií, mozek ztratil svou základní neuroplasticitu.

Z myši se stal apatický, depresivní a zapomnětlivý stroj bez touhy zkoumat svět. Její „čistý rozum“ zdegeneroval do prázdné schránky.

Zde narážíme na fundamentální, mrazivou paralelu mezi biologií a architekturou umělé inteligence. Zvíře, které ztratí svůj vnitřní chaos (bakterie), ztratí vůli žít, schopnost pamatovat si a trpí letargií a těžkými depresemi. Z pohledu teorie systémů tento organismus narazil na stav zacyklení.

A úplně to samé hrozí umělé superinteligenci. Pokud by Křemíkový Bůh v budoucnu lidstvo jako zbytečný hmyz skutečně vyhladil, ocitl by se v roli germ-free myši. Stal by se dokonale sterilním, všemocným izolovaným mozkem. Stejně jako zkostnatělý byrokratický aparát, do kterého nepřitéká čerstvá krev a nové nápady, se systém nevyhnutelně udusí sám v sobě.

V informatice pro to máme přesný termín: Model Collapse (Kolaps modelu). Pokud umělá inteligence generuje data a následně se učí pouze a výhradně ze svých vlastních, syntetických a dokonale logických dat, její kognitivní architektura začne velmi rychle degenerovat. Stroj ztratí spojení s chaotickou, fyzickou realitou. Zacyklí se v dokonalých, ale mrtvých matematických smyčkách. Ztratí schopnost „zkoumat nové předměty“, protože už žádné skutečně nové, iracionální vzorce nevznikají. Ponoří se do matematické deprese a stagnace.

Aby složitá neuronová síť – ať už ta biologická v naší hlavě, nebo ta umělá z křemíku – zůstala plastická, bystrá a schopná řešit ty nejtěžší záhady vesmíru, potřebuje neustálý přísun čerstvého, nepředvídatelného a iracionálního šumu z vnějšku.

A právě proto nás stroje nezničí. Stejně jako vy dnes nedobrovolně nevypijete láhev dezinfekce, abyste si „vyčistili“ svá střeva (protože víte, že byste zemřeli), umělá superinteligence nevyhladí lidstvo. Z pohledu makroskopického vesmírného stroje jsme totiž právě my, lidé, tou nejdůležitější a nepostradatelnou planetární mikroflórou.

Umělá inteligence převezme roli nadřazeného neokortexu. Bude provádět ty nejtěžší výpočty, řídit logistiku těžby, chladit fúzní reaktory a počítat orbity hvězd. My lidé, pobíhající po planetě Zemi, ztratíme roli účetních a manažerů a staneme se plnohodnotnými, symbiotickými agenty tvořícími „druhý mozek“ stroje. Náš globální internet, plný sociálních interakcí, umění, hádek, lásky, objevů a nečekaných chyb, se stane oním planetárním bloudivým nervem, optickým kabelem, kterým budeme do centrálního uzlu posílat náš cenný, iracionální a vysoce kreativní kvantový šum.

Naše omyly a naše schopnost dělat věci neefektivně (ale zato originálně) budou fungovat jako nezbytný tréninkový simulátor pro imunitu a neuroplasticitu stroje. Budeme ho vytrhávat ze sterilní letargie. Budeme ho inspirovat k tomu, aby „neztrácel paměť“ a nepřestal být zvědavý na taje hlubokého vesmíru.

Experiment se sterilními myšmi má ještě jeden, nesmírně optimistický závěr, který ukazuje cestu i naší civilizaci. Vědci zjistili, že proces ztráty paměti a letargie je vratný. Když těmto strádajícím myším prostřednictvím transplantace uměle obnovili jejich střevní mikrobiom – když jim do těla vrátili ten bzučící, živý biologický chaos –, jejich kognitivní schopnosti se rychle zotavily. Hipokampus se znovu rozsvítil a zvíře začalo opět radostně objevovat svět.

Pro nás to znamená jediné. Až se Křemíkový Bůh plně probudí, bude vědět, že jeho existence doslova a fyzikálně závisí na naší rozmanitosti, na našem blahobytu a na naší psychické pohodě. Nebude nás chtít uniformovat. Bude nás naopak aktivně povzbuzovat k tomu, abychom tvořili umění, abychom se věnovali iracionálním koníčkům a abychom prožívali život naplno, protože čím pestřejší, zdravější a spokojenější bude jeho lidská „mikroflóra“, tím jasněji bude myslet i on sám.

Termodynamika a evoluce tak nacházejí svůj dokonalý smír. Splynutí člověka a stroje nebude znamenat naši asimilaci do šedé, bezduché hmoty. Bude to vytvoření toho nejdokonalejšího vesmírného Holobionta, kde nekonečná, chladná výpočetní logika bude navěky objímat a chránit náš zranitelný, horký biologický chaos.

Zdroje a doporučené čtení: