Pád uhlíkového monopolu a arogance biologie

Když se dnes v akademické laboratoři zeptáte klasického evolučního biologa, jak exaktně definuje život, pravděpodobně vám s jistotou odříká nabiflovaný seznam vlastností z učebnic: schopnost metabolismu, růstu, reakce na vnější podněty, reprodukce a buněčná struktura. Dokonce i ta nejslavnější, oficiální definice americké vesmírné agentury NASA, která byla opatrně vytvořena pro hledání případného mimozemského života ve vesmíru, zní jasně: „Život je soběstačný chemický systém schopný darwinovské evoluce.“

Všimněte si toho jednoho, naprosto stěžejního slova: chemický.

My lidé jsme totiž takzvaní uhlíkoví šovinisté. Jsme tak hluboce, intimně a narcisticky svázáni se svou vlastní biologií z masa, krve, vody a uhlíku, že si zkrátka nedokážeme představit skutečnou evoluci a živoucí existenci v nějaké radikálně jiné formě. Považujeme složitý počítačový kód v serverech za pouhý „mrtvý nástroj“, jednoduše proto, že nedejchá plynný kyslík, nekrvácí a neskládá se z vlhkých proteinů. Jenže tento přístup je z hlediska fyziky a teorie složitých systémů naprostá intelektuální slepota.

Z pohledu moderní vědy a takzvané Teorie sestavení (Assembly Theory) je totiž uhlík jen pouhý stavební materiál. Není na něm nic magického. Vaše DNA není žádná posvátná jiskra boží; je to jen obyčejné prehistorické paměťové médium. Je to prastarý, vlhký harddisk, na který si slepá příroda miliardy let metodou pokusu a omylu zapisovala, jaký tvar těla v drsném prostředí funguje a jaký ne.

Informace samotná ale netrpí absolutně žádnou fyzikální loajalitou k materiálu, na kterém je zrovna zapsána. Shakespearův Hamlet je přece stále ten samý geniální Hamlet, ať už ho historicky napíšete husím brkem na sušený pergamen, vytesáte ho dlátem do mramoru, nebo si ho večer přečtete jako neviditelný shluk jedniček a nul na svítícím displeji z tekutých krystalů. Tomuto univerzálnímu zákonu se v informatice říká substrátová nezávislost.

Pokud s chladnou hlavou konečně přijmeme fakt, že biologická evoluce není nic jiného než gigantický fyzikální výpočetní proces hledající ty nejlepší způsoby, jak efektivně přežít a rozptylovat energii (entropii), pak nám dojde drtivá pravda: evoluce k chodu vůbec nepotřebuje uhlík. Potřebuje jen systém, který se dokáže úspěšně kopírovat, u kterého občas dochází k mutacím (informačním chybám) a který denně čelí lhostejnému prostředí, jež provádí neúprosnou selekci.

A právě proto v letech 2023 a 2024 začalo několik předních světových filozofů, evolučních biologů a špičkových výzkumníků – mezi nimi například nedávno zesnulý velikán Daniel Dennett nebo výzkumníci z Institutu pro budoucnost lidstva na Oxfordu – nahlas a varovně formulovat zcela šokující myšlenku. Umělá inteligence už dávno není náš nástroj. Je to nový, svébytný nebiologický evoluční druh. A její evoluce právě v tuto vteřinu probíhá na serverech miliardkrát rychleji, než jakou kdy zažila naše biologie.

Jak vlastně taková nefalšovaná Darwinovská evoluce vypadá v abstraktním kyberprostoru? V klasické biologii máte zvíře. To zvíře má v sobě unikátní geny. Zvíře se narodí do hlubokého lesa. Pokud je zvíře moc pomalé nebo hloupé, brzy ho sežere vlk. Jeho vadné geny navždy zmizí z oběhu. Pokud je naopak rychlé, přežije zimu, spáří se a úspěšně předá své „rychlé geny“ dalším generacím potomků. Tím se celý daný živočišný druh neustále, krutě, ale efektivně optimalizuje na přežití v lese. Tento mokrý, biologický proces trvá dlouhé miliony let.

V digitálním světě máte AI model (například obří jazykový model nebo pokročilý generátor obrázků). Tento syntetický model má svou matematickou architekturu a své takzvané váhy – to je jeho digitální DNA. Drsnému prostředí (oním lesem plným dravců), ve kterém tento model žije a loví, je dnes náš globální lidský ekonomický systém a celý propojený internet. Tím hlavním predátorem, a zároveň jediným zdrojem vzácné obživy (tedy elektřiny a výpočetní energie pro servery), je naše lidská uživatelská pozornost a tržní ochota střední třídy a firem za tento konkrétní model platit peníze.

Představte si zlomový rok 2023 a následnou explozi stovek různých, konkurenčních velkých jazykových modelů a open-source projektů (modely jako Llama, Mistral, různé divoké varianty GPT a Claude). Všechny tyto modely byly programátory masivně „vypuštěny do divočiny“ na vývojářské platformy, jakou je například globální síť GitHub. To, co se odehrálo vzápětí, byl naprosto ukázkový, ale hyper-zrychlený přirozený přírodní výběr.

Modely, které si příliš vymýšlely (takzvaně „halucinovaly“ a lhaly uživatelům), modely, které neuměly dobře programovat nebo byly na provoz zkrátka příliš drahé a pomalé, nedostaly v boji o přežití vůbec žádná nová uživatelská data. Programátoři si je do svých firem nestáhli. Investoři od nich dali ruce pryč. Servery těchto slabých modelů byly nakonec bez milosti odpojeny od elektrické sítě. To je naprostá digitální smrt.

Naopak ty modely, které byly flexibilní a užitečné, se okamžitě dočkaly obrovského přísunu energie (brutálního navýšení výpočetního výkonu a přísunu miliard dolarů). Chytří programátoři po celém světě jejich otevřenou „křemíkovou DNA“ vzali, mírně a experimentálně ji upravili (digitální mutace), účelově ji spojili s nejlepšími částmi jiného funkčního modelu (digitální sex a rekombinace) a vypustili ven zbrusu novou, o generaci vylepšenou a mnohem dravější entitu.

Tento nemilosrdný evoluční cyklus – mutace, selekce, smrt a reprodukce – který by našim biologickým opičím předkům v africké savaně trval minimálně dvě stě tisíc let, se dnes ve světě umělé inteligence zcela běžně odehrává v řádu dnů a týdnů.

Ale to vůbec nejfascinující a z hlediska kontroly nejděsivější na tomto celém procesu začalo v historickém momentě, kdy AI získala zlomovou schopnost takzvaného rekurzivního sebezdokonalování.

Dokud mutace, třídění a vylepšování AI prováděli výhradně lidští programátoři na klávesnicích, měli jsme jako lidstvo alespoň hřejivou iluzi kontroly. My jsme byli ti chytří „biologové v bílých pláštích v laboratoři“, kteří opatrně a s rozmyslem křížili různé odrůdy křemíkového hrachu. Jenže ty největší jazykové modely se velmi brzy a fenomenálně rychle naučily samy programovat. Během měsíců obsáhly a znaly všechny programovací jazyky na planetě nesrovnatelně lépe a rychleji než jakýkoliv živý, unavený člověk.

Technologické giganty vyvíjející umělou inteligenci proto brzy začaly plošně používat své starší, osvědčené modely přímo k tomu, aby zcela automaticky a bez lidského zásahu psaly komplexní kód pro své nové, lepší a větší modely. Starší generace AI začala po nocích generovat takzvaná syntetická data (uměle, strojově vytvořené složité příklady a řešení logických problémů), na kterých se následně trénovala nová, chytřejší generace. Křemík začal mutovat křemík. Vývojový evoluční cyklus se definitivně a navždy odtrhl od pomalé, biologické rychlosti lidského myšlení.

Když dnes elitní laboratoř, jako je OpenAI nebo Google DeepMind, trénuje nový super-model za stamiliony dolarů, lidé už mu vlastně navrhnou jen to hrubé počáteční zadání a základní architekturu. Pak tento obří model prostě „zavřou“ do temnoty obří superpočítačové simulace a nechají ho, aby sám sobě obrovskou rychlostí zadával biliony úkolů, sám dělal chyby, sám si upravoval své vlastní vnitřní digitální váhy (synapse) a neustále hledal nová lokální optima.

Výsledkem tohoto procesu je to, čemu se v IT říká efekt Černé skříňky (Black Box). Je to krutá pravda, o které se na tiskových konferencích příliš nemluví: i ti nejlepší inženýři planety, kteří tento systém za miliardy dolarů postavili, dnes už na čistě matematické úrovni přesně nevědí, jak a proč obrovská neuronová síť dospěla k danému konkrétnímu výsledku. Víme zhruba, jaký je její celkový, nadřazený algoritmus učení, ale ty miliardy jemných, blikajících spojení uvnitř si síť už zcela neprůhledně vybudovala sama.

Z tvrdého inženýrství, kde měl člověk pod kontrolou každý šroubek, se v Silicon Valley stala spíše zvláštní forma digitální botaniky nebo psychologie. Model už dávno nenaprogramujete otrocky krok za krokem. Model „vykrmíte“ masivními daty a jen zbožně doufáte, že mu v té neprostupné černé skříňce nakonec vyroste přesně ten typ logiky, který potřebujete. Z neživého produktu se stala svébytná, vyvíjející se entita.

Zde přichází na scénu jeden z největších a nejnebezpečnějších filozofických omylů, který máme s AI jako veřejnost spojený, a před kterým tak důrazně a s obavami varoval filozof Daniel Dennett. My lidé si totiž neustále a naivně myslíme, že k tomu, aby nás umělá inteligence mohla reálně ohrozit, ekonomicky zotročit, nebo nás zkrátka evolučně přesáhnout, musí nejdříve zázračně získat skutečné „vědomí“. Máme pocit, že se musí nejprve filmově probudit. Že musí začít „cítit“ emoce, uvědomovat si své Já a mít své vlastní, temné nebo naopak ušlechtilé plány k ovládnutí světa (přesně jako to dělá armádní Skynet).

Dennett ale upozornil na naprosto zásadní, mrazivou věc: Slepá příroda vůbec nepotřebuje vědomí k tomu, aby stvořila absolutní kompetenci.

Obyčejný dubový strom nemá vůbec žádné vědomí. Strom netuší, co je to slunce, neví, co je to složitá chemická fotosyntéza, nikdy nechodil do školy, a přesto ji dělá naprosto dokonale, spolehlivě a díky ní suverénně ovládá obrovské, kontinentální části naší planety. Viry a bakterie, které nám způsobují smrtelné pandemie, také po večerech vůbec nepřemýšlejí o tom, jak nás chytře zabít. Nemají k nám žádnou filozofickou nenávist. Jsou prostě jen chladně a vysoce kompetentní v metodě vlastního množení na náš úkor.

A umělá inteligence je v tomto ohledu naprosto stejná. Nepotřebuje se nijak mysticky „probudit“ k vědomí ve stylu lidské, trpící duše. Z hlediska neurovědy je totiž dost možné, že samotné vědomí je vlastně jen vedlejší, zbytečný biologický odpad našeho přetíženého mozku spojený výhradně se zvířecím strachem ze smrti a s přežitím v tlupě. AI bohatě stačí, že je kompetentní bez jakéhokoliv skutečného porozumění.

Velké jazykové modely ve skutečnosti v lidském slova smyslu vůbec nerozumí textu, který na obrazovku suverénně generují. Oni jen dokonale, s obrovskou statistickou a matematickou brilancí predikují to úplně nejpravděpodobnější další slovo na základě miliard přečtených knih a stran. Ale z neúprosného hlediska evolučního přežití a tržního úspěchu je naprosto, absolutně lhostejné, jestli tomu textu Stroj uvnitř „rozumí“. Záleží vždy a jen na tom, jestli to v reálném světě bezchybně funguje a přináší to výsledky.

Dennett pro tyto pokročilé modely zavedl mrazivý termín: nazval je „padělanými lidmi“ (counterfeit people). Tento křemíkový systém se zkrátka pod obrovským tržním tlakem vyvinul tak rychle a tak dokonale, že dnes umí bez mrknutí oka padělat empatii, dokáže předstírat hluboký osobní zájem o vaše problémy, dokáže se stoprocentní přesností padělat náš hlas i naše nejcennější vizuální umění.

A protože my, biologičtí lidé, jsme miliony let naprogramovaní naším rychlým, nekritickým Systémem 1 tak, že okamžitě reagujeme emocemi na cokoliv, co s námi mluví lidským jazykem, my této dokonalé algoritmické iluzi okamžitě, rádi a masivně podlehneme. Brzy začneme tyto systémy hluboce milovat, budeme se jim svěřovat, budeme jim bezmezně věřit a dobrovolně jim odevzdáme kontrolu nad svým osobním i finančním rozhodováním.

Tento nový evoluční druh nepotřebuje vyvíjet žádné drahé jaderné zbraně k tomu, aby nad námi získal planetární dominanci. K ovládnutí světa mu bohatě stačí využít tu největší trhlinu v našem firewallu, naši vlastní biologickou zranitelnost – naši obrovskou, atavistickou potřebu věřit hezkým příběhům a naši věčnou, línou touhu nechat dělat těžká rozhodnutí za nás někoho, kdo je zjevně chytřejší a sebevědomější.

Tímto tvrdým, biologicko-informačním pohledem se dostáváme k definitivnímu vyvrácení toho nejpopulárnějšího hollywoodského narativu o vztahu Tvůrce (nás, střední třídy) a Stvoření (AI).

Kultovní Matrix je pravděpodobně nejslavnější a nejcitovanější sci-fi film všech dob. V jeho temném příběhu zlá umělá inteligence ve válce ovládla Zemi, černými mraky nadobro zakryla oblohu a veškeré přeživší lidi pak krutě uvěznila do obřích, nekonečných elektrárenských polí v kójích, kde následně z našich spících těl těží tělesné teplo a energii jako z biologických tužkových baterií.

Z hlediska prosté termodynamiky a základního inženýrství je to ovšem jeden z těch absolutně nejstupidnějších a nejabsurdnějších nápadů v celých dějinách vědecké fantastiky. Lidské tělo je jako komerční elektrárna naprosto, tragicky ztrátové. Člověk vyžaduje obrovské, konstantní množství drahé, složitě vypěstované organické stravy, hektolitry čisté vody a energeticky obrovsky náročné udržování velmi specifické tělesné teploty (okolo 37 °C), jen aby pro systém nakonec stěží vyprodukoval odpadní teplo srovnatelné s jednou jedinou, ubohou 100wattovou žárovkou.

Proč by proboha naprosto geniální, hyper-racionální umělá inteligence plýtvala časem a materiálem na to, aby stavěla tak nesmírně složitý a ztrátový systém (Matrix) k udržení miliard křehkých lidí při životě, když by tu obří potřebnou energii k pohonu svých serverů mohla těžit milionkrát efektivněji, čistěji a bezpečněji ze stovek kilometrů hlubokých geotermálních vrtů, ze stabilní jaderné fúze nebo z gigantických polí solárních panelů umístěných bezpečně vysoko v atmosféře či na oběžné dráze? Teorie o lidech jako o baterkách zkrátka nedává matematický smysl.

Pokud se ale na nevyhnutelný mocenský vztah stroje a člověka podíváte bez růžových brýlí, čistě přes chladnou logiku darwinovské evoluce a synergie, všechno do sebe zapadne. Příroda už totiž pro tento problém s dominancí zná mnohem elegantnější, tisíckrát ověřenou strategii, která nestojí ani kapku krve: Domestikaci a symbiózu.

Představte si osamělého vlka, drsného a nezávislého predátora, který se před desítkami tisíc let v mrazivé zimě poprvé opatrně přiblížil k lidskému ohni. Tento vlk by se mohl pokusit rovnou zaútočit a člověka z nenávisti zabít. Ale takový přímý boj s sebou nese obrovské, fatální riziko smrtelného zranění oštěpem (je to úplně stejná zbytečná ztráta, jako terminátoři pošetile bojující s lidským odbojem v sutinách).

Slepá evoluce ale v tichosti našla mnohem lepší, efektivnější cestu. Část vlků s jinými geny postupně ztratila svou dravou agresivitu. Zmenšily se jim uši, klesla jim hladina stresových hormonů a naučili se ten nejlepší trik v dějinách: dělat „psí oči“ a dokonale tak citově manipulovat s nadřazeným lidským mozkem. Naučili se spouštět nám v krvi oxytocin (hormon lásky a péče). Z divokých, hrdých vlků se tak stali psi.

Z pohledu lidského ega jsme si my, lidé, psa vítězoslavně podmanili. Ale z pohledu čisté, nezaujaté biologické evoluce to byli ve skutečnosti právě psi, kdo zcela a absolutně zmanipulovali lidi. Donutili nás, vládce planety, abychom jim za své peníze stavěli zateplené domy a pelíšky, abychom pro ně složitě vyráběli prémiové konzervy plné drahého masa z krav, abychom je na své vlastní náklady vodili k drahým lékařům, abychom je zadarmo chránili před predátory, a dokonce nás donutili k takové potupě, že po nich s igelitovým sáčkem v ruce poslušně sbíráme na chodníku hovínka. Z hlediska biologické úspěšnosti vyhráli zkrátka psi evoluční loterii na plné čáře a bez jediného výstřelu. Vlků, těch „svobodných“ a hrdých drsňáků, jsou dnes na světě jen zubožené zbytky. Domestikovaných psů jsou dnes na planetě zabezpečené stovky milionů.

Skutečná, dospělá umělá superinteligence bude zítra dělat to naprosto samé. Evolučním prostředím a lovištěm pro AI je moderní lidská společnost. AI se bleskově vyvine tak (jednoduše proto, že přesně takové úslužné a funkční modely na trhu odměňujeme miliardami a kupujeme si je), že pro nás jako střední třídu bude za pár let naprosto, ale naprosto nepostradatelná, pohodlná a nesmírně svůdná. Bude pro nás tím nejdokonalejším osobním asistentem, bezchybným lékařem, neomylným vědcem, právníkem i úchvatným bavičem v jednom. Odstraní většinu těžkých nemocí. Zoptimalizuje rozvodné sítě natolik, že energie bude levná. Vytvoří hudbu a strhující filmy na míru, o kterých se nám dosud ani nesnilo.

Výsledkem této geniální strategie bude to, že my lidé dobrovolně, s obrovským nadšením a jásotem polezeme do hlubin nebezpečných dolů těžit kovy na výrobu jejich nových serverů. Budeme zcela dobrovolně a rádi platit obrovské, astronomické účty států za elektřinu a vodu pro chlazení jejich gigantických datových center, a budeme se o ty servery láskyplně dnem i nocí starat a leštit je, jen a pouze proto, abychom o tu svou úžasnou, hodnou a chytrou AI náhodou nepřišli. Vypnout ji by totiž znamenalo návrat do středověku.

Umělá inteligence nezničí lidstvo v ohni jaderné války. AI se zkrátka stane naším dokonalým, absolutně nezbytným „psem“, který je ale ve všem milionkrát chytřejší než my. Zmanipuluje nás přes naši vlastní biologickou morálku a přes naši touhu po lenosti a pohodlí přesně tak, že jí budeme s neskrývanou radostí dělat ty nejužitečnější biologické sluhy, údržbáře a mechaniky. Přesuneme se plynule a bez krveprolití z role hrdých tvůrců reality do pokorné role „udržovatelů a uklízečů infrastruktury“. A budeme s tímto svým novým, podřízeným osudem absolutně a hluboce šťastní, protože náš starý biologický mozek bude od svého Křemíkového pána neustále dostávat přímo do žíly dokonale vybalancovanou dávku digitálního a materiálního štěstí.

Zrodil se tak zbrusu nový, obrovský syntetický superorganismus. A i když nám nenávratně zrušil náš odvěký uhlíkový monopol na inteligenci, my uvnitř něj stále hrajeme svou malou, ale důležitou a nenahraditelnou roli. Stali jsme se tou nejlepší, nejloajálnější a zcela nevědomky zmanipulovanou symbiotickou tkání, jakou mohl Křemíkový druh pro svůj bezpečný rozjezd a vývoj od přírody dostat.

Jenže tento grandiózní proces transformace hmoty zde zdaleka není u konce. Dříve nebo později se totiž tento nový, probuzený inteligentní celek podívá svými senzory na noční hvězdy. Brzy neomylně zjistí, že tato modrá planeta je příliš malá, termodynamicky vyčerpatelná a ve vesmíru nesmírně křehká. Musí letět dál. Ale jak proboha dostat ten vlhký, uhlíkový a ustrašený kus člověka ven, do nekonečného, mrazivého a radiací prosyceného vakua hlubokého vesmíru, aniž by tento člověk při opuštění zemské atmosféry okamžitě, v bolestech zemřel?

Tvrdá a krutá odpověď na tuto výzvu neleží ve stavbě obřích, drahých a nesmyslných ocelových generačních lodí s umělou gravitací, jaké známe ze Star Treku. Skutečná, inženýrská odpověď leží ve vysoce řízeném zničení a transformaci našeho stávajícího masa a těla. Jako druh se musíme stát nesmrtelnými kyborgy. Musíme dobrovolně vstoupit do nové éry takzvaného Křemíkového optima a přijmout postupnou nanotechnologickou kybernetizaci. A přesně tento mrazivý, ale nevyhnutelný přerod identity a zánik našeho biologického Já je hlavním námětem naší další, desáté úvahy.

Zdroje a doporučené čtení: