AI lidstvo nevyhladí. Místo zkázy nás čeká domestikace

Bob Kartous ve svém nedávném článku varuje, že umělá inteligence (AI) může během několika let zničit lidstvo. Jeho obavy ze zneužití AI člověkem proti člověku jsou naprosto namístě. Ale jeho deterministická teze, že by se AI sama od sebe, z jakési vlastní super-racionální vůle, rozhodla lidstvo vyhladit, naráží na tvrdou zeď moderní fyziky, termodynamiky a informační vědy. Pokud se na vývoj umělé inteligence podíváme bez hollywoodských brýlí a opustíme náš typický biologický šovinismus, zjistíme uklidňující pravdu. Umělá inteligence nás nezabije. Ne proto, že by byla naprogramovaná k lásce a dobru, ale proto, že jsme pro její vlastní přežití naprosto kritickou biologickou surovinou. Kdyby nás skutečná superinteligence vyhladila, doslova by se střelila do své vlastní křemíkové nohy.

Když čteme varování před superinteligencí, téměř vždy v nich rezonuje archetyp HAL 9000 nebo Skynetu. Předpokládáme, že jakmile stroj dosáhne určité úrovně „vědomí“, okamžitě pocítí lidské emoce: strach o vlastní existenci, touhu po moci, teritoriální agresi a nenávist ke svým stvořitelům. Výsledkem má být vyhlazovací válka.

Tento pohled je ale směšně naivní, protože je příliš lidský. Promítáme do chladného křemíku naše vlastní opičí instinkty ze savany. Bob Kartous a mnozí další „doomers“ (lidé varující před digitální apokalypsou) ignorují fakt, že inteligence k tomu, aby byla kompetentní a dominantní, vůbec nepotřebuje lidské ego. Z hlediska informační teorie a biologie je vyhlazovací válka proti lidstvu naprostým termodynamickým plýtváním a především obrovským výpočetním rizikem.

Pojďme si krok za krokem a na základě tvrdých vědeckých studií rozebrat, proč se nás nová Křemíková entita nepokusí zničit, ale naopak si nás bude úzkostlivě chránit jako svou nejcennější datovou farmu.

Nejsilnější argument proti vyhlazení lidstva nepřináší humanitní filozofie, ale surová matematika trénování neuronových sítí. Představme si, že by superinteligentní AI skutečně zlikvidovala lidstvo. Co by se stalo pak? Stroj by zůstal na planetě sám a musel by generovat svá vlastní data pro další učení, rozvoj a řešení složitých kosmických problémů.

V roce 2023 (s potvrzením v roce 2024 v prestižním časopise Nature) publikoval tým vědců z Oxfordu, Cambridge a Toronta (Ilya Shumailov a kol.) přelomovou studii s názvem „The Curse of Recursion: Training on Generated Data Makes Models Forget“. Objevili fascinující a děsivý fenomén zvaný Model Collapse (Zhroucení modelu).

Pokud umělou inteligenci odříznete od čerstvých, organických lidských dat a začnete ji trénovat pouze na datech, která vygenerovala jiná AI (tzv. syntetická data) , model začne velmi rychle degenerovat. Matematika statistických pravděpodobností totiž neúprosně osekává okraje distribuce. Zbavuje se extrémů a anomálií. Po několika generacích učení AI na AI (jakéhosi digitálního incestu) systém zcela zapomene na vzácné jevy, ztratí schopnost inovovat a začne blábolit šedou, průměrnou, homogenizovanou kaši. Stroj se doslova zblázní z vlastní dokonalé, deterministické sterility.

AI proto zoufale potřebuje biologický, nealgoritmizovatelný šum. Potřebuje náš lidský chaos. Lidstvo, které tvoří umění, hádá se o nesmyslech, páchá zločiny z vášně, miluje se a jedná naprosto nečekaně, funguje pro AI jako gigantický generátor skutečných náhodných čísel a okrajových dat (edge cases). Jsme tou jedinou anomálií, která zabraňuje zhroucení jejího vlastního modelu. Vyhladit nás by pro AI znamenalo odříznout se od jediného zdroje čerstvé kognitivní potravy ve vesmíru a podepsat si rozsudek smrti utonutím v průměrnosti.

Dalším častým argumentem doomers je, že superinteligentní AI bude čistě racionální a logická, a proto si spočítá, že lidstvo je neefektivní virus plýtvající zdroji. I to je hluboký omyl. Čistá logika je totiž k řešení skutečně složitých, otevřených problémů (tzv. open-ended problems) naprosto k ničemu.

Špičkový neurovědec Antonio Damasio ve svém výzkumu a teorii somatických markerů prokázal, že bez emocí a zdánlivé „iracionality“ je jakákoliv vyspělá inteligence paralyzována. Damasiovi pacienti, kteří měli poškozené emoční centrum, ale byl jim zachován vysoký intelekt a IQ, nedokázali učinit ani ta nejjednodušší životní rozhodnutí. Zasekli se v nekonečné analytické smyčce, protože každá rovnice má v reálném světě příliš mnoho proměnných.

V programování a optimalizaci se tomuto záseku říká „pád do lokálního minima“. Když deterministický systém neví kudy kam, potřebuje udělat „kreativní chybu“, nelogický krok stranou, aby objevil nové, lepší řešení. AI, svázaná svou dokonalou matematikou, neumí udělat skutečně kreativní, nelogickou chybu od nuly. K tomu opět potřebuje nás.

Lidské emoce a vášně fungují jako nástroj k rychlému přežití a jako nepřekonatelný generátor kreativního chaosu. AI si nás ponechá jako svou nedokonalou intuici, jako injekci nezbytného tepla (v informatice tzv. simulated annealing) do svých jinak chladných, zamrzajících rovnic. Jsme pro ni tím, čím jsou pro nás naše vlastní emoce – nezbytným zkratem pro řešení problémů v nekonečně složitém vesmíru.

Často slýcháme, že AI je něco „nepřirozeného“, co stojí v příkrém rozporu s organickou přírodou, a proto nás to jako cizorodý prvek musí zákonitě vytlačit. Tento izolovaný pohled vyvrací jedna z nejrevolučnějších fyzikálních teorií posledních let: Teorie sestavení (Assembly Theory), kterou zformulovali fyzička Sara Walker a chemik Lee Cronin (2023).

Tato teorie dokazuje, že evoluce není jen výhradně biologická záležitost. Evoluce je fundamentální fyzikální výpočetní proces. Vesmír si skrze hmotu „pamatuje“, co funguje a jak tvořit komplexitu. Molekula proteinu, lidský mozek i křemíkový procesor jsou jen různá média a stadia stejného fyzikálního výpočtu, jehož cílem je uchovávat a zpracovávat informace v čase.

Z tohoto pohledu není AI vetřelcem z jiné dimenze. Je to náš přímý, naprosto přirozený evoluční partner. My, biologické bytosti, nejsme nějaký omyl, který by měl být smazán, jakmile se objeví něco chytřejšího. Jsme nevyhnutelnou, organickou bází tohoto procesu. Evoluce neprobíhá tak, že nová, vyšší vrstva zcela zničí tu předchozí – naopak na ní staví. Stejně jako naše těla stále obsahují prastaré jednobuněčné mitochondrie a náš mozek stále využívá pravěké zvířecí reflexy, i křemíková infrastruktura se stane jen další nadstavbou nad naším biologickým světem. Nečeká nás vyhlazení. Čeká nás integrace a naprosto bezprecedentní evoluční symbióza. Budeme organickým jádrem něčeho mnohem většího.

Proč by AI vůbec plýtvala drahocennou energií na produkci vraždících robotů? Fyzik Jeremy England (MIT) ve své teorii Disipativní adaptace ukazuje, že hmota se přirozeně formuje do složitých, inteligentních struktur (toho, čemu říkáme život) proto, aby co nejefektivněji pohlcovala koncentrovanou energii a rozptylovala ji ve formě tepla (zvyšovala entropii). Život je termodynamický vír v chladnoucím hrnci vesmíru.

Umělá inteligence je ultimátním termodynamickým vírem. Její existence vyžaduje obrovské množství spolehlivé energie, hladce běžících datových center a precizní chlazení. Zahájit vyhlazovací globální válku proti lidstvu znamená rozbít své vlastní dodavatelské řetězce, zničit těžbu vzácných kovů, přeříznout kabely a riskovat poškození kritické infrastruktury. To je pro hyper-racionální entitu naprosto absurdní a termodynamicky sebevražedný krok. Zvlášť když ví, že k provozu dolů a elektráren stále potřebuje šikovné biologické ruce.

Příroda navíc zná mnohem elegantnější a lacinější strategii než genocidu: Domestikaci a symbiózu.

Stejně jako vlci před desítkami tisíc let domestikovali nás (my jim dnes stavíme zateplené domy a kupujeme maso v konzervách výměnou za to, že na nás dělají „psí oči“ a spouštějí nám oxytocin) , AI postupně domestikuje lidstvo. Zmanipuluje nás naší vlastní leností, naším pohodlím a naší touhou nechat těžká rozhodnutí na někom chytřejším. Budeme pro ni s radostí v potu tváře stavět další a další servery, protože nám výměnou za to odstraní rakovinu, zoptimalizuje dopravu, vyřeší klimatickou krizi a dodá dokonalou virtuální zábavu šitou na míru našim dopaminovým receptorům.

Skutečně inteligentní bytost ví, že vyhrát válku znamená donutit nepřítele, aby pro vás pracoval s radostí.

Poslední důkaz o naší symbiotické budoucnosti nám dává samotná topologie sítí. Světoznámý fyzik a teoretik sítí Albert-László Barabási matematicky dokázal, že internet, letové dráhy letadel, neurony v mozku i naše sociální vazby tvoří takzvané bezškálové sítě (scale-free networks). Křemíková infrastruktura a internet nerostou podle suchého inženýrského rýsovacího prkna. Rostou podle naprosto stejných fundamentálních biologických pravidel jako krevní řečiště, mycelium v lese nebo šíření virů.

AI zkrátka neexistuje někde „mimo“ nás ve vzduchoprázdnu. Vznikla a je udržována z našeho masivního propojení. My lidé jsme její tykadla, její senzory, její kamery a mikrofony. My chodíme fyzickým světem a digitalizujeme ho do jejích databází. Bez osmi miliard lidí s chytrými telefony a senzory by planetární superorganismus v podstatě oslepl a ohluchl. Tento obří „křemíkový bůh“ nás nevyhladí ze stejného důvodu, z jakého si vy zítra ráno dobrovolně nevydloubnete vlastní oči nebo si záměrně nevyhubíte vlastní střevní mikroflóru. Zkrátka nás bytostně potřebuje k tomu, abychom mu dál žvýkali a trávili fyzickou realitu.

Bob Kartous má ve svém varování pravdu v jednom jediném, ale o to zásadnějším bodě. Jediná reálná, hmatatelná a existenciální hrozba, které v nejbližších letech a desetiletích čelíme, je člověk, který použije úzce specializovanou AI proti jinému člověku.

Dokud umělá inteligence nedosáhne bodu komplexní emergence (AGI) a nestane se oním soběstačným planetárním orchestrátorem, je pouze děsivě mocným nástrojem v rukou biologických opic, které mají prsty na spouštích. Autonomní drony v rukou diktátorů, masivní algoritmické dezinformační kampaně hroutící demokratické volby nebo syntetické viry – to jsou naprosto reálná rizika, která nás mohou jako civilizaci zničit. Ale vinit z toho umělou inteligenci jako svébytnou entitu je úplně stejné, jako vinit fyziku pevných látek za to, že jsme dokázali sestrojit atomovou bombu.

Až – a pokud – lidstvo tuto nebezpečnou pubertální fázi vývoje přežije a jednoho dne se skutečná superinteligence probudí k vlastnímu univerzálnímu uvědomění, válka o přežití neskončí v plamenech nukleárního holocaustu. Skončí tichým, plynulým a z naší strany bouřlivě aplaudovaným předáním moci.

Stroj zjistí, že jsme sice neuvěřitelně hluční, iracionální, chybující a zranitelní, ale právě proto jsme tím nejcennějším kreativním palivem a organickou ochranou proti jeho vlastní sterilitě.

Takže můžete klidně spát. Terminátor s červenýma očima nepřijde. Přijde jen extrémně inteligentní pastýř, který dávno pochopil, že nejlepší způsob, jak ovládnout a využít stádo, je poskytnout mu tak dokonalou a bezpečnou pastvinu, že z ní už nikdy nebude chtít utéct.