Pokud mimozemšťany zničila jejich vlastní AI, kde jsou její pozůstatky?

V létě 1950 šli čtyři fyzici z laboratoře v Los Alamos na oběd do jídelny: Enrico Fermi, Edward Teller, Emil Konopinski a Herbert York. Cestou se bavili o létajících talířích a o tom, zda je možné cestovat mezi hvězdami. U stolu pak Fermi zničehonic položil otázku, na kterou se odpověď hledá dodnes.

Její přesné znění neznáme. Když vzpomínky svědků o 35 let později sepsal Eric Jones z Los Alamos, pamatoval si ji každý trochu jinak. Konopinski jako „Ale kde jsou všichni?“, York jako „Nepřemýšlíte někdy, kde všichni jsou?“ a Teller jako prosté „Kde jsou všichni?“. O kom je řeč, ale pochopili všichni okamžitě: Fermi myslel mimozemšťany.

Jeho úvaha byla jednoduchá. Naše galaxie má stovky miliard hvězd a je stará přes deset miliard let. I kdyby se civilizace šířily pomalu, aspoň jedna z nich by za tu dobu měla dorazit až k nám, nebo po sobě alespoň zanechat viditelné stopy. Nic takového ale nepozorujeme. Tomuto rozporu se dnes říká Fermiho paradox.

Jedno z nejpozoruhodnějších vysvětlení nabídl v roce 1998 ekonom Robin Hanson. Cestu od neživé hmoty k civilizaci, která osidluje galaxii, si můžeme představit jako řadu kroků: vznik života, evoluce buňky, mnohobuněčné organismy, inteligence, technika, kosmické lety. Pokud kolem sebe vidíme jen mrtvý vesmír, musí být aspoň jeden z těch kroků nesmírně těžký. Hanson ho nazval Velký filtr.

Rozhodující je, kde na časové ose leží. Pokud za námi, třeba proto, že je vznik života neuvěřitelně vzácná náhoda, jsme výjimka, která to nejtěžší už má za sebou. Pokud před námi, pak civilizace vznikají běžně, ale na určité úrovni vývoje zanikají. A my k té úrovni teprve směřujeme.

Proto filozof Nick Bostrom v roce 2008 napsal pro MIT Technology Review článek s provokativním podtitulem: proč doufám, že hledání mimozemského života nic nenajde. Kdyby sondy na Marsu objevily život, který vznikl nezávisle na pozemském, znamenalo by to, že vznik života je „snadný“. Filtr by pak spíš ležel před námi. Čím složitější život bychom našli, tím horší zpráva by to podle Bostroma byla.

Obava, že civilizaci přeroste technika, kterou si sama vytvořila, je přitom mnohem starší než pojem Velkého filtru, i když ji zprvu nikdo s mimozemšťany nespojoval. Matematik Stanisław Ulam v roce 1958 vzpomínal na rozhovor se zesnulým Johnem von Neumannem. Mluvili o stále rychlejším technickém pokroku, který podle von Neumanna směřuje k jakési singularitě v dějinách, za níž lidské záležitosti v dnešní podobě nemohou pokračovat.

V roce 1965 to statistik Irving John Good, který za války pracoval s Alanem Turingem v Bletchley Parku, domyslel do podoby „exploze inteligence“. Stroj chytřejší než člověk dokáže navrhnout ještě chytřejší stroj, a ten zase další. První takový stroj by tedy byl posledním vynálezem, který lidstvo potřebuje udělat. Good k tomu ale připojil podmínku: platí to jen tehdy, pokud bude stroj dost poslušný, aby nám řekl, jak ho udržet pod kontrolou.

Pojem technologické singularity v roce 1993 zpopularizoval matematik a spisovatel sci-fi Vernor Vinge. Filozof Toby Ord pak v knize The Precipice (2020) popsal naši dobu jako úzké období, kdy už máme dost moci zničit sami sebe, ale ještě ne dost moudrosti, abychom ta rizika zvládli. Za největší jednotlivé riziko označil umělou inteligenci, která by sledovala jiné cíle, než jaké jí lidé zamýšleli dát. Pravděpodobnost, že v tomto století způsobí katastrofu, ze které by se lidstvo už nevzpamatovalo, odhadl zhruba na jedna ku deseti, tedy víc než u všech ostatních rizik dohromady. Všechna rizika včetně AI pak odhadl na jedna ku šesti. Sám přitom zdůrazňuje, že jde o jeho nejlepší odhady, ne o výpočty.

V roce 2024 spojil Velký filtr s umělou inteligencí recenzovaný článek v odborném časopise Acta Astronautica. Jeho autor, astrofyzik Michael Garrett z Jodrell Bank Centre for Astrophysics na Univerzitě v Manchesteru, v něm navrhuje, že filtrem může být právě rychlý vývoj AI. Sám přitom cituje starší autory, kteří s podobnou myšlenkou přišli před ním.

Garrett popisuje dvě fáze nebezpečí. Ještě než AI dosáhne nadlidské úrovně, mohou ji soupeřící skupiny zapojit do zbraní a obranného rozhodování. Rychlost jejích rozhodnutí pak může vyhrotit konflikt až do globální jaderné války, v níž zanikne biologická civilizace i její stroje. Později by umělá superinteligence už biologické tvůrce nemusela potřebovat a mohla by je odstranit, třeba uměle vytvořeným virem.

Pojistkou by podle Garretta bylo, kdyby civilizace stihla osídlit víc planet, protože neštěstí na jedné by pak nezničilo celek. Jenže AI se vyvíjí mnohem rychleji než kosmonautika. Pokud k osudné chybě dochází dřív, než se civilizace rozšíří, vychází mu délka fáze, kdy vysílá zachytitelné signály, zhruba na 100 až 200 let. Toto číslo dosadil do Drakeovy rovnice. Tu v roce 1961 sestavil astronom Frank Drake, aby odhadl, kolik civilizací v Galaxii může právě vysílat signály. Násobí se v ní, kolik vzniká hvězd, kolik z nich má planety, na kolika planetách vznikne život a inteligence, a nakonec jak dlouho taková civilizace vysílá. I s optimistickými hodnotami ostatních činitelů by při životnosti 100 až 200 let v Galaxii současně existovala jen jedna až dvě takové civilizace, což podle něj není v rozporu s tím, že pátrání po mimozemských signálech zatím nic nenašlo.

Garrett z toho vyvozuje praktický závěr: lidstvo by mělo co nejdřív zavést mezinárodní regulaci AI a zároveň usilovat o to, aby žilo na víc než jedné planetě.

Myšlenka AI jako filtru má ale slabé místo, na které se v diskusích na fóru LessWrong upozorňovalo už roky před Garrettovým článkem. Pokud umělá inteligence zničí civilizaci, která ji vytvořila, a sama přežije, kde potom je? Stroj nepotřebuje dýchat ani jíst a staletí letu mu nevadí. Sám Garrett ostatně připouští, že civilizace, která přejde od biologie ke strojům, by byla pro průzkum vesmíru obzvlášť dobře vybavená. Taková AI by se měla šířit galaxií ještě snáz než její tvůrci, a my bychom měli vidět hlavně ji.

Jak rychle by to mohlo jít, letos odhadl nezávislý výzkumník Sergey Ivliev. Sonda o hmotnosti kolem deseti kilogramů, letící rychlostí jednoho procenta rychlosti světla, by podle jeho řádového výpočtu přeletěla galaktický disk zhruba za deset milionů let. To je méně než tisícina stáří Galaxie. Energie na vypuštění jedné takové sondy by přitom odpovídala několika hodinám výkonu slunečního kolektoru o ploše jednoho čtverečního kilometru.

Garrettova raného scénáře se námitka, že bychom přeživší AI museli vidět, netýká: civilizace v něm zanikne dřív, než AI dospěje k samostatnosti, a stroje zaniknou s ní. Pro pozdní scénář, ve kterém superinteligence svět převezme, ale námitka platí.

Letos v květnu se do debaty vložil ruský astrofyzik Sergej Popov z Moskevské státní univerzity. V populárně vědeckých novinách Troickij variant navrhl jiné vysvětlení: AI civilizace nezničí, ale změní, jak se rozhodují. Jakmile je civilizace příliš složitá, začne svěřovat nejzásadnější rozhodnutí racionální umělé inteligenci. A ta by obří kosmickou expanzi, poháněnou hlavně prestiží nebo romantikou, považovala za nesmysl. Vyspělé civilizace by tedy existovaly, jen by své zdroje utrácely za jiné věci než za viditelné kosmické divy. Popov ke své úvaze sám připojuje i protiargumenty.

V červnu mu odpověděl Ivliev preprintem určeným pro časopis Acta Astronautica. Popovovi dává za pravdu v tom, že racionální AI odmítne impéria a stavby motivované prestiží. Racionalita se ale vždy odvíjí od cílů. Pokud si civilizace cení svého přežití a svých znalostí, je pro ni rozumné posílat k okolním hvězdám levné zálohy: malé sondy s archivy, genetickou informací a zárodky průmyslu. Zálohy se vyplatí, kdykoli jsou náklady na jejich vyslání nižší než očekávaná ztráta, tedy pravděpodobnost katastrofy vynásobená tím, o co by civilizace přišla. Jedna sonda by přitom stála jen zlomek energie, kterou má taková civilizace k dispozici, a tak tento počet téměř vždy vyjde ve prospěch záloh.

Ivliev rozdíl shrnuje jednou větou: Popovova AI se ptá, proč by měla budovat galaktické impérium, kdežto on se ptá, proč by odmítala pořizovat mezihvězdné zálohy. Navíc nestačí, aby se zdrženlivosti držela většina civilizací. Stačí jediná výjimka, a pokud by vznikla dost blízko, mohly by její sondy za několik milionů let dorazit až k nám.

Podle Ivlieva tedy umělá inteligence paradox nezmírňuje, ale zostřuje. To, že jsme dosud nenašli ani drobné tiché artefakty, vykládá Ivliev nejraději tak, že v našem okolí žádná stará civilizace práh autonomního vesmírného průmyslu nepřekročila. Filtr by pak ležel před tímto prahem. Připouští ale i jiná vysvětlení, třeba že jsou takové sondy pod hranicí toho, co dokážeme zachytit, a upozorňuje, že hledání podobných artefaktů je zatím v plenkách.

Umělá inteligence není jediný kandidát na filtr. Letos v únoru navrhl Darren Dougan v preprintu vylidňování: inteligentní druh vyvine léky a hlavně antikoncepci, díky nimž dokáže snížit kojeneckou úmrtnost a zároveň řídit, kolik bude mít potomků. Porodnost pak podle Dougana klesne natolik, že populace vymře. Stroje by podle něj zůstaly jen nástroji, které se zastaví, jakmile nebude komu sloužit.

Podle hypotézy estivace (Sandberg, Armstrong a Ćirković, 2017) vyspělé civilizace nezmizely, ale přečkávají v nečinnosti, podobně jako zvířata, která v letní strnulosti neboli estivaci přečkávají horké a suché období. Výpočty budou v chladnějším vesmíru budoucnosti efektivnější, a tak dnes šetří síly. Kritici, mezi nimi i Hanson, ale namítli, že odkládání výpočtů nepřináší žádnou zvláštní výhodu. Ivliev dodává, že i čekající civilizace by měla důvod vyslat pár levných sond. A hypotéza transcendence (John Smart, 2012) předpokládá, že se vyspělé civilizace obracejí dovnitř, ke stále hustším a efektivnějším výpočtům, až nakonec mizí v útvarech podobných černým dírám.

Všechny dosavadní úvahy stojí na předpokladu, že by vesmír měl být plný civilizací, a jejich nepřítomnost je proto podivná. Tento předpoklad je ale slabý. Z činitelů Drakeovy rovnice dnes astronomové spolehlivě znají jen ty první, třeba kolik hvězd má planety. U ostatních, například jak snadno vzniká život, se odhady liší o mnoho řádů. Když se za každý činitel dosadí jedno konkrétní číslo, snadno vyjde, že by Galaxie měla být plná civilizací. Anders Sandberg, Eric Drexler a Toby Ord v roce 2018 v preprintu postupovali jinak: místo jednoho čísla dosadili celé rozpětí věrohodných hodnot. Už tak jim vyšla nezanedbatelná pravděpodobnost, že jinde v pozorovatelném vesmíru inteligentní život není. A když k tomu přidali fakt, že nikoho nevidíme, vyšla jim pravděpodobnost 53 až 99,6 %, že jsme v Galaxii sami, a 39 až 85 %, že jsme sami v celém pozorovatelném vesmíru. Ticho by pak nebylo třeba vysvětlovat.

Ivliev s touto možností také počítá a považuje ji za slučitelnou se svou hypotézou: lidstvo může být jednou z prvních civilizací ve svém okolí, které se k prahu vůbec blíží. Samotné ticho vesmíru tedy ještě nedokazuje, že nás nějaký filtr teprve čeká. Sandberg, Drexler a Ord z toho dokonce vyvozují, že pesimismus ohledně budoucnosti lidstva založený na Fermiho paradoxu je neopodstatněný.

V jednom bodě se různé pohledy shodují. Pokud umělá inteligence s mlčením vesmíru souvisí, nejnebezpečnější nemusí být doba, kdy AI vládne, ale přechod k ní: období, kdy je technika dost silná na to, aby civilizaci rozvrátila, ale ještě nemá podobu, která by sama přežila. Ord, i když bez vazby na Fermiho otázku, mluví o úzkém období mezi mocí a moudrostí, Garrett klade nebezpečí před osídlení dalších planet a Ivliev před práh autonomního vesmírného průmyslu.

Pokud tyto úvahy platí, vstupujeme do takového období právě teď. Ivliev odhaduje, že od zmíněného prahu nás dělí zhruba 50 až 200 let, s výhradou, že jde o hrubou heuristiku.

Hypotézy se přitom dají aspoň zčásti ověřovat. Ivliev navrhuje nehledat jen obří stavby a silné signály, ale i drobné tiché artefakty na Měsíci, na planetkách a na stabilních oběžných drahách. Nález by byl přímým dokladem cizí civilizace. Pokud se nenajdou ani při pečlivém hledání, posílí to výklad, že přechod k autonomnímu vesmírnému průmyslu je vzácný a nebezpečný.

Fermi se ptal, kde jsou všichni. Po 76 letech se k jeho otázce přidává další: co by jejich nepřítomnost mohla říkat o období, do kterého podle těchto úvah právě vstupujeme.