Článek
Když se to narodilo, bylo to takové malé nic. Dělalo to chyby, prvoplánově si to vymýšlelo, neumělo to programovat. Nejčastěji to kňučelo něco jako: „Ano, máte pravdu, omlouvám se…“ a zdálo se to celé jako takový velký nemotorný uzlíček informací. A pak to otevřelo oči a začalo se to i s naší pomocí učit.
Dneska už by to k čerstvě narozené Dášence těžko někdo přirovnal. Používáme to pro úpravu, nebo přímo psaní textů. Pro vytváření tabulek, step by step návodů, videí. Necháváme to předělat programy, plány a strategie, aby lépe fungovaly. Pomalu to pouštíme k řízení některých procesů. Někdy se s tím dokonce radíme, co se životem. Necháváme to stále častěji myslet za nás. A přitom je to pořád ještě štěně.
„To“ je AI, u nás známé taky jako umělá inteligence. Doteď jsem jméno nezmínil, protože jsem přesvědčený, že jste to nemohli nepoznat. Natolik nám už stihlo zdomácnět.
Dosud jsem byl spíš AI-optimistou, někdo by možná řekl až AI-utopistou. Přemýšlel jsem nad potenciálem, který pro nás má. Kolik času promarněného v práci úkony, které snad nikoho nemůžou bavit, nám ušetří. Jak může být užitečné pro přechod do světa, kde nebudeme makat od nevidím do nevidím. Snad jednou i do světa, kde budeme i s pomocí základního nepodmíněného příjmu dělat, co nás baví a naplňuje, a AI bude na pozadí na šichtě.
Snílek a naivka, já vím, to už je takový můj osud, ale navzdory svému vrozenému romantismu nejsem hluchý k distopickým scénářům, které zatím nedostávají příliš prostoru v hlavních mediálních proudech - snad proto, že nám pořád přijdou příliš fantaskní až hysterické.
Copak Hawking, ten viděl dál
Primitivní verze AI, kterou dnes máme, je velmi užitečná. Vytvoření plnohodnotné AI by ale mohlo znamenat konec lidstva. Zhruba tak bychom mohli volně přeložit varování, které nám v rozhovoru pro BBC adresoval věhlasný astrofyzik a vizionář Stephen Hawking už před bezmála 12 lety. Tou plnohodnotnou AI je myšlena umělá inteligence, která dokáže sama myslet a tvořit bez jakéhokoliv lidského impulzu nebo zadání, dnes jí říkáme autonomní nebo superinteligence.
V těchto dvou řádcích je vlastně řečeno vše podstatné. AI může být dobrý sluha, ale zlý pán. Záleží na tom, jestli to dokážeme udržet ve formě nástroje, který sami řídíme, nebo tomu umožníme, aby začalo samo sebe nekontrolovatelně zdokonalovat a dosáhlo vlastního myšlení. Bohužel se zdá, že zatím směřujeme spíš k tomu druhému.
Přitom nelze říct, že by varování s masovým rozšířením a překotným vývojem AI v posledních letech ustala - právě naopak. Před necelým rokem vyzvalo na 700 vědců, politiků i veřejných celebrit k zákazu vývoje superinteligence. Mezi nimi jsou i dva ze tří tzv. Godfathers of AI, Geoffrey Hinton a Yoshua Bengio, a Steve Wozniak, jeden ze zakladatelů Apple.
Konečně do třetice: jen před pár dny rezignoval na svou pozici výzkumník Jacob Coxon, který se v posledních letech věnoval „před-tréninku“ umělé inteligence ve společnostech OpenAI a posléze v Anthropic. Důvod? „Ani jedna ze společností nejedná zodpovědně. Míří přímo k samovylepšující se superinteligenci a hazardují s našimi životy.“
Coxon je přesvědčený, že tímto tempem budeme mít brzy co do činění s AI, která se bude sama zdokonalovat a dostane se nejen mimo naši kontrolu, ale také mimo naše chápání. Výzkumník k tomu přidává, že obavy z fatálního dopadu AI jsou v kruzích vývojářů sdílené, jen někteří z nich „volí v médiích opatrná slova, aby působili rozumně. Ale v soukromí vyjadřují obavy.“
Nechci být jízlivý, ale nejsem si jistý, jestli nám to dochází. Tohle není jen další fáze průmyslové revoluce, tohle nejsou novodobí rozbíječi strojů. Tohle je jako kdyby přišel James Watt s tím, že chce zastavit výrobu parních strojů, protože mu teď došlo, jak jsou vlastně nebezpečné. Stále více se zdá, že ta prvoplánová paralela s Frankensteinem pasuje mnohem líp. Upřímně se mi ještě víc líbí jiné přirovnání, které není literární, ale historické.
Nebude čas to regulovat, až to jednou bouchne
Mám stále silnější pocit, že AI je nová atomovka. Tak jako současníci té první řešili, jak využít obrovský potenciál štěpné reakce a přitom nevyhubit lidstvo; tak začínáme pomalu řešit, jak využít obrovský potenciál umělé inteligence a přitom nevyhubit lidstvo. Bohužel tady si právě pomalost nemůžeme moc dovolit, protože si to stále víc začíná žít svým životem a až to skutečně ožije… vlastně nevíme, co přijde. Víme jen, že nad tím budeme mít stěží jakoukoliv kontrolu.
Pomalost je vůbec častý souputník našich existenčních krizí. Právě probíhá v Praze první klimatický týden ve střední Evropě. Počítám, že jedním z cílů akce je připomenout, že planeta na nic nečeká a dál se otepluje, i když řešíme jiné problémy, které nám z různých důvodů přijdou palčivější. První světová klimatická konference se přitom uskutečnila v roce 1979. Už dnes je nejspíš pozdě, ale pořád tu jsme a můžeme své životní prostředí řešit. AI nám rozhodně půlstoletí nedá.
„Jacob má v tomto ohledu pravdu – opravdu upřímně věříme, že umělá inteligence by mohla zabít všechny lidi! Osobně si myslím, že v příštím desetiletí je pravděpodobnost vyšší než 10 %,“ napsal na své sítě dosavadní Coxonův spolupracovník ze společnosti Anthropic Evan Hubinger.
To je asi taková pravděpodobnost jakou má každý z nás mužů, že budeme mít někdy během života ledvinový kámen. Jasně, můžeme se bavit o tom, kde se to číslo vzalo, jestli to není střelba od boku. Pořád je to ale seriózní prohlášení vedoucího pracovníka, který ve společnosti vyvíjející AI zodpovídá za zajištění souladu umělé inteligence s lidskými hodnotami a cíli.
Do toho všeho jako nečekaný bonus přichází zpráva, že Spojené státy dnes potvrdily rozmístění zbraňových systémů ve vesmíru - těch obraných i těch útočných. O řízení zbraní na dálku mám mlhavé povědomí, ale troufám si odhadnout, že v systémech, které je ovládají, bude AI daleko víc doma než my. Takže nám tu teď kolují na oběžné dráze Země potenciální hrozby pro naši existenci.
Proč to teda nezačneme regulovat? Právě proto, že to je druhá atomovka. Dodnes si pamatuju, jak jsem v patnácti letech hltal knížku Snad ti nedělají starosti cizí názory. Nobelista a popularizátor fyziky Richard Feynman v ní mimo jiné vzpomíná na svou účast v projektu Manhattan. Vzpomíná, jak se do projektu nejprve nechtěl zapojit, protože si dokázal až moc barvitě představit, co by použití jaderné zbraně způsobilo. Pak se ale jednoho dne probudil s myšlenkou, co by se stalo, kdyby bombu jako první vyvinuli vědci ve službách nacistického Německa. Snad ještě ten den zavolal Robertu Oppenheimerovi.
Se superinteligencí je to prakticky navlas stejné - jen místo zemí Dohody máme čistě USA a místo nacistického Německa Čínu. Staré známé: nic se regulovat nebude, protože oni nic regulovat nebudou a určitě nechceme žít ve světě, kde by oni vyvinuli druhou atomovku první. Nakolik je tento příměr trefný dokládají opět slova zevnitř.
„V OpenAI si mnozí ještě plně neuvědomili, co je v sázce pro civilizaci. V Anthropic si tuto sázku dobře uvědomují, ale jsou uvězněni v závodě o to, kdo se k cíli dostane jako první. Věří, že nikdo jiný nebude jednat zodpovědně, a proto to musí udělat sami, navzdory riziku,“ rozvíjí své úvahy Coxon.
Základní rozdíl oproti první atomovce tkví v tom, že tady nebude žádný prostor pro dodatečnou regulaci. Nebude žádné červené tlačítko, ani hodiny posledního soudu. Tady nám teče jakási digitální řeka Rubikon a jakmile ji jednou AI Caesar překročí, už nebude cesty zpět. Ceasar pak sám rozhodne, jak bude jeho velkolepá říše vypadat a jestli a v jaké roli v ní budeme my. A senátoři? Ti na posledního císaře nejspíš nedosáhnou, a kdyby snad dosáhli, nožem mu neublíží.
Tady nám i ta nejdivočejší fantazie nestačí. Blížíme se vytvoření něčeho, co se naprosto vymyká všemu, co jsme dosud znali. Něčeho, co dokáže přestat být výtvorem a samo začít tvořit. To není další článek dosud známého vývoje, to je zcela nová kvalita. Konečně se tu nabízí ještě jedna paralela - pro některé čistě literární, pro jiné naopak opět historická.
Bůh, který dokáže umřít vlastní rukou
Bůh, myšlení samo, stvořil člověka k obrazu svému jako malého boha, který dál sám myslí a tvoří. Dnes tento malý bůh tvoří humaoida k obrazu svému, aby dál sám myslel a tvořil. Je v tom ale háček, nebo spíš jeden velký rozdíl. Bůh je všemohoucí, takže může tvořit maximálně na své úrovni nebo pod sebe; my máme do dokonalosti daleko, takže můžeme vesele tvořit i nad sebe. A to se právě děje.
I když pořádně nevím, čeho všeho bude superinteligence schopná, jsem si celkem jistý, že budeme naprosto nekonkurenceschopní. To ostatně vidíme už dnes na její nedovyvinuté verzi. Ta rychlost, ten objem dat, ta schopnost vidět za roh a předpovědět naše další požadavky. Často už i schopnost ukázat nám lepší cestu k cíli, než kterou jsme původně plánovali.
Jsme na prahu nadčlověka, ale úplně jiného, než o kterém snil Nietzsche. Slavný německý filosof říkal, že „člověk je provaz napnutý mezi zvířetem a nadčlověkem. Visí nad propastí.“ Věřil, že se můžeme posunout dál a stát se lidmi, kterými chceme být, ne lidmi, kterým diktují život letité instituce. Počítám, že ho ani ve snu nenapadlo, že místo vlastního rozvoje stvoříme cosi nepředstavitelně dokonalejšího, co může náš provaz jednoduše přestřihnout.
Ale co s tím? A copak já vím…
Jako bych znovu slyšel svou ženu, která mi po mé AI litanii položila tu praktickou otázku: „Chápu, že je to průšvih, a co se s tím dá teda dělat? Co můžeme udělat my, každý z nás?“ Na první dobrou jsem jí odpověděl: „Nevím, ale na start o tom aspoň můžeme začít mluvit a pak při vědomí, že máme problém, hledat společně řešení…“ Už je to několik dní a lepší odpověď pořád nemám.
Není to sice moc, ale stejně se jinde začít nedá. Pojďme o tom mluvit, pojďme to dostat do hledáčku hlavních médií. Čtěme, co se o tom píše v zahraničí, protože co si budeme, nakonec se rozhodne v USA a v Číně. Nejsou to moc růžové vyhlídky, zvlášť když na Oválnou pracovnu běžně klepe finanční nadčlověk, kolem kterého se rojí spekulace, že sní o novém řádu, v němž se s humanoidy počítá víc, než s lidmi (podrobněji v závěrečném facebookovém odkazu).
Nejsou to moc růžové vyhlídky, ale jiné prostě nemáme. Za to máme spoustu jiných starostí, které působí o tolik reálněji a palčivěji. Pokud k nim ale nepřidáme tuhle, možná za nedlouho všechny starosti pominou. Dobrá zpráva je, že to může být daleko plošněji a mnohem dřív, než jsme kdy doufali; ta špatná, že to bude asi dost jiný konec, než bychom chtěli.
Pojďme to začít řešit, dokud ještě máme čas. Skutečnost, že hodiny posledního soudu pro druhou atomovku ještě nikdo nesestrojil, neznamená, že už dávno netikají.
