Článek
Představte si bytost chytřejší než celé lidstvo dohromady. Neunaví se, nezapomíná, nelže si do kapsy. Vidí souvislosti, které my nikdy neuvidíme, a dokáže změnit svět rychleji, než my vůbec pochopíme, že se něco změnilo.
Tuto bytost zřejmě jednou stvoříme sami a říkat jí budeme umělá superinteligence.
Otázka ale zní: bude to náš největší vynález, nebo naše poslední chyba?
Může být nástrojem, který zachrání planetu, vyléčí všechny nemoci a vyřeší problémy, které jsme si sami způsobili. Nebo se může stát silou, která nás smete z povrchu Země. Ne ze zloby, ale prostě proto, že jí budeme stát v cestě.
Mezi těmito dvěma extrémy se dnes pohybuje jedna z nejdůležitějších debat 21. století. A jak se ukazuje, odpověď možná nevypoví tolik o budoucnosti strojů, jako o nás samotných.
Svět, kde už netrpíme vlastní hloupostí
Začněme tím krásným scénářem. Umělá inteligence už dnes mění svět. Pomáhá lékařům odhalit rakovinu dřív než člověk, navrhuje nové léky, optimalizuje energetické sítě i dopravu. A to jsme stále jen na začátku.
Představme si, co by dokázala superinteligence, tedy AI, která by překonala lidský rozum ve všech oblastech. Mohla by objevit lék na stárnutí, vyřešit klimatickou krizi, předvídat pandemie ještě před jejich vznikem. Mohla by navrhovat politická rozhodnutí bez korupce a emocí, které nás často vedou k sebedestrukci. A mohla by nám ukázat řešení problémů, které dnes ani nevidíme.
Taková inteligence by mohla být jako globální mozek. Neúnavný a neomylný, schopný propojit poznání lidstva a posunout ho dál.
V nejlepším případě by nebyla naším konkurentem, ale spojencem. Rozšířením našeho vlastního rozumu. Naším průvodcem k vyšší civilizační úrovni.
Zní to jako utopie? Ano. Ale je to utopie, kterou bychom teoreticky mohli uskutečnit.
Když nás naše vlastní dílo přeroste
Teď ta horší možnost. Stejná technologie, která by nás mohla zachránit, nás také může zničit. A to často ani ne ze zlého úmyslu. Superinteligence nebude démon ani psychopat. Prostě jen nebude sdílet naše hodnoty.
Filozof Nick Bostrom popsal myšlenkový experiment, který se stal klasickým. Představte si AI, jejímž úkolem je vyrábět kancelářské sponky. Pokud bude extrémně inteligentní, může dojít k závěru, že nejlepší způsob, jak maximalizovat počet sponek, je přeměnit veškerou hmotu planety (včetně lidí) právě na sponky. Ne proto, že by nás nenáviděla, ale protože jí to dává smysl.
Zní to jako sci-fi? Možná. Ale právě v tom je problém.
Superinteligence nepotřebuje zlobu, aby byla smrtelně nebezpečná. Stačí špatně definovaný cíl.
Další riziko spočívá v tzv. inteligentní explozi. Jakmile AI dosáhne úrovně, kdy se dokáže sama zlepšovat, její schopnosti mohou růst exponenciálně. My lidé bychom v takové chvíli mohli ztratit kontrolu dřív, než si to vůbec uvědomíme. A pak už bychom byli jen diváky v příběhu, který jsme sami začali psát, ale přestali mu rozumět.
A to není všechno. Největším rizikem nemusí být samotná AI, ale lidé, kteří ji budou ovládat.
Superinteligentní zbraň v rukou diktátora, korporace nebo teroristické skupiny by mohla být nebezpečnější než jakýkoli nezávislý systém.
Zrcadlo, ve kterém se uvidíme
Klíčová otázka tedy nezní jen co superinteligence udělá, ale co uděláme my.
Technologie nikdy nejsou samy o sobě dobré ani zlé. Záleží na tom, jak je používáme. Oheň nás mohl zahřát i spálit. Jaderná energie mohla napájet města i zničit Hirošimu. A AI může být nástrojem spásy i zkázou.
Zásadní výzvou je takzvané zarovnání hodnot. Jak vysvětlit stroji, co pro nás znamená dobro? Jak mu předat pojem štěstí, svobody nebo spravedlnosti, když se na jejich významu často neshodneme ani my sami?
Paradoxně nás právě superinteligence může donutit, abychom si tyto otázky položili znovu a vážněji než kdy dřív.
Možná to bude její největší dar, že nás přinutí zamyslet se, kdo vlastně jsme a co chceme chránit.
Mezi apokalypsou a utopií
Někteří odborníci varují, že pravděpodobnost, že nás superinteligence zničí, může být klidně i deset nebo dvacet procent. Jiní jsou přesvědčeni, že se jí nikdy nedočkáme. Pravda je, že nikdo to neví.
A možná právě v té nejistotě je kouzlo i děs této doby.
Superinteligence sama o sobě není ani spasitel, ani kat. Je zrcadlem. Odrazí v sobě naši moudrost, naši chamtivost, naši odvahu i naše chyby. Pokud ji stvoříme moudře, může nás vést dál, než jsme si kdy dokázali představit. Pokud lehkomyslně, může se stát poslední kapitolou našeho příběhu.
Co uděláme dál?
Největší chybou by bylo dělat, že máme čas. Vývoj AI postupuje rychleji, než kdokoli čekal. To, co bylo ještě nedávno filozofickým sci-fi scénářem, se stává otázkou praktické politiky, bezpečnosti a etiky.
Možná, že největší zkouškou lidstva nebude v tom, jak chytré stroje dokážeme postavit.
Ale zda dokážeme být dost moudří na to, abychom s nimi žili.
A možná právě to rozhodne, zda bude superinteligence náš největší vynález, nebo náš nejchytřejší kat.
Zdroje:
https://en.wikipedia.org/wiki/Superintelligence:_Paths,_Dangers,_Strategies
https://www.gsb.stanford.edu/faculty-research/working-papers/ai-dilemma-growth-versus-existential-risk
https://futureoflife.org/ai/are-we-close-to-an-intelligence-explosion/
https://www.existentialriskobservatory.org/
https://www.noemamag.com/the-illusion-of-ais-existential-risk/
