Článek
Umělá inteligence se během několika posledních let přesunula z uzavřených odborných laboratoří do každodenní zkušenosti široké veřejnosti. Generativní modely v současnosti dosahují schopnosti produkovat souvislé texty, výtvarná díla, hudební skladby či programový kód, tedy výstupy, které byly po staletí považovány za výhradní doménu lidské kreativity a myšlení. Vedle fascinace nově otevřenými technologickými možnostmi však tento vývoj otevírá hluboké etické i filozofické otázky. Jaké jsou důsledky stavu, kdy člověk staví systémy, jejichž vnitřnímu fungování sám plně nerozumí? Co tvoří podstatu lidské jedinečnosti v momentě, kdy kognitivní operace přestávají být výhradním privilegiem lidského vědomí? A jakým způsobem se proměňuje sama struktura společnosti, jestliže technologie nefunguje pouze jako pasivní nástroj, ale začíná aktivně organizovat lidskou práci, komunikaci i samotné vnímání reality? Pozoruhodným fenoménem zůstává skutečnost, že tyto debaty nevznikly z čistého nebe s nástupem digitální éry. Jejich teoretické a vyprávěcí základy byly zformulovány již v první polovině 20. století. V době před existencí moderních počítačových sítí, datových algoritmů a neurověd vytvořili čtyři klíčoví autoři — Howard Phillips Lovecraft, Jevgenij Zamjatin, Edward Morgan Forster a Karel Čapek — jedinečné modely napětí mezi člověkem a technologickými strukturami, které sám buduje. Význam těchto autorů nespočívá v doslovné předpovědi konkrétních vynálezů, nýbrž v přesné identifikaci civilizačních mechanismů ještě předtím, než získaly dnešní digitální podobu.
Tvorba H. P. Lovecrafta bývá v popkultuře často redukována na motivy „chapadnatelnatých“ monster a tajemných okultních knih. Hlubší pohled na jeho dílo však ukazuje, že hlavním objektem jeho zájmu není monstrum jako takové, ale krize lidského poznání — rozpad představy, podle níž je člověk středobodem a pánem reality. Tento motiv rezonuje zejména v povídce Volání Cthulhu (1926), kde hlavní hrdina nebojuje s vnějším nepřítelem, ale postupně sestavuje střepy poznání, které odhalují existenci prastarých entit a ukazují, že lidská historie je jen zanedbatelnou epizodou v nehostinném vesmíru. Děsivost entity Cthulhu nespočívá v její fyzické destruktivitě, ale v poznání, že běžné lidské kategorie jako dobro, zlo, smysl či pokrok jsou v širším kontextu zcela bezvýznamné. V této souvislosti vyvstává zásadní paralela se současnými debatami o pokročilých systémech umělé inteligence. Otázka samozřejmě nespočívá v možnosti vzniku vesmírných příšer, ale v samotné podstatě problému, nakolik je lidský rozum schopen chápat a kontrolovat systémy, které sám spustil. Moderní neuronové sítě operují nad obrovskými objemy dat a dospívají k výsledkům výpočetními postupy, které jsou pro samotné programátory neprůhledné a tvoří takzvanou „černou skříňku“. Lovecraftovský děs tak spočívá v konfrontaci s inteligencí či strukturou, která není primárně zlá, ale jejíž procesy jednoduše přesahují analytické možnosti lidského mozku. Povídka Barva z kosmu (1927) tento motiv dále rozvíjí skrze selhání samotných vědeckých metod. Objekt dopadající z vesmíru podléhá laboratorním rozborům, avšak věda selhává v jeho zařazení do známých chemických či biologických tabulek. Lovecraft tak demonstruje okamžik, kdy lidský jazyk a logika přestávají postačovat k popisu pozorované reality. Pokrok v oblasti autonomních výpočetních systémů nás dnes staví do podobné pozice pozorovatele, který je konfrontován se složitými výstupy, aniž by byl schopen plně dešifrovat logiku jejich vzniku. Lovecraft tudíž nefunguje jako prorok konkrétních technologií, ale jako myšlenkový průkopník limitů lidského poznání.
Jestliže Lovecraft nahlížel limity poznání v konfrontaci s vnějším vesmírem, Jevgenij Zamjatin ve svém románu My (1920) o několik let dříve přenesl tuto problematiku přímo do srdce lidské společnosti. Základní otázka zde nesměřuje k existenci neznámého světa, ale k riziku, že lidstvo zkonstruuje společenský systém založený na absolutní chladné racionalitě, v němž bude systematicky potlačena lidská individualita jakožto zdroj neefektivity a chybovosti. Zamjatin reagoval na rozvoj průmyslové výroby a mechanizace z počátku 20. století, které přinesly myšlenku, že principy továrního řízení lze aplikovat na celou lidskou společnost. Jednotný stát v románu My vystupuje jako matematicky odvozený stroj. Obyvatelé nemají jména a jsou označováni jen pomocí alfanumerických kódů. Architektura z průhledného skla, unifikovaný denní harmonogram a absence soukromí zde nejsou pouhými nástroji útlaku, ale přímým vyústěním filozofie, která považuje individuální svobodu za pošetilou chybu v systému. Podstatné je, že systém není udržován jen strachem; většina populace jej vnímá jako dokonalé dobro. Rozpad hlavní postavy, stavitele kosmické lodi, nastává až v momentě konfrontace s neovladatelnou emocí a iracionální složkou lidství. Tento příběh vykazuje přímé paralely se současným digitálním světem. Ačkoliv dnešní společnost nevypadá jako diktatura z průhledného skla, dochází v ní k systematickému převodu lidského jednání do podoby datových profilů. Algoritmy vyhledávačů, doporučovací systémy a sociální sítě neustále měří naše preference, reakce a nákupní chování. Podstatný rozdíl spočívá v mechanismu přijetí: moderní člověk se nepodřizuje systému pod hrozbou trestu, ale z důvodů pohodlí, rychlosti a personalizace. Zamjatin tak předznamenal klíčové dilema dneška, tedy nakolik jsme ochotni obětovat svou svobodu a soukromí ve prospěch algoritmické předvídatelnosti a komfortu. Na jeho vizi pak nadvázali Aldous Huxley a George Orwell, přičemž Huxleyův model kontroly společnosti skrze neustálou zábavu, konzum a okamžité uspokojování potřeb přesně vystihuje fungování dnešních digitálních platforem, které si udržují naši pozornost neustálým přísunem stimulů.
Zatímco Zamjatin, Orwell a Huxley řešili především politiku a moc, E. M. Forster se v ještě o další dekádu starší povídce Stroj se zastaví (1909) zaměřil na proměnu samotného lidského prožívání. Forster popsal situaci, v níž technologie přestává být pouhým pomocníkem a stává se hlavním životním prostředím člověka. Tento text vznikl desítky let před vznikem internetu a telekomunikačních sítí, přesto přesně definoval nahrazení přímé osobní zkušenosti jejím technologickým obrazem. Hlavní postava Vashti žije v izolované podzemní buňce řízené globálním systémem nazvaným Stroj, který zajišťuje veškeré biologické, komunikační i intelektuální potřeby. Přímý fyzický kontakt mezi lidmi je považován za zbytečný a nepřirozený, mezilidská komunikace probíhá výhradně prostřednictvím obrazovek a reproduktorů. Stroj byl původně vytvořen jako služebník lidstva, avšak během generací se lidé systému přizpůsobili do té míry, že ztratili schopnost existovat mimo něj. Konflikt v příběhu vyvstává z touhy jednoho z obyvatel vystoupit na povrch a zažít nezprostředkovanou realitu, což je pro zbytek společnosti pochopitelné jen jako šílenství, protože Stroj nabízí dokonalou simulaci světa, čímž činí samotný svět nadbytečným. Význam Forsterovy vize spočívá ve varování před momentem, kdy člověk začne technologickou náhradu reality považovat za realitu samotnou, což je téma, které silně rezonuje v době videohovorů, sociálních sítí a práce z domova. Druhý rozměr spočívá v odcizení: obyvatelé ve Forsterově povídce postupně zapomínají, že Stroj vytvořili lidé, a začínají k němu přistupovat s téměř náboženskou úctou, přestože jeho vnitřní mechanice nerozumí. Tento stav přesně odpovídá naší dnešní uživatelské závislosti na složitých algoritmech, jejichž vnitřní fungování běžný člověk nedokáže nahlédnout ani ovlivnit.
Pokud Lovecraft popsal limity poznání a Forster proměnu lidské zkušenosti, Karel Čapek v dramatu R.U.R.(1920) přenesl celé napětí do oblasti práce, lidské hodnoty a tvůrčí podstaty. Čapkovo zavedení slova „robot“ nebylo jen jazykovým výtvorem, ale vytvořením zcela nového pohledu na svět. Tradované vnímání hry jako pouhé vzpoury strojů opomíjí hlavní filozofický rozměr díla, kterým je analýza společnosti, jež přesouvá stále větší část svých činností na umělé výtvory a následně čelí otázce, v čem vlastně spočívá hodnota lidské existence, je-li produktivita plně převzata ne-lidskými entitami. Čapkova továrna na „Roboty“ nevyrábí plechové stroje v dnešním slova smyslu, ale živé, racionalizované bytosti zbavené nadbytečných vlastností, jako jsou cit, lidská nedokonalost či potřeba odpočinku. Hlavní problém nespočívá v samotném konfliktu s roboty, ale v procesu, který mu předchází: v momentě, kdy lidská společnost přijme ekonomický výkon a efektivitu jako jediné měřítko hodnoty. Přenesením práce na roboty lidstvo dosahuje materiálního dostatku, avšak současně přichází o činnost, skrze niž si historicky utvářelo svou identitu, schopnosti a vědomí smyslu. V současnosti získává Čapkova analýza nový rozměr s rozvojem generativní umělé inteligence. Během 20. století se automatizace týkala především manuální a mechanické práce, avšak nástup moderní AI poprvé zasahuje oblasti považované za výhradní doménu lidského intelektu a tvořivosti — psaní, tvorbu obrazů, překlad nebo programování. Čapkova klíčová otázka tak získává na mrazivé aktuálnosti; pokud dokáže umělý systém vyprodukovat strukturovaný text nebo umělecké dílo bez přítomnosti lidského vědomí a životní zkušenosti, jak se proměňuje hodnota samotného tvůrčího procesu? Čapek nepopisoval jen technický vynález, ale poukázal na riziko vyprázdnění pojmu lidské práce v momentě, kdy je výsledek plně oddělen od člověka.
Při celkovém pohledu na díla Lovecrafta, Zamjatina, Forstera a Čapka se ukazuje, že nejde o izolované sci-fi příběhy, ale o ucelenou myšlenkovou mapu jednoho dlouhého civilizačního procesu, kterým je proměna vztahu člověka k vlastním výtvorům a k hranicím vlastního rozumu. Lovecraft definoval krizi lidského poznání při konfrontaci se systémy přesahujícími naše chápání. Zamjatin ukázal riziko vytvoření dokonalého racionálního systému, v němž se lidská individualita stává jen chybou v programu. Forster popsal posun od prožívání skutečného světa k jeho technologickým náhradám a Čapek zformuloval otázku zbytečnosti lidské práce a kreativity ve světě autonomních výtvorů. Tito autoři nebyli proroky v doslovném smyslu, protože nepředpověděli konkrétní čipy, mikroskopy ani internetové protokoly. Jejich přínos spočívá v přesnosti, s níž dokázali pojmenovat napětí, které vzniká vždy, když složitost technologií překročí možnosti lidského chápání a adaptace. Na počátku 20. století byla impulsem k těmto úvahám masová industrializace a tovární výroba, ve 21. století nabývá tento proces podoby algoritmů, sběru dat a umělé inteligence. Ačkoliv se technologie proměnily, základní otázka zůstává stejná – zda a jak může člověk zachovat svou autonomii, kritický rozum a lidskost ve světě, jehož složitost začíná přesahovat naše vlastní schopnosti.
Tato myšlenková osudovost však nezůstala uzavřena v první polovině 20. století. Právě naopak, na uvedený základ navázala celá plejáda autorských vizí, které dané fenomény dále prohloubily a zasadily do nových kontextů. Otázka ztráty lidské autonomie pod tlakem totální sociální inženýrie a konzumerismu nachází přímé pokračování v díle Aldouse Huxleyho. Zatímco v románu Konec civilizace (1933) předpověděl společnost zotročenou farmakologickým otupěním, genetickou diverzifikací a diktátem štěstí, v utopickém protikladu Ostrov (1962) zkoumal křehkou možnost záchrany lidství skrze všímavost a ekologickou rovnováhu — tedy téma, jež staví přímou protiváhu k dnešnímu hektickému digitálnímu přetížení. Podobně i Karel Čapek ve svém dalším díle Válka s Mloky (1936) demonstroval, jak se lidstvo v touze po levné pracovní síle a nekonečném hospodářském růstu stává strůjcem vlastní zkázy, což přímo zrcadlí dnešní bezohledné vytěžování zdrojů a nekontrolovaný rozvoj systémů bez ohledu na civilizační rizikovost. Rozpad lidství skrze moderní média a tzv. „simulakra“ dále mistrně rozvedl Ray Bradbury. Jeho román 451 stupňů Fahrenheita (1953) předznamenal společnost zničující kultury rychlých stimulačních obrazovek a dobrovolného odmítnutí hlubokého myšlení. V o tři roky starším díle Marťanská kronika (1950) pak ukázal nebezpečí, s nímž si člověk přenáší své destruktivní spotřební návyky a technokratickou aroganci do nových světů, zatímco povídková sbírka Ilustrovaný muž (1951) demonstruje, jak se technologie stávají zrcadlem nejtemnějších lidských obsesí a odcizení. Na tyto motivy v moderním kabátě navazuje například Stephen King. V románu Ústav (2019) zkoumá chladnou instrumentalitu moci, která vnímá výjimečné lidské schopnosti pouze jako datový nebo vojenský zdroj bez ohledu na etiku (což má blízko k Čapkovým Robotům i Zamjatinově Jednotnému státu), zatímco jeho povídkový soubor Bazar zlých snů (2015) staví člověka do konfrontace s neznámými, přesahujícími sílami a technicko-nekrotickými fenomény dneška. Přechod od fikce k realitě sledování a totální kontroly v digitální éře zachycuje Marc Elsberg v románu Zero (2014), kde přímo tematizuje éru velkých dat („Big Data“), prediktivních algoritmů a ztráty soukromí pod pláštíkem personalizovaných služeb — čímž dokonale zhmotňuje obavy, jež Forster i Zamjatin načrtli v raných fázích 20. století. Všechny tyto literární i společenské fenomény naprosto přesně rámuje filozoficko-popularizační rozbor Jacka Horsleyho v díle Matrix: mýtus o naší době (2003). Horsley ukazuje, že popkulturní mýtus o simulované realitě a nadvládě strojů není pouhou moderní pohádkou, ale hlubokou archetypální neurózou naší doby — diagnózou světa, v němž se technologie stala novým náboženstvím, digitální simulace nahradila bytí a v němž lidstvo svádí základní zápas o to, zda zůstane tvůrcem, nebo se stane pouhým pasivním prvkem ve struktuře vlastního Matrixu.
Seznam zdrojů:
Arendt, Hannah. The Human Condition. Chicago: University of Chicago Press, 1958.
Bender, Emily M. et al. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? In Proceedings of FAccT '21, 2021.
Bostrom, Nick. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press, 2014.
Bradbury, Ray. 451 stupňů Fahrenheita. Praha: Městská knihovna v Praze, 1953.
Bradbury, Ray. Ilustrovaný muž. Praha: Baronet, 1951.
Bradbury, Ray. Marťanská kronika. Praha: Mladá fronta, 1950.
Carr, Nicholas. The Shallows: What the Internet Is Doing to Our Brains. New York: W. W. Norton & Company, 2010.
Čapek, Karel. R.U.R. (Rossum’s Universal Robots). Praha: Aventinum, 1920.
Čapek, Karel. Válka s Mloky. Praha: Fr. Borový, 1936.
Crawford, Kate. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press, 2021.
Ellul, Jacques. The Technological Society. New York: Vintage Books, 1954.
Elsberg, Marc. Zero - Sie wissen, was du tust. Blanvalet Verlag, 2014.
Forster, E. M. The Machine Stops. Oxford and Cambridge Review, 1909.
Han, Byung-Chul. In the Swarm: Digital Prospects. Cambridge: MIT Press, 2017.
Heidegger, Martin. The Question Concerning Technology. New York: Harper & Row, 1954.
Hofstadter, Douglas R. Gödel, Escher, Bach: An Eternal Golden Braid. New York: Basic Books, 1979.
Horsley, Jack. Matrix: mýtus o naší době. Praha: Dokořán, 2003.
Huxley, Aldous. Brave New World. London: Chatto & Windus, 1932.
Huxley, Aldous. Island. London: Chatto & Windus, 1962.
Chalmers, David J. The Conscious Mind: In Search of a Fundamental Theory. Oxford: Oxford University Press, 1996.
Jonas, Hans. The Imperative of Responsibility: In Search of an Ethics for the Technological Age. Chicago: University of Chicago Press, 1979.
King, Stephen. Bazar zlých snů. Praha: Pavel Dobrovský – BETA, 2015.
King, Stephen. Ústav. Praha: Pavel Dobrovský – BETA, 2019.
Lem, Stanisław. Summa technologiae. Kraków: Wydawnictwo Literackie, 1964.
Lovecraft, H. P. The Call of Cthulhu. Weird Tales, 1928.
Lovecraft, H. P. The Colour Out of Space. Amazing Stories, 1927.
McLuhan, Marshall. Understanding Media: The Extensions of Man. New York: McGraw-Hill, 1964.
Mitchell, Melanie. Artificial Intelligence: A Guide for Thinking Humans. New York: Farrar, Straus and Giroux, 2019.
Orwell, George. Nineteen Eighty-Four. London: Secker & Warburg, 1949.
Pariser, Eli. The Filter Bubble: What the Internet Is Hiding from You. New York: Penguin Press, 2011.
Postman, Neil. Amusing Ourselves to Death: Public Discourse in the Age of Show Business. New York: Viking Penguin, 1985.
Russell, Stuart. Human Compatible: Artificial Intelligence and the Problem of Control. New York: Viking, 2019.
Searle, John R. Minds, Brains, and Programs. Behavioral and Brain Sciences, 1980.
Tegmark, Max. Life 3.0: Being Human in the Age of Artificial Intelligence. New York: Knopf, 2017.
Turkle, Sherry. Alone Together: Why We Expect More from Technology and Less from Each Other. New York: Basic Books, 2011.
Wiener, Norbert. Cybernetics: Or Control and Communication in the Animal and the Machine. Cambridge: MIT Press, 1948.
Zamjatin, Jevgenij. My (Мы). New York: E. P. Dutton, 1921.
Zuboff, Shoshana. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. New York: PublicAffairs, 2019.
