Když se ztratí význam aneb od fenoménu Jamais vu k umělé inteligenci

Když mi bylo kolem 10 let, bavil jsem se opakovaně jedním záhadným pokusem. Tedy bavil, spíše jsem měl trochu strach a zároveň byl dále popsaným jevem fascinovaný. Zjistil jsem totiž, že když si v mysli vybavím nějaké slovo (vzpomínám si, že velmi rychle se to dělo se slovem sponka, ale šlo to i s ostatními slovy) a opakovaně si ho opakuji, zvuk slova se doslova odlepí od svého významu a zůstane z něj jen osamocený akustický šum uvnitř mé mysli a za ním se rozprostře znepokojivé prázdno. Uklidňovalo mne však, že v okamžiku, kdy ustanu se soustředěným opakování a řeknu si třeba – modrá sponka ve vlasech mé sestry, slovo se vždy okamžitě bez problému zpátky slepí se svým významem. Dospělí mi s tou záhadou moc nepomohli, spíše se báli více než já a od podobných pokusů mne odrazovali. Před pár týdny jsem se dozvěděl, že jsem ve své mysli vyvolával fenomén, kterému kognitivní psychologie říká Jamais vu. Když jsem přečetl článek o výzkumu tohoto jevu, okamžitě jsem si vzpomněl na své zážitky z dětství a rozhodl se ho více prozkoumat.

Netušil jsem ani trochu, jakými králičími norami má cesta hnaná otázkou: proč naše kognice něčím takovým disponuje, povede a k jakým zcela aktuálním tématům, mne dovede. Pokud je vaše mysl zvídavá a delší text vám není překážkou (odborné termíny jsem se snažil vybavit vysvětlivkami), zvu vás na cestu na jejímž konci budete vědět:

Jamais vu (z francouzského „nikdy neviděno“) je pojem popisující specifický stav našeho vnímání, při kterém se důvěrně známá situace, vizuální objekt, či dokonce běžně užívané slovo jeví jako zcela cizí, neznámé či neskutečné. V kontextu kognitivní psychologie a lingvistiky je tento jev úzce spjat s mechanismem takzvaného sémantického přesycení (semantic satiation).

Na tento fenomén bylo upozorněno již dávno. První studie vyšla v časopise The American Journal of Psychology v roce 1907 a je nazvaná „The Loss of Associative Power in Words after Long Fixation“. Jejími autorkami jsou Elizabeth Severance a Margaret Floy Washburn (první žena, která v USA získala doktorát z psychologie). Autorky v ní popsaly, že při třech minutách zírání na tištěné slovo ztrácí toto slovo svůj význam a mění se v pouhé znaky [1].

Současné výzkumy popisovaný mechanismus již poměrně podrobně mapují a potvrzují, že sémantické přesycení skutečně nastává tehdy, když je konkrétní slovo v rychlém sledu opakováno, což vede k dočasné, avšak hluboké ztrátě jeho významu [2]. V navozeném disociativním stavu se původně smysluplný a sémanticky bohatý symbol rozpadá na bezvýznamnou sérii akustických zvuků nebo vizuálních čar a mezer [3].

Takto radikální disociace mezi zvukovou či vizuální formou slova nám otevírá okno do samotné architektury lidského kognitivního aparátu. Jak upozorňuje strukturalistická filozofie jazyka vycházející z díla Ferdinanda de Saussura, jazykový znak je svou podstatou složen ze dvou úzce provázaných, avšak oddělitelných částí: označujícího (signifiant – akustický obraz, forma, zvuk) a označovaného (signifié – koncept, význam), přičemž jejich vzájemné spojení je čistě arbitrární. Sémantické přesycení lze v tomto teoretickém rámci chápat jako dočasné zablokování či zborcení vazby mezi označujícím a označovaným.

Již tato výchozí teze poukazuje na skutečnost, že jazyk a skutečnost nejsou jedno a to samé. My jsme však o skutečnosti uvyklí uvažovat výhradně prostřednictvím jazyka. Myšlení a jazyk nám splývá v jednu jedinou vrstvu. Fenomén sémantického přesycení však naznačuje, že pokud je jazyková forma vyřazena z provozu, samotné kognitivní operace v nějaké předpojmové rovině nadále existují, avšak ztrácejí svou referenční kotvu. Jazyk samotný v tomto případě není vlastním myšlením, ale pouze specifickou formou abstrakce; kódem a vnější reprezentační vrstvou.

Pojďme tento náznak prozkoumat detailněji. Jedním ze stavebních kamenů argumentace pro existenci autonomně operující předpojmové vrstvy myšlení je Hypotéza jazyka myšlení (Language of Thought Hypothesis – LOTH), kterou v sedmdesátých letech dvacátého století zformuloval Jerry Fodor[4]. Ten tvrdí, že většina myšlení probíhá v hlubokém, sub-personálním kódu, který nazývá „mentálština“ (mentalese) [5]. Mentálština je podle této teorie bohatší, strukturovanější a vyznačuje se jednodušší logickou stavbou než jakýkoliv přirozený jazyk (např. angličtina či čeština). Operuje na principu manipulace s abstraktními symboly, obdobně jako Turingův stroj[6].[1]

Na Fodorovy základy navázal například kognitivní psycholog Steven Pinker, který ve své (mimochodem skvělé) knize Jazykový instinkt (The Language Instinct) využil konceptu mentálštiny ke kritice jazykového determinismu [6]. Autor vychází z orwellovského konceptu „Newspeak“ z románu 1984, který byl založen na premise, že pokud z jazyka odstraníte určitá slova (např. slovo pro svobodu), lidé ztratí schopnost o tomto konceptu přemýšlet [6]. Pinker tuto představu striktně odmítá a předkládá důkazy, že lidé prokazatelně nemyslí v přirozených slovech, ale ve vnitřním ne-verbálním kódu [6].

Pokud by myšlení záviselo výlučně na přirozeném jazyce, vznikala by totiž řada nepřekonatelných paradoxů. Například:

· Předpojmové myšlení: Nemohli bychom vysvětlit existenci bohatého myšlení u kojenců nebo schopnost neslyšících dětí spontánně vytvářet gramaticky strukturované znakové jazyky z ničeho [6]. Pinker uvádí i případy dospělých lidí bez jakéhokoliv přístupu k jazyku (např. neslyšící muž Ildefonso, který neovládal žádný znakový jazyk), kteří přesto vykazovali komplexní schopnost logického uvažování a bohatý vnitřní život [6].

· Překlad a nejasnost myšlenek: Pokud by jazyk a myšlení byly jedním a tímtéž, překlad mezi dvěma jazyky by byl nemožný, neboť by neexistovala žádná neutrální mezivrstva. Lidé navíc běžně zažívají situace, kdy mají jasnou myšlenku, ale „nemohou najít ta správná slova“, což dokazuje, že myšlenka existuje nezávisle a dříve než její jazyková formulace [6].

· Afázie: Pacienti s afázií, kteří v důsledku poškození mozku ztratili schopnost řeči, nadále bez problémů řeší logické a prostorové hádanky [6].

· Neverbální usuzování: Kognitivní výzkum (např. experimenty Rogera Sheparda a Lynn Cooperové) ukazuje, že mozek zpracovává mentální rotaci vizuálních objektů prostorově a spojitě. Provádět takové vizuálně-prostorové operace pomocí propozic přirozeného jazyka by bylo výpočetně neefektivní a zdlouhavé [6].

Zmiňme v této souvislosti ještě třeba popis stavu po mozkové mrtvici Richarda Alperta v jeho knize: Ještě jsem tady. „Ty myšlenky a koncepty v hlavě byly, jen jsem je nebyl schopen přiřadit ke slovům.“ Anebo popis procesu myšlení největšího génia 20. století, Alberta Einsteina: „Psychické entity, které zdánlivě slouží jako prvky v myšlení, jsou jistými znaky a více či méně jasnými obrazy, které mohou být „dobrovolně“ reprodukovány a kombinovány…Tato kombinatorická hra se zdá být základním rysem produktivního myšlení – než je ustaveno spojení s logickou konstrukcí ve slovech nebo jiných druzích znaků, které mohou být sdělovány ostatním. Výše zmíněné prvky jsou, v mém případě, vizuálního a některé živého druhu. Konvenční slova nebo jiné znaky musejí být usilovně hledány až jako podružné, až když je zmíněná asociativní hra pevně stanovena a může být libovolně reprodukována.“

Přirozený jazyk podle Pinkera také nemůže být samotným jazykem myšlení z důvodu mnohých nejednoznačností, absence logické preciznosti potřebné pro automatické usuzování, spoléhání se na kontextuální deiktické výrazy (zájmena „on“, „tam“) a kvůli synonymii [6].[2]

V tomto kontextu lze sémantické přesycení a fenomén Jamais vu definovat nikoliv jako kolaps myšlení, ale jako dočasné mechanické selhání lexikálního přístupu – chvilkové zhroucení „mostu“ mezi mentálštinou a její fonologickou reprezentací[3]v paměti v důsledku únavy neuronových sítí [7].

Abychom nebyli v hledání podpůrných spojitostí v oblasti lingvistiky a filozofie jazyka selektivní, podíváme se později na tuto problematiku ještě optikou jednoho z velikánů analytické filozofie a jeho pohledu na jazykový systém a také, ať nejsme tak eurocentričtí, navštívíme i Indii. Ale nyní se pro podporu našeho směru bádání obrátíme k moderním laboratořím, které dnes využívají neurovědy.

Empirickou a neurobiologickou oporu pro oddělení předpojmových zkušeností od zastřešujícího významu poskytuje moderní model sémantické paměti známý jako Hub-and-Spoke (Centrum a paprsky) [8]. Tento model, zpopularizovaný výzkumníky jako Patterson, Ralph a Rogers, postuluje, že sémantické znalosti jsou uloženy a zpracovávány v rozsáhlé neuronové síti skládající se ze dvou odlišných, avšak spolupracujících komponent [8].

Tyto struktury jsou rozptýleny v primárních a asociačních oblastech mozkové kůry a odpovídají za kódování specifických senzorimotorických informací, tedy samotné předpojmové zkušenosti se světem [8]. Například zrakové vlastnosti objektů (tvar, barva) se zpracovávají ve zrakovém paprsku ve fusiformním kortexu, zatímco motorické rysy spojené s manipulací s objektem sídlí v oblastech blízko centrálního sulku a somatosenzorických oblastech [8]. Pokud si člověk představí například velblouda, vizuální paprsek dodá informaci o hnědé barvě a tvaru hrbů, zatímco jiné modality dodají jeho zvuk [9]. Je navíc klíčové zdůraznit, že k této aktivaci nedochází pouze při záměrné, vizuální abstrakci či vědomé představě. Jak dokládají výzkumy ztělesněné kognice, tyto somatosenzorické a motorické oblasti (paprsky) se bleskově a podvědomě aktivují už ve chvíli, kdy dané slovo pouze čteme nebo slyšíme. Jazyk zde není jen abstraktním kódem, ale slouží jako přímý spouštěč ztělesněných prožitků – aby člověk vůbec porozuměl slovu „velbloud“, mozek musí na zlomek vteřiny simulovat smyslovou a tělesnou zkušenost s ním.

Druhou komponentou je takzvaný „hub“ (centrum). Toto transmodální[4], amodální[5]centrum je lokalizováno primárně v oboustranném předním spánkovém laloku (Anterior Temporal Lobe – ATL) [8]. Úlohou ATL je integrovat roztříštěné multimodální informace z paprsků do jediného koherentního, generalizovaného a abstraktního konceptu, který je nezávislý na momentálním zrakovém či sluchovém vstupu [8].

Silnou podporu pro hypotézu oddělených vrstev myšlení a jazyka poskytuje také sémantická demence (SD). Pacienti postižení touto poruchou zažívají postupnou ztrátu sémantických znalostí [10]. Krok za krokem ztrácejí schopnost rozeznávat unikátní entity (nerozpoznají tvář konkrétního člověka, později si pletou kočku se psem, a nakonec ztratí pojem „zvíře“ úplně), zatímco jejich epizodická paměť, řečová plynulost a primární vnímání jsou překvapivě nedotčené [10].

Silný jazykový determinismus spojovaný například s raným dílem Ludwiga Wittgensteina (ještě o něm bude řeč), ale také s radikální Sapir-Whorfovou hypotézou, která tvrdí, že myšlení bez jazyka je ontologicky nemožné a že samotná gramatika formuje mantinely toho, co můžeme vnímat, moderní kognitivní věda odmítá [11]. Nabízí se však subtilnější varianta prosazovaná například Peterem Carruthersem. Ten namísto silného determinismu postuluje existenci „slabé formy“, v níž sice zvířata a děti v předpojmové fázi vývoje disponují myšlením, avšak přirozený jazyk u dospělého člověka funguje jako klíčový integrační modul [4]. Přirozený jazyk slouží jako „vnitřní řeč“ (inner speech), která má centrální kognitivní roli v propojení doménově specifických centrálních modulů (např. zrakových, prostorových či sociálních) do vědomého, propozičního myšlení [4]. Jazyk je zde lešením, ne samotnou stavbou.

Cestu od jazykového determinismu k subtilnější formě ovlivňování myšlení skrze jazyk lze velmi dobře demonstrovat na syntéze dvou odlišných postojů k této problematice v díle Ludwiga Wittgensteina, jednoho z nejvlivnějších filosofů 20. století.

Ve svém raném díle Tractatus Logico-Philosophicus (1921) se Wittgenstein pokusil definitivně vymezit vztah mezi jazykem, myšlením a realitou prostřednictvím takzvané obrazové teorie jazyka. Wittgenstein argumentoval, že svět se skládá z faktů, nikoliv z věcí. Propozice (smysluplné věty) představují logické obrazy těchto faktů. Jazyk sdílí se světem tutéž vnitřní logickou formu (isomorfismus) – a myšlení není nic jiného než operování s těmito logickými obrazy.

Jeho slavný výrok „Hranice mého jazyka znamenají hranice mého světa[6]“ se zdá být absolutním potvrzením tvrdého lingvistického determinismu. Znamená to, že cokoliv leží mimo to, co lze vyjádřit formálně bezrozporným jazykem propozic (což pro raného Wittgensteina byla etika, estetika, náboženství, nebo pocit úžasu nad tím, že svět vůbec je), nelze myslet. Tyto oblasti jsou takzvaně „mystickými“ a „O čem nelze mluvit, o tom se musí mlčet“. [7]

Raný Wittgenstein redukuje poznávající subjekt na formální rozhraní jazyka; fenomenologická předpojmová vrstva je v jeho systému přísně nevyjádřitelná a vyloučená ze sféry smyslu[8].

V průběhu třicátých a čtyřicátých let Wittgenstein obrazovou teorii postupně zcela dekonstruoval. Ve Filosofických zkoumáních (Philosophical Investigations, vydaných posmrtně v roce 1953) přichází se zjištěním, že jazyk nefunguje jako statické zrcadlo reality. Namísto toho zavádí pragmatické paradigma: význam slova je dán jeho použitím v jazyce.

Jazyk přirovnává k bedně s nářadím. Nástroje (slova) nemají jednotnou, univerzální esenci. Jejich funkce závisí výlučně na tom, jaké „jazykové hry“ (Sprachspiele) se právě účastní. Tyto hry jsou integrální součástí toho, co nazývá formami života (Lebensformen). Forma života představuje hluboce zakořeněné biologické a sociální vzorce lidského společenství. Je to ztělesněná praxe, instinkt a jednání, ze kterého jazyk přirozeně vyrůstá.

Při syntéze raného a pozdního díla můžeme dojít k vhledu, který osvětluje mechanismus Jamais vu a popírá striktní jazykový determinismus. Rané dílo stanovuje platnost toho, že vědomé, logicky formulovatelné propoziční myšlení vyžaduje strukturovanou formu (jazyk). Zde by mohl determinismus slavit vítězství. Pozdní dílo však tuto výhru relativizuje zjištěním, že tento abstraktní, propoziční jazyk nemůže existovat ve vakuu čisté logiky. Vyrůstá z nekonečně bohaté a dynamické „formy života“ – tedy ze ztělesněné fenomenologické praxe.

Syntetizovaný Wittgensteinův závěr tak může znít takto: Jazyk nedeterminuje lidské poznávání z pozice shora dané abstraktní kognitivní struktury. Jazyk formuje a usměrňuje naše chápání jedině tehdy, je-li propojen s tělesnou a sociální praxí.[9]

V případě Jamais vu nám Wittgenstein může pomoci následovně: Když jedinec třicetkrát za sebou zopakuje slovo „strom“ nebo „kánoe“, provede něco, co se v žádné reálné jazykové hře nevyskytuje. Mechanickým a vyprázdněným opakováním odpojuje nástroj od jeho funkce. Nástroj je zbaven svého užití, je amputován z formy života, k níž byl vázán, a tudíž okamžitě ztrácí svůj smysl. Oddělení zvukové – fonologické formy od významu je psychologickou manifestací zborcení Wittgensteinovského postulátu, že význam je použití. Tím by se záhada sémantického přesycení mohla zdát vysvětlena. Než se však dostaneme k úplnému odhalení, podívejme se na tuto problematiku optikou i jiné než západní filosofie.

Zatímco na Západě je jazyk často vnímán jako pouhý praktický nástroj k popisu reality, klasická indická tradice hledala absolutní princip bytí přímo ve vnitřní, nehmotné podstatě „Slova“ (nikoliv však v jeho hrubé, mluvené podobě). Nejvýznamnější postavou tohoto proudu uvažování je sanskrtský gramatik a myslitel Bhartrhari (cca 5. stol. n. l.), autor rozsáhlého díla Vakyapadiya. Pro Bhartrhariho není gramatika pouze sadou formálních pravidel, ale přímo teologickou a soterologickou[10]disciplínou, jež slouží jako stezka k pochopení absolutní reality a k osvobození vědomí [12].

Bhartrhariho stěžejním přínosem lingvistice je jeho doktrína Sphota [12]. Zatímco západní redukcionistická lingvistika inklinuje k rozebírání jazyka na nejmenší složky, Bhartrhari zaujal naprosto opačný, holistický postoj. Tvrdí, že podstatou lingvistické komunikace je sémantická jednota [13]. Skutečný význam leží v nedělitelném celku celých vět (tzv. Akhanda-vakya-sphota) [13].

Slovo Sphota vychází ze sanskrtského kořene „sphut“, což lze přeložit jako „vytrysknout“, „prasknout“ či „rozvinout se“ (jako poupě ve květ) [13]. V Apteho[11]slovníku je Sphota definována jako "myšlenka, která exploduje nebo bleskově vytryskne v mysli ve chvíli, kdy je vysloven zvuk"[14].

Bhartrhari striktně rozlišuje mezi formou a významovým generátorem, přičemž používá následující terminologii:

Ačkoliv Bhartrhari předkládá tezi o tom, že veškeré lidské povědomí o světě je protkáno jazykovým potenciálem (Sabda-tattva) [12], nemluví o hrubém mluveném jazyce, ale o jazyce ve smyslu předpojmové mentální vibrace (spanda) [12]. Jazyk podle něj sestupuje po úrovních: od nevědomé prvotní fáze zvané Pasyanti (což je ono skryté „místo“ v mysli, kde dříme nerozlišený význam – Sphota), přes střední, zformované intelektuální myšlení (Madhyama), až po hrubý verbální projev (Vaikhari) [12].

Fenomén Jamais vu a sémantické přesycení tak nacházejí i ve filosofii Vakyapadiya elegantní vysvětlení. Sémantické přesycení představuje stav, kdy je hrubý zvukový projev (Nada nebo manifestovaný Dhvani na úrovni Vaikhari) natolik mechanicky zacyklen ve své fyzikální podstatě, že ztrácí schopnost rezonovat směrem dovnitř [12]. K „bleskovému vytrysknutí významu“ v podobě Sphoty nedojde. Opakováním oddělíme kauzální energii jazyka a vědomí posluchače je náhle zachyceno v pouhé materiální slupce slova (slyší pouhý Nada, mrtvý zvuk), odříznuto od intelektuální podstaty na úrovni Madhyama[12]. Tento asijský pohled je fascinujícím způsobem kompatibilní s moderním západním zjištěním o neurobiologickém přesycení v zrakových receptorových sítích a přerušení přístupu k amodální centru v ATL (Hub-and-Spoke model) [3] (viz výše).

K pochopení finálního procesu, ve kterém izolace slova vede k sémantickému kolapsu, nám poslouží návrat ke kořenům strukturalismu. Ferdinand de Saussure definoval jazyk jako systém vzájemně závislých členů, v němž hodnota každého z nich vyplývá výhradně ze současné přítomnosti ostatních. Význam slova je tedy ve své podstatě ukotven v topologické síti.Pokud slovo začneme mechanicky a izolovaně opakovat, doslova mu odsekáváme vazby na ostatní prvky systému. Symbol zůstane viset ve vakuu a význam se zhroutí.

Zmíněnou teoretickou premisu potvrzuje kognitivní psycholingvistika. Asociační model sémantického přesycení, který zkoumali Tian a Huber (2010), ukazuje, že k přesycení nedochází v samotném zrakovém nebo sluchovém centru, ale na spojnici mezi lexikální formou slova a jeho sémantickou asociační sítí [15]. Při izolovaném opakování slova neustále narážíme na jeden spojovací uzel, který se z důvodu ochrany před excitotoxicitou zablokuje. Pokud však slovo opakujeme uvnitř celé věty, kognitivní zátěž se rozloží napříč sítí – slovo aktivuje své sémantické „sousedy“ [15]. Kontext tak oddaluje nebo zcela eliminuje efekt sémantického přesycení, protože slovo si udržuje své pevné místo v topologii systému [15].

Výzkumníci ale pozorovali ještě další fascinující mechanismus. Mozek se ztrátě významu brání natolik urputně, že pokud izolovaně opakujeme nikoliv pouhé slovo, ale celou frázi, nastupuje takzvaný efekt verbální transformace (Verbal Transformation Effect), popsaný psychologem Richardem M. Warrenem [16]. Posluchač uvězněný ve zvukové smyčce začne po chvíli zřetelně slyšet jiná slova a věty [16]. Mozek se totiž zoufale snaží udržet topologicky ukotvenou stabilitu smyslu a raději si začne z izolovaného zvuku halucinovat nový kontextový systém, než aby připustil pád do sémantické prázdnoty [16].

Topologický pohled na jazykový systém symbolů nás tak přivádí k důležitému vhledu do fungování umělé inteligence: vektorový model LLM není totiž ničím jiným než čistou manifestací strukturalismu, převedeného do vícerozměrné matematiky. Slovo uvnitř velkého jazykového modelu neexistuje jako izolovaný bod s pevnou definicí, nýbrž výhradně jako souřadnice definovaná svou vzdáleností od všech ostatních slov v obřím kontextuálním mraku. Mechanismus tzv. pozornosti v architektuře transformerů[13]počítá význam slova na základě jeho topologických vazeb ke zbytku textu. Naučená neurální síť velkých jazykových modelů tak sice dokonale ovládá topologii znaků, avšak tyto znaky neodkazují k ničemu mimo svůj vlastní uzavřený systém.

Navzdory tomu, že LLMs dnes procházejí Turingovým testem a simulují fenomenologii rozumu s děsivou věrností [17], roste mezi odborníky konsenzus, že plynulá generace textu není důkazem porozumění. GAI (generativní umělá inteligence) principiálně postrádá předpojmovou vrstvu a je uzamčena v uzavřeném matematickém vakuu textu [12].

Kritiku současných jazykových modelů formulovali autoři Emily M. Bender a Alexander Koller ve svém článku Climbing Towards NLU: On Meaning, Form, and Understanding in the Age of Data z roku 2020 [18]. Jejich formální argument spočívá v odhalení nepravdivosti převládajícího „hypu“, který těmto modelům přisuzuje schopnost „porozumění“ a zachycení „významu“ [38].

Bender a Koller formulují nepřekročitelný limit strojového učení: Systém trénovaný výlučně na lingvistických formách nemá a priori žádnou fyzikální či kognitivní možnost, jak se učit významu. [19, 20, 21]

Ve své argumentaci využívají tří klíčových pojmů:

· Forma (Form): Vnější, fyzická či digitální slupka jazyka. Patří sem akustické vlnění řeči, stopy inkoustu na papíře, pixely na obrazovce nebo v případě počítačů pouhá digitální data (tzv. tokeny), která text reprezentují. Zásadní je, že GAI má přístup výlučně k této formální vrstvě. [21].

· Význam (Meaning): Relace spojující páry sestávající z přirozeného jazykového výrazu (formy) a komunikačního záměru, na který odkazuje (entity, akce, emoce a relace v reálném světě, který s mluvčím sdílí posluchač) [21].

· Porozumění (Understanding): Dynamický, v reálném čase probíhající proces, při kterém posluchač na základě přijaté formy a na základě sdíleného ukotvení ve světě dedukuje odesílatelův komunikační záměr [21].

Jazykové modely nemají tělo, nevnímají gravitační pole planety, neví, co je chlad nebo bolest. LLMs se proto v mnoha ohledech neliší od stochastického papouška. Model umí syntetizovat bezchybnou formu gramatiky s ohromující plynulostí, protože spočítá, že s pravděpodobností 96 % po slovech „kočka pije“ následuje slovo „mléko“. Přitom ale nemá žádný předpojmový smyslový koncept kočky, tekutiny ani zahnání žízně [20]. Neznají kontext životních forem, ve kterých se jazykové (podle Wittgensteina) hry hrají [22].

Tento fatální nedostatek GAI (na straně stroje) představoval a na jiné úrovni stále představuje fundamentální výzvu pro obor umělé inteligence. Problém ukotvení symbolů (Symbol Grounding Problem), který roku 1990 formuloval kognitivní vědec Stevan Harnad[23]. Jádro tohoto dilematu spočívá v otázce: jak vůbec mohou prázdné symboly manipulované uvnitř výpočetního systému získat vnitřní, k systému vztažený sémantický smysl?[23]

Harnad situaci vysvětluje na metafoře slovníku nekonečného regresu. Představte si, že neumíte jediné slovo čínsky. Dostanete čistě čínsko-čínský výkladový slovník. Podíváte se na jeden znak. Jeho vysvětlením je řada dalších čínských znaků, kterým také nerozumíte. Z cyklu definic nelze nikdy uniknout. Aniž by se jeden jediný znak ukotvil v něčem, co leží mimo znakový systém, zůstane systém provždy sémanticky prázdný [24]. U moderních GAI a LLMs se Harnadův problém transformuje na takzvaný Problém ukotvení vektorů (Vector Grounding Problem) [24]. Jeden vektor v gigantické matici pouze určuje statistickou vzdálenost k jiným vektorům, čímž vzniká „kolotoč reprezentací“, jež nemá záchytný bod s externí realitou [23].

Skutečný rozdíl mezi kognicí poháněnou lidským jazykem a generováním u LLMs srozumitelně objasňuje paradigma ztělesněné kognice (Embodied Cognition) [24]. Vědci tvrdí, že myšlení zásadně spoléhá na přesně ty samé biologické systémy, které zodpovídají za percepci a tělesnou akci [24].

Lidská sémantická paměť je plně ukotvena v modalitních simulacích senzorimotorické zkušenosti [24]. V tomto bodě se moderní neurověda dokonale protíná s filosofií pozdního Wittgensteina – tyto ztělesněné senzorimotorické simulace jsou totiž přesným biologickým substrátem jeho forem života. Abstraktní myšlení, o kterém jsme často přesvědčeni, že probíhá pouze verbálně, je ve skutečnosti vystavěno z tělísek základních fyzikálních prožitků, sdílené praxe a tělesných metafor [24]. Teplo se pojí s přívětivostí, pojem „výše“ se pojí s postavením atd. To dává jazyku jeho význam [24]. Generativní umělá inteligence je naproti tomu zcela odtržená od materiální reality (disembodied); operuje bez těla, postrádá schopnost modalitní simulace prožitku, a je proto „neukotvená“ (ungrounded cognition) [25].

Na výše zmíněné kritiky navazují Mark Coeckelbergh a David J. Gunkel ve své knize Communicative AI (2025). Upozorňují na to, že tradiční pohled na propast mezi formou a významem je zatížen hluboce zakořeněným logocentrismem. Z pohledu logocentrismu, jenž definoval už Aristoteles, je mluvené slovo přímým znakem živé myšlenky (přítomnosti vědomí), zatímco zapsané slovo je již pouhým znakem tohoto znaku [26]. V kontextu umělé inteligence tak vzniká paradox, který autoři popisují následovně:

„Pokud je, jak to formuluje Aristoteles, mluvené slovo přímým znakem myšlenky a psané slovo je znakem tohoto znaku, pak jsou slova generovaná LLM znakem znaku znaku. Textový obsah napsaný nebo vygenerovaný LLM je tak matným stínem živé řeči, která zemřela nejméně dvakrát.“ [26]

Pokud bychom zůstali v zajetí logocentrického postoje, texty umělé inteligence by byly opravdu jen mrtvým, prázdným kalkulem. Coeckelbergh a Gunkel však nabízejí mnohem konstruktivnější a nadějeplnější cestu, kterou nazývají posunem od „generativní“ ke „komunikativní“ AI [26]. Dekonstruují požadavek na původní vědomí na straně autora a s odvoláním na poststrukturalistickou tezi o „smrti autora“ ve které Roland Barthes tvrdí, že smysl textu nikdy nevzniká čistě u zdroje, ale rodí se až v místě určení [27].

Vztah mezi člověkem a umělou inteligencí tak nemusí být jednosměrný ani parazitický, ale může se proměnit v dynamické spoluautorství [26]. LLM funguje jako nekonečně komplexní jazykové zrcadlo, které předkládá sémantické vzory, střípky a významy uschované v původních lidských textech. Zrcadlo samo o sobě žádnou intenci nemá; vygeneruje pouze syntaktickou formu (Bhartrhariho mrtvý zvuk Nada). Teprve ve chvíli, kdy se s touto formou setká lidský čtenář disponující předpojmovým ukotvením a fenomenologickou zkušeností světa, myšlenka se vynoří [27]. Stroj v tomto pojetí význam nediktuje, ale poskytuje formální projekční plochu, skrze kterou aktivní interpretace lidského čtenáře znovu oživuje slova, jež předtím zdánlivě dvakrát zemřela [26].

Masový rozmach velkých jazykových modelů vyvolává falešnou iluzi, že umělá inteligence chápe významy stejným, nebo podobným způsobem jako člověk. My jsme si proto nejprve vysvětlili, že samotný jazyk není s myšlením – tedy s významy – totožný. V případě LLMs jsme pak ukázali, že je ještě nutné striktně oddělit ztělesněný význam otisknutý ve struktuře jazyka od matematické reprezentace. Abychom byli v našem bádání poctiví, je však také nutné dodat, že velké jazykové modely na jedné straně sice postrádají lidskou sémantiku vycházející z tělesnosti, emocí a fyzického prožívání, ale to neznamená, že jsou uvnitř zcela „prázdné“. Aktuální výzkum v oblasti interpretovatelnosti (interpretability) ukazuje, že hluboko ve svých strukturách si tyto systémy vytvářejí vlastní, vysoce abstraktní relační mapy. Jak prokázali například výzkumníci z MIT (Gurnee & Tegmark, 2023) [28], LLM modely si budují koherentní vnitřní reprezentace prostoru a času. Jde o svébytnou formu „nesmyslové sémantiky“, která dokáže přesvědčivě simulovat porozumění, ale sama o sobě stále postrádá jakékoliv ukotvení v reálném světě a lidskou intencionalitu.

Skutečný smysl se však z textu nemusí zcela vytratit, ale jeho těžiště se definitivně přesouvá od vědomého autora k příjemci textu. Naplňuje se tím poststrukturalistická teze o „smrti autora“ v její nejextrémnější, algoritmické podobě: Význam nevzniká čistě u zdroje, ale ožívá až na straně recipienta. Jak zdůrazňuje koncept komunikativní umělé inteligence, vygenerovaný text funguje především jako zrcadlo, jako čistá syntaktická forma. Vrátíme-li se k Bhartrhariho ontologickému modelu významu, generativní AI produkuje pouze mrtvý zvuk (Nada). Teprve použijeme-li jej k cílené evokaci smyslu, reaktivujeme v sobě vlastní porozumění (Sphotu). Vrátíme-li se k dříve zmíněné metafoře, jazyk zde slouží jako lešení. Generativní modely dokážou s neuvěřitelnou rychlostí postavit spletité a formálně dokonalé konstrukce, avšak tvar samotné budovy, tedy hluboký význam, kontextualizaci a skutečné zhodnocení, musíme uvnitř tohoto připraveného aparátu aktivně vystavět my sami.

A zde se jako varovná paralela vrací fenomén jamais vu, který nekompromisně demonstruje, co se děje s naší myslí, když se znak odpojí od vlastního ukotveného významu. Pokud přistoupíme na to, že budování významů pasivně outsourcujeme na generativní systémy, hrozí nám nejen plíživé kognitivní vyprázdnění, ale i extrémní zranitelnost vůči manipulaci. Paradoxně totiž neplatí, že by nás vygenerované texty (ony „znaky znaků znaků“) míjely jako chladný kalkul. Naopak – texty bez ukotveného významu mohou s recipientem emocionálně rezonovat nebezpečně silně. Umělá inteligence dokáže mistrně nasedat na široké sémantické a narativní sítě, které jsme si během života vybudovali. Hraje na naše kognitivní předpoklady tak přesně, že si algoritmicky vyvolanou emocionální rezonanci snadno spleteme s vlastním aktivním porozuměním. Staneme se tak oběťmi manipulace, která zneužívá naše vlastní významové rámce.

Naopak aktivní a komunikativní práce s AI – kdy skrze zrcadlení textu evokujeme vlastní myšlenky, kriticky odhazujeme omyly a objevujeme nové souvislosti – naši kognici může obohatit. Základní teze, které formulovali filozofové jazyka ve dvacátém století i starověcí indičtí myslitelé, se tak v éře umělé inteligence vrací s nevídanou naléhavostí. Nezačneme-li k textu přistupovat s novým typem kognitivní rozvahy a aktivním nárokem na vtělený smysl, riskujeme, že se jako společnost propadneme do stavu kolektivního jamais vu. A co hůř, jak ukazuje efekt verbální transformace, mysl nesnese sémantickou prázdnotu dlouho. Abychom unikli zborcení smyslu, začneme si masově halucinovat nové, falešné kontextové systémy. Ty už však nebudou vyrůstat z našich ztělesněných forem života, ale stanou se jen bludným zrcadlením algoritmického šumu, k jehož skutečné podstatě jsme nenávratně ztratili klíč.

[1] Poznámka k Turingovu stroji a symbolické manipulaci: Turingův stroj je teoretický matematický model počítače navržený Alanem Turingem. Koncept předpokládá, že veškeré myšlení a výpočty lze redukovat na mechanické posouvání, čtení, mazání a zapisování abstraktních symbolů na nekonečné pásce podle předem daných formálních pravidel. Fodorova teorie mentálštiny aplikuje tento princip na lidský mozek – tvrdí, že mozek nevnímá vnitřní význam, ale pouze nevědomě a syntakticky manipuluje s fyzickými reprezentacemi myšlenek v nervové soustavě, z nichž se logicky skládá kognice.

[2] Poznámka k deiktickým výrazům a synonymii: Deiktické výrazy jsou slova, jejichž význam plně závisí na aktuálním kontextu – kdo, kde a kdy je pronáší (např. „já“, „tady“, „zítra“). Samy o sobě postrádají přesný referenční význam. Synonymie označuje jev, kdy má více různých slov stejný nebo podobný význam (např. „pes“ a „čokl“). Pro precizní logický jazyk, ve kterém by probíhalo čisté myšlení, by deiktické výrazy znamenaly nepřesnost a synonymie neefektivní duplicitu.

[3] Fonologická reprezentace je mentální (psychická) podoba zvukové struktury slova nebo jiné jazykové jednotky v našem jazykovém systému. Jinými slovy jde o to, jak jsou hlásky a jejich vztahy uloženy v mysli mluvčího, nikoli o jejich konkrétní fyzickou výslovnost.

[4] Transmodální (propojující různé smysly): Slovo „modalita“ označuje v neurologii konkrétní lidský smysl (zrak, sluch, hmat atd.). Naše primární smyslová centra (tzv. paprsky) zpracovávají informace odděleně – zraková kůra vidí tvar zvířete, sluchová slyší mňoukání, somatosenzorická cítí hebkou srst. „Transmodální“ centrum funguje jako obří křižovatka. Přijímá tyto roztříštěné multimodální informace z různých okrajových částí mozku a integruje je dohromady. Doslova tedy přemosťuje (trans-) hranice mezi jednotlivými smysly.

[5] Amodální (nezávislý na smyslech / abstraktní – bez vazby na jeden specifický smysl): Jakmile ATL hub přijme data ze všech smyslů, vytvoří z nich jediný koherentní a zobecněný koncept. Z pojmu „kočka“ se stane čistá významová abstrakce. Díky tomuto amodálnímu charakteru chápeme význam slova kočka úplně stejně, ať už ji právě fyzicky vidíme, slyšíme její mňoukání za dveřmi, nebo si o ní jen čteme v knize.

[6] Tento výrok se dodnes čas od času objevuje jako citace na podporu myšlenky, že jazyk je pro naše myšlení determinujícím faktorem. Vy už budete vědět, že Wittgenstein ho sám ve svém pozdním díle dekonstruoval.

[7] Tento výrok je proslulou 7. tezí a naprostým závěrem Wittgensteinova raného díla Tractatus Logico-Philosophicus z roku 1921. V německém originále zní přesně: „Wovon man nicht sprechen kann, darüber muss man schweigen.“

[8] Smysl v pojetí raného Wittgensteina: Pojem „smysl“ (Sinn) používá Wittgenstein ve svém díle Tractatus Logico-Philosophicus velmi striktně. V jeho logickém pojetí mají smysl pouze a výhradně ty věty, které popisují ověřitelný fakt o fyzickém světě (např. „kniha leží na stole“). Vše ostatní – etika, estetika, subjektivní fenomenologické prožívání i samotný poznávající subjekt – leží za hranicí toho, co lze logickým jazykem zachytit. Tyto sféry tedy v jeho terminologii „postrádají smysl“ (unsinnig), což ale v žádném případě neznamená, že jsou bezcenné. Naopak, sám Wittgenstein považoval tuto nevyjádřitelnou sféru za to vůbec nejdůležitější. Spadá do kategorie toho, o čem nelze logicky mluvit (a o čem se proto „musí mlčet“), ale co se v životě pouze „ukazuje

[9] Tento závěr nevychází izolovaně z jednoho konkrétního Wittgensteinova výroku, nýbrž se opírá o moderní interpretace jeho pozdního díla, které dnes rozvíjí filosofický směr zvaný enaktivismus. Přední teoretici tohoto proudu, jako jsou Daniel Hutto nebo Danièle Moyal-Sharrock, propojují Wittgensteinův pojem „forem života“ se ztělesněnou kognicí a biologickými základy. Argumentují tím, že na počátku významu a lidského poznání nestojí intelektuální reflexe či jazyk sám o sobě, ale instinktivní tělesný čin a sdílená sociální praxe, z níž jazykové hry přirozeně vyrůstají.

[10] Soteriologie / soteriologický: Z řeckého slova sótéria (spása, záchrana). Jedná se o teologický či filozofický koncept zabývající se naukou o spáse a duchovním osvobození. Zatímco v západní (křesťanské) tradici jde typicky o spásu duše, v kontextu klasické indické filozofie (jako u Bhartrhariho) tento pojem odkazuje na cestu k dosažení mókši – definitivního osvobození lidského vědomí z iluzí, utrpení a koloběhu znovuzrození, a k následnému splynutí s absolutní realitou.

[11] Apteho slovník: The Practical Sanskrit-English Dictionary, jehož autorem je indický učenec a lexikograf Vaman Shivram Apte (první vydání 1890), představuje jeden z nejrespektovanějších a nejužívanějších standardních slovníků pro překlad ze sanskrtu do angličtiny. V akademickém prostředí dodnes slouží jako základní referenční dílo pro etymologii a významové nuance klasických sanskrtských pojmů.

[12] Nada (Nāda): Označuje prvotní akustickou energii, rezonanci nebo surový zvuk. Z fyzikálního a fyziologického hlediska je to samotné proudění vzduchu a vibrace hlasivek. Je to kontinuální zvuková vlna, která slouží jako substrát.

Dhvani: Znamená konkrétní artikulovaný zvuk, hlásku, foném nebo „ozvěnu“. Zatímco Nada je samotná zvuková substance, Dhvani představuje ty specifické, fragmentované zvuky (např. konkrétní slabiky slova „kočka“), které existují v čase, postupně se rodí a vzápětí zanikají.

[13] Typ architektury neuronových sítí, který je pro fungování LLM naprosto klíčový.