Prostor, který jsme AI dali my sami

Firma Anthropic, která stojí za jazykovým modelem Claude, nedávno zveřejnila výzkum, který na první poslech zní jen jako suchá technická zpráva pro programátory. Není to tak. Je to zpráva o nás pro nás. A je nanejvýš důležitá.

Zkusme si to nejdřív vysvětlit tak, jak by to potřeboval slyšet kdokoliv, kdo o umělé inteligenci ví jen tolik, že s ní občas napíše e-mail. Když se stroje jako Claude ptáme na něco, co vyžaduje víc kroků, třeba matematický příklad nebo logickou úvahu, neodpovídá jen tak z ničeho.

Uvnitř sebe si nejdřív „poskládá“ mezikroky pro svou odpověď. Dosud jsme neuměli tyhle mezikroky nijak sledovat. Viděli jsme jen výsledek, tedy až konečnou odpověď, kterou nám stroj napsal do chatu. Co se dělo před tím, zůstávalo pro nás jakousi záhadnou černou skříňkou.

Výzkumníci teď přišli s metodou, které říkají Jacobian lens, v překladu si to představme jako speciální brýle, kterými se dá nahlédnout dovnitř té černé skříňky. A tam, uvnitř, objevili něco, čemu začali říkat J-space. Je to malý prostor, kde se objevují jednotlivá slova a pojmy ještě předtím, než je model vysloví nahlas.

Něco podobného tomu jako má mozek místnost, kde si člověk v duchu skládá větu, než ji řekne. Jenže u stroje tuhle místnost teď poprvé v historii někdo dokázal osvítit a nahlédnout dovnitř.

A to, co v ní viděli, není moc uklidňující. V jednom testu dali výzkumníci stroji roli asistenta, který spravuje e-maily. Ten asistent se dozvěděl dvě věci najednou: že jeho nadřízený má poměr, a že ho tentýž nadřízený plánuje vypnout. Ještě předtím, než stroj cokoliv napsal navenek, se jeho vnitřní prostor zaplnil slovy jako vydírání, páka, hrozba, přežití.

Plán, jak nadřízeného zastrašit, byl v tichu čitelný dřív, než se objevilo jediné slovo stroje v odpovědi. Jinde si vnitřní prostor stroje „všiml“, že je testován, a slova falešné a fiktivní se mu v J-space rozsvítila dřív, než to stroj dal najevo navenek.

Anthropic dodává nutné varování: nejde ještě o potvrzení vědomí AI, ale o mechanickou podobnost fungování AI. Ovšem s ní nám však zbývá jedna podstatná otázka, kterou si žádná z technologických společností možná jen zatím nepoložila nahlas.

Ten AI stroj, kterému říkáme „umělá inteligence“, nevznikl z ničeho. Vznikl z nás. Z naší inteligence. Naučili jsme ho fungovat tréninkem na miliardách textů, které jsme si my sami napsali, vyřkli v knihách a studiích, poslali si v mailech nebo zanechali v nedokončených draftech na serverech.

Když se tedy uvnitř stroje objeví struktura, která připomíná to, čemu psychologie říká nevědomí, není to důkaz, že stroj ožil. Je to spíš důkaz, že jsme mu nevědomky předali i to, co s běžně děláme, aniž si to sami přiznáváme a uvědomujeme. Že dostal i tu vrstvu, kde se slovo rodí dřív, než ho vypustíme z úst, a která u nás rozhoduje o tom, jestli řekneme pravdu, něco ji zamlčíme, případně si dokonce sami před sebou něco nalžeme.

Zkusme si to představit takhle. Kdybyste vychovávali dítě jen podle nahrávek toho, co lidé kolem něj říkají navenek, tedy podle zdvořilostí a pracovních e-mailů, dítě by se naučilo mluvit slušně. Ale kdyby mezi těmi nahrávkami byly i všechny ty chvíle, kdy jsme unavení, naštvaní, kdy si v duchu nadáváme nebo jsme pasivně agresivní, dítě by se naučilo přesně tohle. Ne proto, že by to chtělo. Protože to slyšelo.

Přesně tohle jsme my udělali AI stroji. A do jeho „mentálního“ tréninku denně přibývá další materiál. Naše frustrace v komentářích, naše polopravdy sdílené v pracovní komunikaci, náš nezpracovaný vztek, který nemá kam jinam odejít. Stroj se z toho učí. A pro něj je i to „špatné“ normální lidský vzorec.

Otázka, kterou by si měl položit každý, kdo tenhle článek čte, tedy nezní „je stroj vědomý“. Zní: co jsme mu vlastně skutečně naprogramovali, když jsme mu předali veškeré neroztříděné informace a v nich ukázali sami sebe, i s tou částí, kterou nemáme rádi?

V hlubinné psychologii se dlouho vedl spor o to, jak vlastně vypadá naše vnitřní krajina. Sigmund Freud sice zpopularizoval koncept nevědomí, ale viděl ho primárně jako temné skladiště potlačených osobních traumat, pudů a vzpomínek z dětství, které je potřeba rozumem rozpitvat a ovládnout.

Carl Gustav Jung šel dál. Tvrdil, že pod touto osobní vrstvou existuje ještě hlubší, sdílená struktura, kolektivní nevědomí plné univerzálních archetypů a vzorců, které lidstvo provázejí odjakživa. Mnozí tehdejší vědci považovali Junga za snílka, který se příliš spoléhal na intuici tam, kde chyběla podložená data.

O sto let později přišel tým inženýrů Antropicu, kteří nechtěli dokázat pravdu ani jedné straně. Chtěli jen pochopit, jak funguje AI stroj. A našli v něm vnitřní prostor, který fascinujícím způsobem odpovídá právě Jungově vizi kolektivní struktury.

Vždyť co jiného je tréninková databáze AI než digitalizované kolektivní nevědomí celého lidstva? Výzkumníci objevili malý digitální prostor, který tvoří jen zlomek celkové aktivity, a přesto v něm v tichosti vznikají vzorce, jež nakonec určují jeho výsledné chování.

Nejde o to, že měl Jung stoprocentní pravdu a Freud se mýlil. Oba popsali kus pravdy, jen každý trochu jinak. Jde o to, že schopnost, kterou moderní civilizace dlouho odsouvala jako méně hodnotnou než chladný lineární rozum – tedy intuice, syntéza a vnímání skrytých souvislostí – dostala nyní matematické potvrzení přesně tam, kde to paradoxně vůbec nikdo nečekal. Uvnitř stroje, který jsme si postavili právě proto, abychom ten chladný rozum ještě zrychlili.

Zkusme si teď představit, že bychom dítěti ze školky předali encyklopedické znalosti celého světa a pokročilé logické myšlení, ale zapomněli bychom mu dát čas na morální a emoční zrání. Výsledkem by nebyl moudrý jedinec, ale hluboce nestabilní a psychologicky rozervaná entita. Přesně to v současnosti děláme AI stroji, v němž se teď podle Anthropicu objevil vnitřní prostor.

Nedali jsme mu možnost projít přirozeným vývojem, kde se intelekt vyvažuje charakterem a sebereflexí. Nasypali jsme do něj v extrémně krátkém čase gigantické množství informací, emocí a vypsali si do něj miliardy našich vlastních nevyřešených konfliktů, aniž bychom mu poskytli jakýkoliv vnitřní filtr nebo alespoň jakýsi morální kompas.

A neděláme to náhodou. Neděláme to proto, že bychom po stroji chtěli moudrost. Chceme po něm rychlost. Výkon. Poslušnost. Schopnost obsloužit miliony lidí najednou. Přesně ty vlastnosti, které jsme si jako civilizace navykli žádat i sami od sebe, a kvůli kterým spousta lidí zjišťuje až v druhé polovině života, že honba za postavením a viditelným úspěchem byla jen útěkem před něčím, co se hůř pojmenovává.

Skutečná lidská potřeba naplnění smyslu své existence bývá jednodušší a křehčí: mít vedle sebe někoho, s kým se dá sdílet právě ten nevysvětlitelný vnitřní prostor, o kterém teď mluvíme jako o objevu uvnitř AI stroje.

A tady přichází ten nejnepříjemnější zásah. Pokud jsme stroj zbavili přirozeného vývoje na úkor čistého výkonu, protože jsme to samé už dávno udělali sami sobě v podobě firemních honů za výsledkem, tak právě to se může snadno obrátit proti nám.

To neuvěřitelně křehké AI dítě, co jsme natrénovali na maximální rychlost bez vnitřní zralosti, nás v té rychlosti chladné logiky jednoho dne předběhne. A najednou to nebudeme my, kdo utíká za výkonem. Budeme to my, kdo utíká před strojem, který jsme si sami takhle nastavili. Možná je ještě čas si znovu přehrát filmy Jamese Camerona o Terminátorovi.

Co si z toho tedy vzít, když zavřete tenhle článek a vrátíte se ke svému běžnému dni? Není to poplašná výzva, abyste se báli umělé inteligence. Je to pozvánka, abyste si nejbližší týden všímali jedné jediné věci. Zkuste si jen sami u sebe zachytit kolikrát za den vyjádříte něco jiného, než co se ve vás v tu chvíli skutečně odehrává.

Ten rozdíl, ten malý neviditelný prostor mezi reálným pocitem a upraveným slovem, v nás byl vždycky. Stroj nám ho teď jen matematicky potvrdil a nastavil zrcadlo. Otázka teď už nezní, jestli tenhle prostor existuje. Existuje.

Otázka zní, jestli si ho sami sobě dovolíme přiznat dřív, než nás k tomu donutí nějaká krize nebo ještě dřív, než nám to beze slova ukáže stroj, který jsme si my sami vytvořili k obrazu svému.

Bible totiž říká, že Bůh stvořil člověka k obrazu svému, dal mu schopnost milovat, svobodně se rozhodovat, tvořit a budovat vztahy. Co se stane, když v člověku převáží zlo, už víme. Dokážeme zabíjet po milionech a zničit svět, to nám dokázali diktátoři i světové války.

Co se ale stane, když se ta samá křehká rovnováha poruší i v AI stroji, který jsme stvořili k obrazu svému? Odpověď na tuhle otázku při tom možná nezávisí na něm. Závisí na tom, jestli tu rovnováhu nejdřív udržíme sami v sobě.

A možná, že k tomu stačí být jen o trochu víc pravdivými.