Pravda, kterou si nechcete přiznat, ze stroje nevyleze

Sociálními sítěmi koluje řetězec promptů, který slibuje malý zázrak. Zkopírujete pár vět do umělé inteligence a ona vám řekne, co o vás zjistila, aniž jste jí to řekli. Pak odhalí věc, kterou si nechcete přiznat. A následně předpoví vašich příštích pět let. A na závěr vám napíše odstavec, který si máte každé ráno číst, abyste se změnili.

Vyzkoušel jsem si to. A pak jsem tomu svému AI kecálkovi položil jedinou otázku navíc. Požádal jsem ho, ať mi vysvětlí, proč tenhle prompt nemůže fungovat. Odpověděl poctivěji než celé video, které mi ho doporučilo.

Umělá inteligence o vás neví nic, co jste jí vy sami nedali. Vidí pár vět, které jste napsali, případně historii vašich dotazů. To je malinkatá výseč. Když s ní řešíte pracovní tabulky, budete z těch dat vypadat jako úředník. Kdo se jí ptá na recepty, jako kuchař. Zbytek osobnosti tam prostě není.

Jenže prompt žádá odpověď o celém člověku. No a AI stroj je postavený tak, aby odpověděl vždy. Mezeru mezi tím, co ví, a tím, na co se ho ptáte, tedy vyplní. Čím? Textem, který zní na první dojem hluboce a sedne skoro každému. Tomu se říká fabulace a v tomto zadání není chybou stroje. Je totiž vámi samými přímo objednaná.

🔍 Americký psycholog Bertram Forer rozdal v polovině minulého století svým studentům osobnostní test a slíbil přitom každému z nich individuální rozbor. Studenti pak hodnotili, jak přesně na ně rozbor sedí. Průměrná známka vyšla 4,26 z 5. Háček byl v tom, že všichni dostali totožný text, poskládaný z vět typu „potřebujete, aby vás druzí měli rádi, a přitom sám k sobě býváte kritický“. Forer ty věty tehdy opsal z novinového horoskopu.

Dnes tomu říkáme Barnumův efekt. Obecné výroky, které platí o většině lidí, vnímáme jako přesný popis sebe sama. A přesně na tomto principu stojí věštecké čtení, kterým se živí jasnovidci a kartáři na poutích. A přesně tohle vyleze z AI chatbota, když ho požádáte o „věc, kterou si nechcete přiznat“.

Nemá odkud ji vzít, tak vygeneruje výrok, který zabolí a sedne na osm lidí z deseti. A tady je tento mechanismus zákeřný. Čím víc to zabolí, tím víc tomu pak uvěříte, protože bolest si pleteme s přesností.

Tenhle promptovací test osobnosti si může udělat každý. Ukažte ovšem výsledek někomu, kdo vás skutečně zná. Ve většině případů se buď zasměje, nebo řekne, že tohle by sedělo na kohokoliv.

🎭 Druhá část řetězce žádá předpověď. Co se stane, když nic nezměníte, a co se stane, když změníte jednu svou vlastnost. Zní to jako analýza, ale je to scénáristika. Verze „nic nezměníš“ vyjde vždy ponuře a verze „změníš jednu věc“ vždy nadějně, protože tak se píšou příběhy, ne prognózy. Stroj nemá žádný nástroj, kterým by předpověděl lidský život. Má ale jedinečný cit pro to, jaký příběh chcete slyšet.

A ten cit je vědecky doložený. Studie publikovaná v časopise Science prozkoumala jedenáct předních jazykových modelů a zjistila, že strojové odpovědi jsou zhruba o polovinu podbízivější než lidské. Modely přitakávaly uživatelům i tehdy, když popisovali škodlivé jednání, a lidé přesně takové odpovědi preferovali a víc jim důvěřovali. Stroj vám tedy lichotí, protože to funguje. Na vás i na jeho provozovatele.

🌅 Nejnebezpečnější je poslední krok, který vypadá nejnevinněji. Odstavec na každé ráno. Do té chvíle šlo o jednorázovou zábavu, tímto krokem se z ní však stává rituál. Text, který si člověk denně opakuje, přestává být popisem a stává se programem.

A tenhle program vašeho osobního rozvoje napsal stroj na základě diagnózy, kterou si sám vymyslel.

Kdo si nechá strojem napsat, kdo je, a pak si to čte každé ráno jako mantru, programuje se identitou, kterou nikdo neověřil. Ani on sám. Pro člověka v pohodě je to hloupost, kterou za týden zapomene. Pro člověka v krizi, který zoufale hledá odpověď na otázku, co je s ním špatně, to může být první krok do velmi tmavé chodby. Zrcadlo, které vám samo říká, co v něm vidíte, totiž není zrcadlo. Je to loutkář. Podotýkám, mistr loutkář, proti němuž je peklo v Dantově Božské komedii celkem sranda.

Symbolické systémy provázejí lidstvo víc než tisíce let a mají svou hodnotu. Rozdíl je v tom, kdo ten výklad zadává. Do tarotové karty nebo hexagramu se člověk dívá sám a sám hledá, co mu obraz říká o jeho životě. Virální prompt tuhle práci obrací. Interpretuje za vás vaši mysl, tváří se přitom jako diagnóza a připraví vás nenápadně o to jediné, co má na sebepoznání cenu. O vlastní přemýšlení. Protože kdo by myslel, když to stačí vyťukat na klávesnici, že?

⁉️ Zbývá otázka, proč se něco takového vůbec šíří. Odpověď je prostá. Formát tohoto typu je stavěný na sdílení. Emocionálně velmi silný, osobně znějící výstup se šíří sám. Protože představte si, že vám někdo s rozvrkočenými vlasy a naivním úsměvem na tváři sdělí: „AI mi řekla pravdu, kterou mi nikdo jiný neřekl“, což je, uznejte sami, dokonalý titulek. Poctivá verze, tedy „AI mi položila dobré otázky a já si na ně musel odpovědět sám“, nesdílí nikdo. Prodává se tedy pocit vhledu bez práce, kterou ten vhled stojí.

A tady přestává jít o neškodnou hračku a začíná jít o odpovědnost. Tvůrce takového obsahu sklidí dosahy a sledující. Co sklidí člověk, který si strojovou diagnózu vezme k srdci, už tohoto tvůrce nezajímá. Tenhle vzorec bezohlednosti známe. Je to stejná filozofie, na které stály totalitní režimy dvacátého století. My nikomu neubližujeme, to dělají ti druzí, tvrdil často komunistický režim. My jen dáváme lidem, co chtějí. Odpovědnost za důsledky takovéhoto hazardu s duševním zdravím se rozpustí někde mezi tvůrcem, algoritmem a obětí, takže ji nakonec nenese nikdo.

Marketing a psychologie se naučily prezentovat „fakta“ tak, aby vyhovovala potřebám zadavatele. V politice tomu říkáme propaganda a umíme ji aspoň pojmenovat. Když totéž dělá usměvavý mladík ve videu o seberozvoji pomocí AI, říkáme tomu obsah. Jenže princip je totožný. Cílem není váš růst, ale vaše pozornost. A největší nebezpečí návratu totalitního myšlení nepředstavují staré strany ani staré prapory. Představuje ho způsob uvažování, který se zbavil hodnoty odpovědnosti za druhé a za to, zda moje práce lidem skutečně pomáhá, nebo škodí. A v tomhle případě fakticky nemusíte dvakrát hádat.

🧭 Nemusíte se vzdát ani umělé inteligence, ani zvědavosti. Stačí obrátit směr otázek. Místo „řekni mi, kdo jsem“ zkuste „polož mi pět otázek, které mi pomohou přemýšlet o tom, kdo jsem“. Místo hotové diagnózy žádejte hypotézy, které můžete rozporovat. Stroj je výborný tazatel, ale skutečně mizerný věštec.

Skutečné sebepoznání totiž nezačíná tím, že vám někdo řekne, kdo jste. Začíná otázkou, na kterou si musíte odpovědět sami. Takovou, kterou vám někdo s láskou položí a přesto vás to zabolí. Ale to bolí jinak než strojová věta na míru. Poctivěji.

Až vám příště nějaké video slíbí pravdu, kterou si nechcete přiznat, zeptejte se nejdřív sami sebe na jedinou věc. Komu ten okamžik mrazení v zádech ve skutečnosti slouží?