Zprostředkuje umělá inteligence kontakt se záhrobím?

Jamesi Vlahosovi umíral v roce 2016 otec na rakovinu. Nechtěl o něj přijít a nechtěl, aby jeho děti přišly o dědečka. A tak hodiny a hodiny nahrával jeho vyprávění. Vedle toho programoval chatbota s názvem Dadbot, který měl dokázat reagovat jako otec. Dokonce ještě stihl dát otci chatbota k vyzkoušení. Když pak otec zemřel, za Jamesem přišel jeho syn Zeke:

Není snad lidské kultury, kde by živí lidé, nebo aspoň někteří z nich, nechtěli ztratit kontakt s těmi, kdo už odešli. Nebo je dokonce chtějí přivést zpátky k životu. V mytických příbězích je to ztvárněno doslova - jako když Orfeovi zemře milovaná manželka Eurydika a jemu se podaří ji vyreklamovat z Hádovy říše (jen si to pak pokazí). Ale v praxi jde o mnohem méně - když vám náhle zemře někdo blízký, litujete, že jste se nemohli rozloučit. Když zemře dlouholetý partner, ztratíte někoho, kdo vám naslouchá a radí, s kým se můžete zasmát i poplakat si. Chybí vám jeho osobnost, spíš než tělo. Ostatně, nemá třeba v Podkrkonoší spiritismus velkou tradici?

Už více než rok nás omračuje svými schopnostmi ChatGPT - chatbot, který s vámi umí konverzovat v přirozeném jazyce. Princip je vlastně jednoduchý. Jednak je tu neuronová síť, což je prostředí, které má paměť a které lze trénovat (obdobně jako lidský mozek). Pak je tu obrovské množství dat, kterými byla tato neuronová síť nakrmena, aby se naučila věci poznávat, rozlišovat, dávat do souvislosti atp. A konečně tu byly lidské zásahy, které této síti dávaly zpětnou vazbu při učení a které ji některé věci naučily (a odnaučily) natvrdo. ChatGPT díky tomu nejen konverzuje na základě toho, co zná. Ale hlavně umí generovat nové odpovědi a nové myšlenky v souladu s tím, co už zná. A umí to dělat v rámci role, kterou mu zadáte. Takže lidé píší: „Chovej se jako odborník na výživu a poraď mi…“ Nebo: „Chovej se jako malé štěně a řekni vtip.“

A teď i představte, že taková neuronová síť bude nakrmena daty o někom, kdo už je mrtvý. Všechny texty, které napsal, nebo se ho týkají. Jeho fotografie a videa. Vaše vzpomínky. Jeho posty na sociálních sítích. Informace o době, ve které žil. Jeho záliby, jeho zvláštnosti. Výsledek? Budete si psát s někým, kdo se bude představovat jako ten mrtvý. Bude reagovat jako on, bude vás bavit jako on. Poradí vám, jako on by vám poradil!

A proč se omezovat na psaní? Dnešní modely a výpočetní výkon jsou tak daleko, že lze napodobit lidský hlas a nepoznáte rozdíl. A novinkou je napodobení videa. S mrtvými si tak budete brzy moci telefonovat nebo hovořit přes video. Budou vám tak blízko a tak po ruce, jako máte v telefonu Whatsapp.

Jestli vám to připadá jako blouznění, tak si vzpomeňte na Jamese Vlahose. Jeho historka je z roku 2017. Dnes je technologie o sedm let pokročilejší a deepfake videa už zaplavují svět.

Není to nepřirozené, vyvolávat mrtvé? Historicky vzato, asi ne, protože takové pokusy tu byly vždycky. Ale je to zdravé? Když zemře náš blízký, neměli bychom ho nechat a neměli bychom jít dál? Když se na něj budeme pořád upínat, nezpůsobíme tím, že naše truchlení nikdy neskončí? Anebo nezačneme žít v pokřiveném světě, ve kterém nikdy neodešel, takže se odcizíme ostatním lidem?

Na druhou stranu, co má dělat člověk, jemuž blízký zemřel náhle? Nepomůže mu to, aby se mohl rozloučit? Nepomůže mu to překlenout tu nejhorší fázi? Ostatně, psychologické postupy pro takové situace také zahrnují simulaci konverzace se zemřelým - například napsat mrtvému dopis nebo otočit židli a mluvit k ní, jako by tam seděl. Neměly by se tedy chatboty stát běžnou výbavou psychologické pomoci?

Mimochodem, nezapomínejme, že přece nejde jen o mrtvé blízké, respektive vůbec nemusí jít o mrtvé lidi. Stačí, že jsou nedostupní. Nechtěli byste si popovídat s nějakou slavnou historickou anebo současnou osobností? To přece může být zábavné. Zlepší vám to náladu, když se slavná osobnost baví přímo s vámi… A může to být poučné - ve školách se již začaly požívat chatboty, které dovolují povídat si s historickými postavami. Otázka, kterou časopis Reflex rád kladl v každém čísle (Co na to Jan Tleskač?), už není hypotetická!

Ale co když narazíme? Každá simulace má svá omezení. Funguje dobře, ale pak najednou řekne něco špatně. Vymyslí si hloupost. Urazí nás. Navede nás k sebepoškozování („Stýská se mi po tobě, už abys byl u mě…“). Dokážeme si udržet odstup?

A tím se pomalu dostáváme k etickým otázkám. Kdo má právo sebrat data o jiném člověku a nasimulovat ho? Nejde přece jen o chatboty, teď už jde o vytvoření dokonalého video avatara. Jak by vám bylo, kdyby si vás někdo nasimuloval a pak s vaším avatarem prováděl erotické hrátky? A ty pak zveřejnil? Budou mít lidé odstup a bude jim jasné, že to nejste vy?

To je problém nejen živých, ale taky mrtvých. Vzniká důležitá otázka, kdo může používat data o mrtvých lidech. Mrtvý člověk se už nemůže bránit, ale pořád může mít rodinu a známé, kterých se použití jeho avatara dotýká. Ale nakonec i v rámci rodiny bude otázka, kdo si smí co dovolit.

Je digitální stopa, kterou dnešní lidé zanechávají, jejich osobní součástí? Měli bychom mít právo být po smrti zapomenuti? Anebo je to jen věc, kterou jsme tu zanechali?

Dosud jsme se soustředili na to, že my, živí, máme možnost simulovat kontakt s mrtvými. Ale my sami také jednou zemřeme. Co bude potom? James Vlahos, o kterém už byla řeč, vyvinul aplikaci HereAfter, která vám umožní zaznamenat váš život, abyste nebyli zapomenuti. Vlastně vás vyzývá: Vezměte svůj posmrtný život do svých rukou. Postarejte se o to, jak si vás budou ostatní pamatovat. Co si o vás budou pamatovat. Jak k nim budete promlouvat.

A konečně, proč čekat, až zemřete? Nebo, proč se bavit s jinými lidmi? Díky této nebo jiným aplikacím můžete už dnes komunikovat s avatarem sebe samého! Takže možná neskončíme jako Orfeus, ale spíše jako Narcis…

Autor pracuje na Anglo-American University.