Článek
Když se v Česku objevil projekt Gott navždy, působilo to jako výjimečný technologický experiment. Hlas Karla Gotta tehdy pro Český rozhlas vznikal ve spolupráci se Západočeskou univerzitou a šlo o pečlivě připravený projekt, za kterým stál celý tým lidí. O dva roky později už ale podobná magie nevypadá jako výsada rozhlasu, univerzit a celebrit. Lékař a autor Tomáš Šebek si nechal naklonovat vlastní hlas pro audioknihu a komerční nástroje dnes otevřeně slibují, že věrohodný hlasový klon vytvoří během několika minut z krátkého, kvalitního záznamu.
A právě tady se láme hranice mezi technickou zajímavostí a něčím mnohem citlivějším. Pokud dnes stačí minuta až pět minut čistého audia pro rychlý hlasový klon a delší nahrávka pro přesvědčivější výsledek, pak už nemluvíme o budoucnosti. Mluvíme o současnosti. O hlasovkách v telefonu, starých videích na Facebooku, rodinných záznamech z dovolené. O digitálních stopách, které po sobě nechává skoro každý z nás.
Na trhu už navíc existují služby, které se nesnaží jen uchovat vzpomínku, ale proměnit ji v interaktivní zážitek. HereAfter AI slibuje, že blízcí budou moci klást otázky a slyšet odpovědi „ve vašem skutečném hlasu“. StoryFile nabízí konverzační video platformu i pro oblast „legacies“, tedy odkazů pro další generace. A projekt Life’s Echo jde ještě dál: podle popisu vytváří po hloubkových rozhovorech interaktivní simulace lidí po smrti, včetně klonovaného hlasu. Do veřejné debaty se mezitím dostala i aplikace 2wai, původně propagovaná jako platforma pro „HoloAvatary“, která vyvolala vlnu odporu právě ve chvíli, kdy se začala spojovat s představou digitálních kopií zesnulých příbuzných.
Na papíře to zní téměř dojemně. Babička vám po smrti „řekne“, jak dělala svíčkovou. Táta vám připomene, ať se držíte. Partner, o kterého jste přišli, vám odpoví na poslední nevyřčené otázky. Jenže technologie neumí vracet lidi. Umí jen velmi přesvědčivě skládat dohromady jejich styl, hlas, obraty a pravděpodobné reakce. A právě tahle přesvědčivost je etická past.
V odborné literatuře se pro podobné systémy používají pojmy jako deathbots, griefbots nebo ghostbots. Jedna z nejcitovanějších etických prací upozorňuje, že problém neleží jen v důstojnosti zemřelého, ale také v autonomii a psychické pohodě pozůstalého. Jinými slovy: nejde jen o to, zda „smíme“ mrtvé napodobit. Jde i o to, co to udělá s člověkem, který s tou napodobeninou začne žít.
Další novější práce už popisují ghostboty přímo jako tržní komoditu. Smutek, vztah, památka i touha po kontaktu se v takovém modelu mění na službu. Ne na obřad, ne na vzpomínku, ale na produkt. Přesně to je na celé věci možná nejvíc zneklidňující: zármutek se stává zákaznickým segmentem. Neplatíte za pietu. Platíte za iluzi pokračující přítomnosti.
Abych byl fér: ne každé digitální uchovávání hlasu je automaticky špatně. Je rozdíl mezi tím, když člověk ještě za života vědomě nahraje své vzpomínky, souhlasí s jejich použitím a chápe, že po něm zůstane jakási mluvící kronika, a mezi tím, když po jeho smrti někdo vezme staré hlasovky a bez jasně projevené vůle z nich nechá postavit chatbot. I odborníci, kteří připouštějí možné terapeutické využití podobných nástrojů, zdůrazňují souhlas, kontext, věk uživatele a opatrnost. V jedné studii o využití AI u truchlících dětí byla ochota odborníků připustit takový nástroj výrazně vyšší tehdy, pokud s ním rodič za života souhlasil a sám se podílel na tom, co bude systém „umět“.
Jenže právě v reálném světě bývá souhlas ta nejtenčí vrstva celého příběhu. Evropská komise připomíná, že GDPR se na osobní údaje zemřelých osob nevztahuje. Členské státy si mohou pravidla doplnit samy, a některé to dělají. Třeba v Itálii článek 2-terdecies umožňuje, aby určitá práva k datům po smrti uplatňoval ten, kdo má oprávněný zájem nebo jedná z rodinných důvodů. Jenže evropská mozaika pravidel je přesně to, co digitální byznys umí obcházet rychleji než zákonodárci.
Navíc se nebavíme jen o právu, ale i o bezpečnosti. Zpráva Consumer Reports letos upozornila, že u čtyř ze šesti hodnocených firem nenašla smysluplné překážky, které by skutečně bránily naklonovat cizí hlas bez souhlasu. Tohle už není filozofická debata. Tohle je velmi praktická otázka: kdo bude rozhodovat o tom, co po smrti „říká“ váš hlas? A kdo na tom vydělá?
Největší psychologický problém ghostbotů ale možná neleží ani v právu, ani v byznysu. Leží v tom, jak snadno si lidský mozek spletne simulaci s pokračováním vztahu. Studie o ghostbotech ukazují, že takové interakce často vyvolávají velmi silné emoce, nabízejí útěchu, pocit kontaktu a někdy i zdánlivě „nové“ vzpomínky. Jenže právě tím se z nich může stát ne most ke smíření, ale návyková čekárna mezi odchodem a popřením.
Do toho přidejme ještě jeden méně viditelný efekt. Výzkum o běžném používání AI sice neřeší přímo truchlení, ale ukazuje souvislost mezi častým využíváním AI, kognitivním odlehčováním a slabším kritickým myšlením. A velká americká studie publikovaná v JAMA Network Open letos našla u denních uživatelů generativní AI vyšší pravděpodobnost depresivních příznaků; u denního používání byla pravděpodobnost alespoň středně závažné deprese zhruba o 30 procent vyšší. Neznamená to, že každý ghostbot člověka poškodí. Znamená to ale, že spojit zranitelný stav po ztrátě blízkého s technologií, která je navržená tak, aby byla přesvědčivá, dostupná a návykově pohodlná, je risk, který bychom neměli banalizovat.
A pak je tu ještě poslední vrstva: AI si umí vymýšlet. Halucinace nejsou okrajová chyba, ale známý problém generativních modelů. IBM je popisuje jako situace, kdy systém vytváří nepravdivý nebo zcela smyšlený obsah, který přitom zní věrohodně. U běžného chatbotu je to nepříjemné. U digitální kopie mrtvého člověka je to něco mnohem horšího: přepis památky. Stačí pár nepravdivých vět, falešně přiřazený názor nebo smyšlená „vzpomínka“ a z útěchy se stane deformace člověka, který se už nemůže bránit.
Možná právě proto bychom si měli dát pozor na jazyk, kterým o těchto službách mluvíme. Nejde o „digitální nesmrtelnost“. Nesmrtelnost předpokládá pokračování osoby. Tady ale nejde o osobu. Jde o model, který statisticky odhaduje, co by asi řekla. To může být technicky ohromující, někdy i dojemné, ale pořád je to jen simulace. A simulace smutku je velmi špatná náhrada za skutečné rozloučení.
Lidské truchlení je bolestivé právě proto, že je skutečné. Nedá se urychlit předplatným ani opravit hlasovým klonem. Vzpomínka může být léčivá. Archiv může být cenný. Nahraný hlas pro děti nebo vnoučata může mít hluboký smysl. Ale ve chvíli, kdy z mrtvých děláme interaktivní společníky na povel, možná už nepomáháme paměti. Možná jen odmítáme přijmout ticho, bez kterého se s žádnou ztrátou nedá opravdu smířit.
