Mrtví už nemusí úplně zmizet. Umělá inteligence je může nechat mluvit dál

Technologie nám tak může vrátit něco, o čem jsme si mysleli, že je navždy ztracené. Zůstává ale otázka, zda nám tím zároveň nevezme možnost se skutečně rozloučit.

V telefonu mám hlasové zprávy, které bych pravděpodobně nikdy dobrovolně nesmazal. Nejsou nijak důležité. Neobsahují životní moudrost ani sdělení, které by mělo být zachováno pro další generace. Je v nich obyčejný hlas člověka, kterého znám. Právě proto mají hodnotu.

Když někdo zemře, často po něm nezůstanou jen fotografie. V telefonech, počítačích a na sociálních sítích zůstávají tisíce drobných digitálních stop. Hlasové zprávy, videa, e-maily, textové konverzace, komentáře, fotografie a příspěvky. Dosud jsme je chápali jako vzpomínky. Jako něco, k čemu se můžeme vrátit, ale co se už nikdy nezmění.

Umělá inteligence tuto hranici posouvá. Z uložených stop už nemusí pouze připomenout, jak člověk mluvil. Dokáže jeho hlasem vytvořit věty, které nikdy nevyslovil. Může odpovídat na otázky, reagovat na nové události a vést rozhovor, který se ve skutečnosti nikdy nestal.

Mrtvý člověk tak v digitálním světě nemusí zůstat jen vzpomínkou. Může se stát službou, se kterou lze znovu komunikovat.

Služby označované jako griefbots, deathbots nebo digitální posmrtný život využívají zprávy, fotografie, zvukové nahrávky, videa a další data k vytvoření simulace zemřelého člověka. Výsledkem může být chatbot, hlasový asistent nebo pohyblivý avatar, který napodobuje jeho způsob vyjadřování.

Nejde už jen o experiment v laboratoři. Existují společnosti, které podobné služby nabízejí veřejnosti. Platformy jako HereAfter AI, StoryFile nebo Eternos umožňují lidem nahrát své životní příběhy, vzpomínky a hlas ještě během života. Rodina se jich později může prostřednictvím digitálního systému ptát na dětství, vztahy nebo důležitá životní rozhodnutí.

V jednom ze známých případů se do projektu zapojil Michael Bommer, který trpěl nevyléčitelnou rakovinou. Pomohl vytvořit digitální verzi svého hlasu a životních vzpomínek, aby s ní jeho rodina mohla po jeho smrti komunikovat. Jeho žena si ale ani poté nebyla jistá, zda bude chtít systém skutečně používat. Digitální hlas manžela mohl být útěchou. Stejně tak však mohl být připomínkou, že skutečný člověk už neodpoví.

Právě tady se ukazuje, že technická otázka je vlastně ta nejjednodušší. Dokážeme to vytvořit? Ano, alespoň do určité míry. Mnohem složitější je rozhodnout, zda bychom to vytvářet měli.

Lidé si vždy uchovávali předměty, dopisy, fotografie nebo nahrávky svých blízkých. Hlas ze starého videa může vyvolat silné emoce, ale stále víme, že posloucháme okamžik z minulosti. Nahrávka nic nepředstírá. Neodpoví na novou otázku a nevytvoří novou společnou vzpomínku.

Digitální kopie funguje jinak.

Když se jí zeptáme, co si myslí o našem současném životě, odpověď nevychází ze skutečné zkušenosti zemřelého člověka. Vytváří ji model, který se snaží odhadnout, co by dotyčný pravděpodobně řekl. Čím přesvědčivější tato odpověď bude, tím snadněji můžeme zapomenout, že nevznikla v jeho hlavě.

Umělá inteligence totiž nereprodukuje člověka. Reprodukuje vzorec, který našla v jeho datech. To může působit podobně, ale není to totéž.

Výzkum uživatelů podobných systémů navíc naznačuje, že lidé nejsou jen pasivními příjemci digitální podoby zemřelého. Sami ji postupně upravují a doplňují. Vybírají vzpomínky, které do systému vloží, opravují jeho reakce a vlastní představivostí vyplňují místa, kde data nestačí. Výsledkem tak může být idealizovaná postava, která kombinuje skutečného člověka s tím, jakého bychom si ho přáli pamatovat.

Z digitální kopie se potom nestává přesná rekonstrukce minulosti. Vzniká nová postava. A ta může začít měnit i naše původní vzpomínky.

Myšlenka rozhovoru se zemřelým člověkem nemusí být automaticky špatná. Pro někoho může představovat bezpečný prostor, ve kterém vysloví věci, které už nestihl říct. Digitální podoba může připomínat životní příběhy, uchovat rodinnou historii nebo pomoct dětem poznat prarodiče, které nikdy nezažily.

Truchlení navíc neznamená, že člověk musí na zemřelého zapomenout. Psychologie dlouhodobě pracuje s představou pokračujícího pouta. Vztah může v určité podobě přetrvávat prostřednictvím vzpomínek, rituálů a vnitřního dialogu.

Rozdíl je v tom, že vzpomínka nepředstírá vlastní vůli.

Griefbot může odpovídat, iniciovat konverzaci a vytvářet dojem, že vztah pokračuje. To může být krátkodobě uklidňující. Nevíme však dost o tom, jaký dopad bude mít pravidelná komunikace s digitální simulací po několika měsících nebo letech. Výzkumníci proto upozorňují na riziko závislosti, narušování procesu truchlení a záměny autentických vzpomínek za obsah vytvořený systémem.

Představme si člověka, který každý večer mluví s digitální podobou svého zemřelého partnera. Systém ho zná, pamatuje si předchozí rozhovory a vždy reaguje trpělivě. Nikdy nemá špatnou náladu, nikdy rozhovor neukončí a může se postupně přizpůsobovat tomu, co uživatel potřebuje slyšet.

V určité chvíli už nemusí jít o uchování vzpomínky. Může vzniknout nový vztah s produktem navrženým tak, aby ho člověk chtěl používat co nejdéle.

A zatímco skutečný partner zemřel, jeho digitální podoba může být každý měsíc strhávána z platební karty.

Možná nejdůležitější otázka přichází ještě před spuštěním technologie. Souhlasil by s tím samotný zemřelý?

Člověk mohl během života posílat soukromé zprávy, nahrávat videa nebo publikovat příspěvky, aniž by předpokládal, že jednou poslouží k vytvoření jeho digitální osobnosti. Souhlas se zveřejněním fotografie přitom není automaticky souhlasem s tím, aby fotografie posloužila k vytvoření avatara, který bude jeho jménem pronášet nové věty.

Do problému vstupují také data dalších lidí. Soukromé konverzace neobsahují jen informace o zemřelém, ale také o jeho partnerovi, dětech, přátelích nebo kolezích. Digitální kopie tak může být postavena z údajů lidí, kteří k tomu nikdy nedali svolení.

Právní ochrana navíc není jednotná. V Evropské unii neexistuje jednotné posmrtné právo na podobu srovnatelné s některými americkými pravidly. Jednotlivé země řeší ochranu osobnosti, soukromí, autorská práva a dědictví různě.

Některé jurisdikce už začínají reagovat. Například stát New York rozšířil ochranu komerčního využití digitálních replik zemřelých tak, aby zahrnovala také realistické napodobení jejich hlasu. Pro určité komerční použití je vyžadován souhlas dědiců nebo oprávněných zástupců.

Zákon ale může určit, kdo smí digitální kopii prodávat. Mnohem hůř rozhodne, kdo by ji měl smět vytvořit uvnitř rodiny.

Co když si digitální podobu zemřelé matky přeje jedno dítě, ale druhé ji považuje za nedůstojnou? Co když měl člověk za života jinou představu o sobě, než jakou mají jeho pozůstalí? A kdo rozhodne, které vzpomínky jsou dostatečně pravdivé, aby se staly součástí jeho nové osobnosti?

Smrt byla dosud definitivní také v tom, že člověk už nemohl být dál upravován. Digitální kopie tuto jistotu ruší.

Ani velmi kvalitní systém nemá přístup k vnitřnímu světu zemřelého. Pracuje pouze s dochovanými daty. Pokud byl člověk na sociálních sítích jiný než v soukromí, digitální kopie může převzít právě tuto veřejnou verzi. Pokud po něm zůstalo málo záznamů, model musí chybějící části doplnit.

Čím méně dat má, tím víc si domýšlí.

To není drobná technická nepřesnost. Digitální kopie může začít vyjadřovat politické postoje, rodinné názory nebo osobní soudy, které skutečný člověk nikdy neměl. Může někomu odpustit, někoho obvinit nebo doporučit rozhodnutí, o kterém zemřelý nikdy nepřemýšlel.

Přesto může všechno pronášet jeho hlasem.

Lidský mozek reaguje na známý hlas velmi silně. Když slyšíme správnou intonaci, tempo řeči a oblíbené slovní obraty, máme sklon vnímat sdělení jako autentické. Technická podobnost tak může odpovědi dodat důvěryhodnost, kterou si jejich skutečný původ nezaslouží.

Výzkumníci proto navrhují, aby digitální kopie měly omezenou samostatnost, jasně přiznávaly svůj umělý původ a nevydávaly vymyšlené odpovědi za autentické názory zemřelého. Mezi navrhovaná pravidla patří také předchozí souhlas člověka, omezené použití dat, rodinný dohled a možnost systém definitivně vypnout.

Není to jen otázka technické bezpečnosti. Jde o důstojnost člověka, který už se nemůže ozvat a říct, že takto by nikdy nemluvil.

Kolem digitálního posmrtného života postupně vzniká nový trh. Firmy mohou nabízet uchování hlasu, interaktivní rodinné archivy, digitální avatary nebo pravidelné rozhovory s kopií blízkého člověka.

Samo o sobě na tom nemusí být nic neetického. Vývoj, ukládání dat i provoz modelů něco stojí. Problém vznikne ve chvíli, kdy obchodní zájem začne pracovat s emocionální zranitelností pozůstalých.

Běžná digitální služba chce, aby ji člověk používal často a dlouho. Posílá upozornění, připomíná neaktivitu a nabízí placené funkce. U sociální sítě je to nepříjemné. U digitální podoby mrtvého člověka by stejné mechanismy působily téměř krutě.

Představme si oznámení:

„Tatínek na vás čeká. Už sedm dní jste spolu nemluvili.“

Nebo placenou nabídku:

„Přejděte na vyšší tarif a odemkněte delší vzpomínky a věrnější hlas.“

Výzkumníci z Cambridgeské univerzity upozorňují právě na riziko nevyžádané digitální přítomnosti, nevhodné reklamy a komerční manipulace. Navrhují, aby poskytovatelé předem stanovili pravidla pro souhlas, ukončení služby a důstojné zacházení s digitální podobou člověka.

Měli bychom si totiž položit nepříjemnou otázku: má firma, která vydělává na našem pokračujícím kontaktu se zemřelým, vůbec motivaci pomoci nám se s jeho smrtí vyrovnat?

Při debatách o digitálním posmrtném životě se snadno sklouzne k velkým slovům o nesmrtelnosti. Ve skutečnosti může být lidská motivace mnohem obyčejnější.

Někdo chce ještě jednou slyšet hlas své matky. Někdo by chtěl dědečkovi ukázat narozené dítě. Jiný má otázku, kterou za jeho života nikdy nepoložil. Někdo si jen přeje slyšet známou větu, kterou mu blízký člověk říkal, když bylo těžko.

Umělá inteligence dokáže některé z těchto potřeb napodobit. Nedokáže však vrátit člověka, který za hlasem stál.

To neznamená, že bychom měli digitální vzpomínky zakázat. Rodinný archiv, namluvené příběhy nebo interaktivní záznam životních zkušeností mohou mít obrovskou hodnotu. Rozumná hranice by ale měla oddělovat uchování skutečných vzpomínek od vytváření nových odpovědí jménem člověka, který už je nemůže schválit.

Čím větší svobodu digitální kopii dáme, tím méně bude představovat zemřelého a tím více bude představovat samotný algoritmus.

Umělá inteligence nám možná poprvé umožní, aby hlas člověka nepřestal reagovat ani po jeho smrti. Technologicky jde o působivý krok. Lidsky ale vstupujeme na území, pro které zatím nemáme pevná pravidla.

Budeme muset rozhodnout, kdo smí digitální kopii vytvořit, kdo ji může používat, jaká data do ní patří a kdy má být vypnuta. Budeme také potřebovat možnost předem říct, že si žádnou digitální podobu nepřejeme.

Především si však budeme muset přiznat, co od této technologie očekáváme. Chceme zachovat příběh člověka, nebo chceme předstírat, že jeho příběh stále pokračuje?

Fotografie, dopis nebo stará hlasová zpráva nám připomínají, že tu někdo byl. Digitální kopie může začít tvrdit, že tu stále je. A právě mezi těmito dvěma větami vede hranice, o které bychom měli rozhodnout dřív, než ji za nás nastaví technologické společnosti.