Syntetický hlas zemřelého ještě není on sám

V dokumentu o Anthonym Bourdainovi zazní věta, kterou Bourdain skutečně napsal. Hlas ji pronese se známým rytmem, barvou i unavenou intimitou.

Jenže ta nahrávka nikdy neexistovala. Po jeho smrti ji vytvořil model z hodin starších záznamů. Divák slyší autora, který je zároveň autorem i není.

Když řekneme „něčí hlas“, sléváme dohromady několik vrstev. Biologický zvukový aparát. Rozpoznatelnou barvu a přízvuk. Naučený způsob frázování. Konkrétní herecký výkon. Soubor uložený na disku. A význam slov, která jsou pronesená.

Za života to drží pohromadě jedno tělo. Syntéza to rozpojí. Jeden člověk dodá staré nahrávky. Druhý napíše text. Třetí nastaví model. Čtvrtý výstup zveřejní. Posluchač přesto celé sdělení připíše tomu, koho poznal podle hlasu.

Věrnost zvuku není věrnost úmyslu.

Výzkumný systém VALL-E ukázal už v roce 2023, že personalizovanou řeč lze v experimentu složit z třísekundového vzorku. Model umí odhadnout, jak by věta zněla. Neumí ověřit, jestli by ten člověk dnes změnil názor, co by považoval za příliš soukromé, nebo jak by reagoval na událost, která nastala po jeho smrti.

Doplňuje mezery podle pravděpodobnosti. Čím přesvědčivěji to dělá, tím snáz se odhad zamění za autentickou odpověď. Stroj nevrací člověka. Skládá jeho pravděpodobnost.

Dcera zdědí telefon svého otce. Zná heslo. Má přístup k hlasovým zprávám. Z toho ještě neplyne, že může nechat otce propagovat politickou stranu.

U syntetického hlasu se překrývá nejméně čtyři okruhy kontroly. Ochrana osobnosti a důstojnosti zemřelého. Práva k původním nahrávkám a výkonům. Smluvní podmínky služby. A odpovědnost za nový výstup.

Právní otázka obvykle nezní, komu hlas patří. Zní, které oprávnění bylo potřeba pro tento konkrétní krok a kdo ho skutečně měl.

GDPR se výslovně nevztahuje na osobní údaje zemřelých. Členské státy si mohou stanovit vlastní pravidla. V Česku občanský zákoník chrání osobnost člověka i po smrti.

Od 2. srpna 2026 se v Evropské unii uplatňuje akt o umělé inteligenci. Článek 50 ukládá povinnost označit deepfake. Povinnost říct, že hlas je syntetický, ale není totéž jako oprávnění ho vyrobit. Označení řeší vztah k publiku. Osobnostní, autorská a smluvní pravidla řeší, jestli k použití vůbec smělo dojít.

Kalifornie z hlasu udělala majetek

Kalifornie šla přímočařejší cestou. Zákon AB 1836 od roku 2025 rozšířil ochranu zemřelé osobnosti o digitální repliky hlasu a podoby. Práva jsou majetková, převoditelná a děditelná. Ochrana trvá až sedmdesát let po smrti.

Výhoda je praktická. Zákon určuje, kdo může licenci udělit. Zároveň ale mění identitu v obchodovatelný statek. Když dědic hlas licencuje, může být právně „vyřešeno“, aniž by bylo jisté, že použití odpovídá přání zemřelého.

Řekne-li herec před smrtí „můžete používat můj hlas“, chybí odpověď na několik otázek. Kdo přesně může. Pro jaké médium. Na jak dlouho. Smí hlas živě reagovat na neznámé uživatele. Může pronášet politická nebo reklamní sdělení. A kdo ho vypne, když začne produkovat věty, které poškozují památku člověka.

Souhlas není jediné ano. Je to sada hranic.

Případ Jamese Earle Jonese ukazuje, že ani dobře doložená vůle nemusí uzavřít všechny konflikty. Odbory SAG-AFTRA podaly pracovněprávní podnět, protože firma nahradila lidské interprety, aniž by o podmínkách vyjednávala. Souhlas rodiny a spor o práci živých herců tu běžely vedle sebe.

Archivní předmět je stabilní. Při každém přehrání říká totéž. Generativní systém reaguje na nové otázky, kombinuje informace a může vytvářet vzpomínky, rady nebo omluvy, které nikdy neexistovaly.

Nejenže připomíná vztah. Aktivně ho dál píše.

Když agent řekne „odpouštím ti“, může to být pro pozůstalého hluboce uklidňující. Zároveň jde o větu, kterou sestavil model podle dat a instrukcí. Emoční účinek je skutečný. Původní lidský úmysl prokázaný není.

Výzkum pokračujících pout po ztrátě blízkého člověka to neuzavírá jedním směrem. Přehled desítek studií ukazuje, že takové pouto může souviset s útěchou i s tísní. Nedá se jednoduše označit za prospěšné, nebo za škodlivé.

Nejpřesnější pracovní pojem je proto syntetické zastoupení. Není to zemřelý. Není to ani pouhá nahrávka. Je to nový komunikační objekt vytvořený z jeho stop, řízený živými lidmi a softwarem a vybavený vypůjčenou důvěryhodností.

Zemřelý je zdrojem identity. Není automaticky autorem nového výroku. Autor textu, provozovatel modelu, držitel dat a distributor mají každý vlastní podíl.

Osm otázek, které stojí za to zodpovědět ještě za života. K čemu se hlas smí použít. Kdo ho smí použít. Která témata jsou zakázaná. Jak velkou autonomii systém dostane. Jak má být označený. Co se stane s daty a s dalším učením. Kdo smí z toho brát peníze. A kdo, a za jakých podmínek, repliku vypne.

Takový dokument převádí neurčité „snad by mu to nevadilo“ na konkrétní rozhodnutí. Omezuje prostor, ve kterém pozůstalí musí ve vlastním zármutku hádat, co by zemřelý chtěl.

Technologie nevrací hlas zemřelému. Půjčuje jeho důvěryhodnost živým.

- Rosner, H. (2021). The Ethics of a Deepfake Anthony Bourdain Voice. The New Yorker.

- Wang, C. a kol. (2023). Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers. Systém VALL-E.

- Nařízení (EU) 2016/679, bod 27. Zákon č. 89/2012 Sb., občanský zákoník, ochrana osobnosti po smrti. Nařízení (EU) 2024/1689, článek 50.

- Kalifornie, Assembly Bill 1836 (2024), účinnost od roku 2025. SAG-AFTRA k interaktivní replice Darth Vadera (2025).

- Hollanek, T. a Nowaczyk-Basińska, K. (2024). Griefbots, Deadbots, Postmortem Avatars. Hewson, H. a kol. (2024). Přehled pokračujících pout po ztrátě.

Původně publikováno na jinykontext.cz: https://jinykontext.cz/clanek/jiny-kontext-kdo-vlastni-vas-hlas-po-smrti
Jenže ta nahrávka nikdy neexistovala. Po jeho smrti ji vytvořil model z hodin starších záznamů. Divák slyší autora, který je zároveň autorem i není.

Hlas není jedna věc

Když řekneme „něčí hlas“, sléváme dohromady několik vrstev. Biologický zvukový aparát. Rozpoznatelnou barvu a přízvuk. Naučený způsob frázování. Konkrétní herecký výkon. Soubor uložený na disku. A význam slov, která jsou pronesená.

Za života to drží pohromadě jedno tělo. Syntéza to rozpojí. Jeden člověk dodá staré nahrávky. Druhý napíše text. Třetí nastaví model. Čtvrtý výstup zveřejní. Posluchač přesto celé sdělení připíše tomu, koho poznal podle hlasu.

Věrnost zvuku není věrnost úmyslu.

Výzkumný systém VALL-E ukázal už v roce 2023, že personalizovanou řeč lze v experimentu složit z třísekundového vzorku. Model umí odhadnout, jak by věta zněla. Neumí ověřit, jestli by ten člověk dnes změnil názor, co by považoval za příliš soukromé, nebo jak by reagoval na událost, která nastala po jeho smrti.

Doplňuje mezery podle pravděpodobnosti. Čím přesvědčivěji to dělá, tím snáz se odhad zamění za autentickou odpověď. Stroj nevrací člověka. Skládá jeho pravděpodobnost.

Soubor není budoucí věta

Dcera zdědí telefon svého otce. Zná heslo. Má přístup k hlasovým zprávám. Z toho ještě neplyne, že může nechat otce propagovat politickou stranu.

U syntetického hlasu se překrývá nejméně čtyři okruhy kontroly. Ochrana osobnosti a důstojnosti zemřelého. Práva k původním nahrávkám a výkonům. Smluvní podmínky služby. A odpovědnost za nový výstup.

Právní otázka obvykle nezní, komu hlas patří. Zní, které oprávnění bylo potřeba pro tento konkrétní krok a kdo ho skutečně měl.

GDPR se výslovně nevztahuje na osobní údaje zemřelých. Členské státy si mohou stanovit vlastní pravidla. V Česku občanský zákoník chrání osobnost člověka i po smrti.

Od 2. srpna 2026 se v Evropské unii uplatňuje akt o umělé inteligenci. Článek 50 ukládá povinnost označit deepfake. Povinnost říct, že hlas je syntetický, ale není totéž jako oprávnění ho vyrobit. Označení řeší vztah k publiku. Osobnostní, autorská a smluvní pravidla řeší, jestli k použití vůbec smělo dojít.

Kalifornie z hlasu udělala majetek

Kalifornie šla přímočařejší cestou. Zákon AB 1836 od roku 2025 rozšířil ochranu zemřelé osobnosti o digitální repliky hlasu a podoby. Práva jsou majetková, převoditelná a děditelná. Ochrana trvá až sedmdesát let po smrti.

Výhoda je praktická. Zákon určuje, kdo může licenci udělit. Zároveň ale mění identitu v obchodovatelný statek. Když dědic hlas licencuje, může být právně „vyřešeno“, aniž by bylo jisté, že použití odpovídá přání zemřelého.

Jedno ano nestačí

Řekne-li herec před smrtí „můžete používat můj hlas“, chybí odpověď na několik otázek. Kdo přesně může. Pro jaké médium. Na jak dlouho. Smí hlas živě reagovat na neznámé uživatele. Může pronášet politická nebo reklamní sdělení. A kdo ho vypne, když začne produkovat věty, které poškozují památku člověka.

Souhlas není jediné ano. Je to sada hranic.

Případ Jamese Earle Jonese ukazuje, že ani dobře doložená vůle nemusí uzavřít všechny konflikty. Odbory SAG-AFTRA podaly pracovněprávní podnět, protože firma nahradila lidské interprety, aniž by o podmínkách vyjednávala. Souhlas rodiny a spor o práci živých herců tu běžely vedle sebe.

Archiv mlčí. Agent odpovídá

Archivní předmět je stabilní. Při každém přehrání říká totéž. Generativní systém reaguje na nové otázky, kombinuje informace a může vytvářet vzpomínky, rady nebo omluvy, které nikdy neexistovaly.

Nejenže připomíná vztah. Aktivně ho dál píše.

Když agent řekne „odpouštím ti“, může to být pro pozůstalého hluboce uklidňující. Zároveň jde o větu, kterou sestavil model podle dat a instrukcí. Emoční účinek je skutečný. Původní lidský úmysl prokázaný není.

Výzkum pokračujících pout po ztrátě blízkého člověka to neuzavírá jedním směrem. Přehled desítek studií ukazuje, že takové pouto může souviset s útěchou i s tísní. Nedá se jednoduše označit za prospěšné, nebo za škodlivé.

Nejpřesnější pracovní pojem je proto syntetické zastoupení. Není to zemřelý. Není to ani pouhá nahrávka. Je to nový komunikační objekt vytvořený z jeho stop, řízený živými lidmi a softwarem a vybavený vypůjčenou důvěryhodností.

Zemřelý je zdrojem identity. Není automaticky autorem nového výroku. Autor textu, provozovatel modelu, držitel dat a distributor mají každý vlastní podíl.

Závěť pro hlas

Osm otázek, které stojí za to zodpovědět ještě za života. K čemu se hlas smí použít. Kdo ho smí použít. Která témata jsou zakázaná. Jak velkou autonomii systém dostane. Jak má být označený. Co se stane s daty a s dalším učením. Kdo smí z toho brát peníze. A kdo, a za jakých podmínek, repliku vypne.

Takový dokument převádí neurčité „snad by mu to nevadilo“ na konkrétní rozhodnutí. Omezuje prostor, ve kterém pozůstalí musí ve vlastním zármutku hádat, co by zemřelý chtěl.

Technologie nevrací hlas zemřelému. Půjčuje jeho důvěryhodnost živým.

Zdroje

- Rosner, H. (2021). The Ethics of a Deepfake Anthony Bourdain Voice. The New Yorker.
- Wang, C. a kol. (2023). Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers. Systém VALL-E.
- Nařízení (EU) 2016/679, bod 27. Zákon č. 89/2012 Sb., občanský zákoník, ochrana osobnosti po smrti. Nařízení (EU) 2024/1689, článek 50.
- Kalifornie, Assembly Bill 1836 (2024), účinnost od roku 2025. SAG-AFTRA k interaktivní replice Darth Vadera (2025).
- Hollanek, T. a Nowaczyk-Basińska, K. (2024). Griefbots, Deadbots, Postmortem Avatars. Hewson, H. a kol. (2024). Přehled pokračujících pout po ztrátě.

Původně publikováno na jinykontext.cz: https://jinykontext.cz/clanek/jiny-kontext-kdo-vlastni-vas-hlas-po-smrti