Hlas ani tvář už nestačí. Nová aplikace má odhalovat podvodníky

Vodafone chce od září nabídnout aplikaci, která má rozpoznávat uměle vytvořený nebo pozměněný obsah také během hovorů a videokonferencí. Operátor připravuje službu s technologickou společností Synhawk, uvedla viceprezidentka Vodafonu pro firemní zákazníky Veronika Brázdilová v rozhovoru pro Seznam Zprávy. Jde zatím o oznámení chystaného produktu, nikoli o veřejně doložený nezávislý test jeho úspěšnosti.

Nástup generativní umělé inteligence změnil způsob, jakým lze zneužít lidskou důvěru. Podvodník už nemusí přesvědčivě napodobovat jen slovník bankéře, policisty nebo vedoucího pracovníka. Pomocí syntetického zvuku a obrazu může vytvořit hlasovou zprávu, video či videohovor, v němž známá osoba zdánlivě mluví a reaguje.

Rozsah rizika ukázal případ britské inženýrské společnosti Arup. Podle Financial Times převedl zaměstnanec hongkongské pobočky po videokonferenci s digitálně napodobenými kolegy celkem 200 milionů hongkongských dolarů, tehdy přibližně 25 milionů amerických dolarů. Firma potvrdila použití falešných hlasů a obrazů; její interní systémy podle vyjádření společnosti napadeny nebyly.

Připravovaná služba má podle zveřejněného popisu pracovat ve třech vrstvách. První se zaměří na obsah, který uživatel obdrží nebo najde na internetu, druhá na hovory vedené prostřednictvím videokonferenčních platforem a třetí na telefonáty probíhající v síti operátora. Cílem je rozšířit kontrolu za hranici běžného rozpoznávání podezřelého telefonního čísla.

U textu, hlasové zprávy nebo videa uloženého v telefonu má uživatel obsah nasdílet do aplikace, která jej vyhodnotí. Taková kontrola může upozornit na znaky digitální úpravy, samotný výsledek však musí být srozumitelný a doplněný informací o míře jistoty. Jednoduché označení „pravé“, nebo „falešné“ by u hraničních případů mohlo vyvolat nebezpečný pocit absolutní jistoty.

Při videokonferencích má nástroj ověřovat, zda je člověk na druhé straně živý, zatímco síťová vrstva má analyzovat probíhající telefonát. Právě kontrola v reálném čase by mohla být užitečná ve chvíli, kdy volající žádá mimořádnou platbu, sdělení přístupových údajů nebo jiné nestandardní jednání. Rychlost vyhodnocení přitom nesmí zásadně zhoršovat kvalitu hovoru ani přicházet až poté, co oběť citlivou operaci provede. Technická detekce může vytvořit další bezpečnostní bariéru, neměla by však nahradit ověření identity jiným kanálem. Zvlášť ve firmách je potřebné oddělit samotnou komunikaci od schválení platby či změny bankovních údajů. Hlas a obraz známého člověka už samy o sobě nemohou být považovány za dostatečný důkaz.

Opatrnost podporuje i analýza britského ministerstva pro vědu, inovace a technologie zveřejněná v březnu 2026. Trh s detekcí deepfake obsahu podle ní zůstává v rané fázi a jeho rozvoj brzdí mimo jiné pochybnosti o spolehlivosti, nedostatek reprezentativních tréninkových dat a rozdílné metody měření přesnosti. Nové způsoby manipulace proto mohou ochranné systémy dočasně předběhnout.

Česká policejní statistika ukazuje, že nejde o okrajový bezpečnostní problém. Policie ČR za rok 2025 evidovala 21 137 skutků v kyberprostoru, o 14,3 procenta více než o rok dříve. Tato oblast představovala 12,4 procenta registrované kriminality a její objasněnost činila 15,1 procenta; významnou část škod policie spojila se sociálním inženýrstvím, podvodnými investicemi a phishingem.

Samostatný pohled na klienty bank přinášejí údaje České bankovní asociace, které shrnula Česká televize. V roce 2025 bylo zaznamenáno téměř 91 tisíc útoků na bankovní klienty a škody přesáhly 2,1 miliardy korun. Čísla zahrnují různé způsoby napadení, nejen deepfake podvody, a proto je nelze vydávat za statistiku ztrát způsobených výhradně umělou inteligencí.

U podvodných telefonátů bývá rozhodujícím nástrojem manipulace. Falešný bankéř nebo policista oznámí napadení účtu, zneužití osobních údajů či údajnou potřebu převést peníze do bezpečí. Někdy se do příběhu postupně zapojí více volajících, kteří se navzájem potvrzují a posilují dojem, že oběť čelí skutečné krizové situaci.

Důvěryhodnost hovoru může zvýšit podvržené telefonní číslo, znalost osobních údajů i odborně znějící slovník. Deepfake hlas nebo obraz k této sadě prostředků přidává další přesvědčivou vrstvu, ale základní princip útoku zůstává stejný: vyvolat strach, omezit čas na rozmyšlenou a zabránit nezávislému ověření. Požadavek na utajení před rodinou, kolegy nebo zaměstnanci banky je proto výrazným varovným signálem.

Policie ČR doporučuje pravidlo tří Z: podezřelou situaci zastavit, telefonát zavěsit a tvrzení zkontrolovat prostřednictvím ověřené komunikace s bankou. Policisté ani banky po lidech nepožadují převod peněz na údajný bezpečný účet, výběr hotovosti k předání cizí osobě nebo vklad do kryptoměnového automatu. Stejně tak není bezpečné instalovat na pokyn volajícího program pro vzdálený přístup.

Firmy by měly na riziko reagovat také změnou vnitřních postupů. Mimořádnou platbu, změnu účtu dodavatele nebo předání citlivých dat je vhodné ověřit přes předem známý kontakt a u významných operací vyžadovat souhlas další osoby. Zaměstnanec musí mít možnost podezřelý požadavek zastavit bez obavy, že bude potrestán za zdržení, protože právě tlak na rychlost útočníkům prospívá. O skutečné hodnotě připravované aplikace rozhodnou až konkrétní výsledky v běžném provozu. Ve zveřejněném rozhovoru nejsou uvedeny nezávisle ověřené hodnoty úspěšnosti, četnost chybných varování, podmínky zpracování citlivých hlasových a obrazových dat ani přesný rozsah dostupnosti služby. Dokud tyto informace nebudou známé, je korektní mluvit o slibném doplňku ochrany, nikoli o nástroji, který bezpečně odhalí každý podvod.

Technologie může člověka varovat, ale nemůže za něj převzít odpovědnost za každé rozhodnutí. Ani kvalitní detektor nebude neomylný. Útočníci navíc své metody průběžně mění a hledají situace, pro něž ochranný systém dosud nemá dostatek dat. Proto musí vedle automatické kontroly zůstat jednoduchá možnost hovor ukončit a vše ověřit znovu.

Nejdůležitější obranou je čas, který si člověk odmítne nechat vzít. Skutečná banka, policie ani odpovědný nadřízený nepotřebují, aby někdo ve strachu okamžitě odeslal úspory nebo obešel firemní pravidla. Ověření přes známé telefonní číslo či druhou oprávněnou osobu může působit pomalu, ale ve skutečnosti bývá nejrychlejší cestou, jak zabránit škodě. Bezpečnostní postup proto nesmí stát pouze na tom, zda hlas zní povědomě a tvář vypadá přesvědčivě.

Připravovaná aplikace ukazuje, že obrana se začíná přesouvat přímo do komunikačních kanálů, v nichž útok vzniká.

To je potřebný směr, protože dodatečné odhalení manipulace už ukradené peníze samo nevrátí. Stejně důležité ale bude zveřejnit srozumitelné informace o přesnosti, ochraně soukromí a mezích použití. V době syntetických hlasů a tváří nebude důvěra samozřejmostí, nýbrž výsledkem ověřování.