Článek
Podvodník přitom nepotřebuje vytvořit dokonalou kopii. Stačí, když nás na několik minut vystraší a nedá nám čas začít pochybovat.
„Tati, něco se stalo. Prosím, hlavně teď nezavěšuj.“
Hlas v telefonu poznáváte. Patří vašemu dítěti. Zní roztřeseně, možná pláče a tvrdí, že mělo nehodu. Volá z cizího čísla, protože vlastní telefon nefunguje. Potřebuje rychle poslat peníze a všechno vysvětlí později.
Tenhle telefonát jsem nezažil. Když jsem si ale zkusil představit, jak bych na něj reagoval, došlo mi, že bych v prvních vteřinách pravděpodobně nezkoumal kvalitu zvuku ani drobné nepřesnosti v intonaci. Jako rodič bych se hlavně snažil zjistit, co se stalo a jak mohu pomoct.
A přesně na to podobné podvody spoléhají.
Hlasu věříme dřív, než začneme přemýšlet
Heslo může někdo ukrást. Fotografii lze upravit a telefonní číslo napodobit. Hlas jsme ale dlouho vnímali jinak. Když jsme v telefonu poznali partnera, dítě nebo rodiče, považovali jsme tím otázku identity prakticky za vyřešenou.
Umělá inteligence toto pravidlo mění. Ke zkopírování hlasu může útočníkovi stačit krátká nahrávka, kterou najde ve videu na sociální síti, v rozhovoru nebo v jiném veřejně dostupném obsahu. Americká Federální obchodní komise před podobnými podvody varuje už několik let a doporučuje, aby lidé hlasu samotnému nevěřili. Situaci mají ověřit zpětným zavoláním na číslo, které skutečně znají.
Podobné případy už nejsou jen zahraničním příběhem. Česká policie letos popsala případ ženy, které zavolal údajný syn. Tvrdil, že měl nehodu a potřebuje peníze. Žena jeho hlas poznala a peníze poslala. Teprve později zjistila, že se synem vůbec nemluvila.
Při čtení takového příběhu se snadno řekne, že bychom se přece nenechali nachytat. Jenže my ho čteme v klidu a od začátku víme, že jde o podvod. Člověk na druhém konci telefonu tuto výhodu nemá. Slyší vyděšený hlas někoho blízkého a musí se rozhodovat během několika desítek sekund.
Podvodník nepotřebuje dokonalou kopii
Když se mluví o napodobování hlasu pomocí AI, většinou řešíme, zda lze falešnou nahrávku poznat. Posloucháme nepřirozené pauzy, zvláštní výslovnost nebo emoce, které úplně nesedí. To může fungovat u ukázky přehrávané v tiché místnosti. Skutečný podvod ale probíhá v mnohem méně příznivých podmínkách.
Volající může tvrdit, že je na ulici, v nemocnici nebo na policejní stanici. Do hovoru přidá hluk, pláč, špatný signál a několik nedokončených vět. Pokud hlas nezní úplně přesně, vysvětlí to zranění, stresem nebo nekvalitním telefonem. To, co by při soustředěném poslechu působilo podezřele, začne v dané situaci dávat smysl.
Hlasová kopie navíc nemusí vést celý rozhovor. Může pronést jen několik vět a telefon potom převezme údajný policista, lékař nebo právník. Ten už nemusí nikoho napodobovat. Stačí, že předchozí hlas vytvořil v rodiči pocit, že jeho dítě je skutečně v nebezpečí.
Nejsilnější částí útoku proto nemusí být samotná umělá inteligence. Tou je příběh, který vysvětlí všechny nedokonalosti a zároveň člověku nedovolí zastavit se.
Stejný podvod funguje i bez umělé inteligence
Překvapilo mě, že podvodníci často nepotřebují ani napodobený hlas. Policie nedávno popsala případ ženy, které přišla zpráva z neznámého čísla. Údajná dcera měla rozbitý telefon a potřebovala zaplatit dvě neodkladné faktury. Žena poslala 44 200 korun a skutečné dceři zavolala až potom.
AI tedy nevytvořila úplně nový druh podvodu. Přidala mu další přesvědčivou vrstvu. Dříve musel útočník doufat, že oběť uvěří zprávě z cizího čísla. Nyní může stejný příběh podpořit hlasem člověka, kterého oběť dobře zná.
To je důležité i pro obranu. Pokud se budeme soustředit pouze na rozpoznávání uměle vytvořeného hlasu, řešíme technickou část problému. Jenže podvodník pracuje hlavně s naším strachem, ochotou pomoct a pocitem, že každá minuta může rozhodovat.
Proto není bezpečné spoléhat na to, že falešný hlas poznáme. Potřebujeme postup, který použijeme i ve chvíli, kdy zní naprosto věrohodně.
Jedno slovo může být účinnější než další aplikace
Jako programátor mám přirozenou tendenci hledat technologické řešení. Aplikaci, která rozpozná uměle vytvořený hlas, označí podezřelý hovor nebo ověří volajícího. Podobné nástroje určitě vznikat budou, ale rodina potřebuje něco, co může používat už dnes.
Nejjednodušší možností je tajné rodinné slovo nebo krátká věta. Něco, co nepatří mezi běžně používané odpovědi a není dohledatelné na sociálních sítích. Nemělo by jít o jméno psa, datum narození ani oblíbené místo, o kterém rodina pravidelně píše na internetu.
Použití by mělo být jednoduché:
- Při každém neobvyklém požadavku se zeptat na domluvené slovo.
- Hovor ukončit, i když volající žádá, abychom nezavěšovali.
- Zavolat blízkému na jeho známé číslo.
- Pokud telefon nezvedá, kontaktovat dalšího člena rodiny.
- Neposílat peníze pouze na základě příchozího hovoru nebo zprávy.
Rodinné heslo není dokonalá ochrana. Někdo ho může prozradit, zapomenout nebo použít tam, kde ho uslyší další člověk. Proto nesmí nahrazovat zpětné ověření. Funguje spíš jako překážka, která přeruší připravený scénář a dá člověku několik vteřin navíc.
Stejný postup doporučuje také FBI. Vedle ověření přes dříve potvrzený kontakt radí rodinám vytvořit tajné slovo nebo frázi, podle které mohou ověřit svou identitu.
Největším varováním je zákaz ověřovat
Podezřelý hovor nemusí prozradit robotický hlas. Mnohem spolehlivějším varováním je požadavek, abychom jednali okamžitě, nikomu nevolali a situaci s nikým nekonzultovali.
Skutečné dítě v problému může být také vystrašené a chtít rychlou pomoc. Nemělo by mu ale vadit, že mu zavoláme zpět nebo kontaktujeme druhého rodiče. Policista, lékař ani zaměstnanec banky také nemá důvod bránit tomu, abychom jeho totožnost ověřili přes oficiální telefonní číslo.
Pokud volající tvrdí, že zavěšením někoho ohrozíme, není to důvod zůstat na lince. Je to důvod zavěsit.
Tohle pravidlo je použitelné i bez znalosti nejnovějších technologií. Nemusíme vědět, jak funguje hlasový model, z kolika sekund dokáže vytvořit kopii ani podle čeho se syntetický hlas poznává. Stačí odmítnout situaci, ve které nám druhý člověk zakazuje ověření a současně chce peníze, přístupové údaje nebo autorizační kód.
Nejde o nedůvěru k vlastním dětem
Představa, že zavěsím dítěti, které mě právě prosí o pomoc, působí nepřirozeně. Jde proti rodičovskému instinktu. Právě proto se podobné pravidlo nedá vymýšlet až během krizového hovoru. Musí vzniknout předem a všichni v rodině musí vědět, že zpětné zavolání neznamená nedůvěru.
Dříve jsme věřili telefonnímu číslu. Potom jsme zjistili, že se dá podvrhnout. Teď nemůžeme automaticky věřit ani hlasu, který zní jako někdo z naší rodiny.
Neznamená to, že máme začít pochybovat o vlastních dětech. Znamená to jen, že důvěra nově potřebuje ještě jeden krok. Někdy jím bude zpětný telefonát. A někdy jedno předem domluvené slovo, které podvodník nezná.
