Článek
Umělá inteligence dokáže během několika sekund vytvořit obraz člověka, který nikdy nevznikl, napodobit jeho hlas nebo upravit existující video tak, aby říkal něco, co ve skutečnosti nikdy neřekl. Technologie sama o sobě není špatná. Používá se při filmové tvorbě, dabingu, vzdělávání i zábavě. Problém přichází ve chvíli, kdy se stejná technologie dostane do rukou někoho, kdo ji využije k podvodu.
A právě tady se mění jedno ze základních pravidel bezpečnosti na internetu. Dříve jsme mohli věřit tomu, co slyšíme v telefonu nebo vidíme na videu. Dnes už samotný obraz nebo hlas nemusí být dostatečným důkazem identity.
Hlas, který zní dokonale jako váš blízký
Představte si telefonát. Na druhém konci slyšíte svého syna nebo dceru. Hlas je známý, způsob vyjadřování také. Volající tvrdí, že měl nehodu, přišel o telefon a potřebuje rychle poslat peníze. Problém je v tom, že na druhé straně nemusí být váš příbuzný, ale AI vytvořená kopie jeho hlasu. K vytvoření přesvědčivé hlasové napodobeniny může v některých případech stačit veřejně dostupná nahrávka. Sociální sítě jsou přitom plné videí, podcastů, rozhovorů a hlasových zpráv, které mohou poskytnout dostatek materiálu pro napodobení. Podvodník navíc nepotřebuje vytvořit hodinový rozhovor. Stačí několik vět, které vás přimějí udělat něco konkrétního.
Video už není automaticky důkaz
Podobný princip funguje u videa. Deepfake může zobrazit člověka, který mluví, tváří se nebo se pohybuje způsobem, který působí velmi přirozeně. To, že něco vidíte na obrazovce, proto ještě nemusí znamenat, že se to skutečně stalo. Podvodníci mohou vytvářet falešná videa známých osobností, politiků nebo finančních expertů a jejich prostřednictvím propagovat investice, kryptoměny či jiné podvodné nabídky. Právě známá tvář dodává podvodu důvěryhodnost. Člověk přirozeně předpokládá, že pokud někdo vystupuje ve videu jako známý odborník, musí být nabídka skutečná.
Největší síla deepfake není dokonalost
Možná překvapivě nemusí být deepfake technicky dokonalý. Stačí, když vytvoří dostatečný pocit naléhavosti. Podvodník nechce, abyste video analyzovali. Chce, abyste zareagovali dříve, než začnete pochybovat. Proto se často kombinuje několik technik. Falešné video může být doplněno důvěryhodně vypadajícím webem, falešnými recenzemi, reklamou na sociálních sítích a časovým tlakem. Najednou nehodnotíte jeden podezřelý obrázek. Vidíte celý příběh, který působí konzistentně.
Krátký telefonát může stačit
Deepfake hlas nemusí vést k dlouhému rozhovoru. Podvodník může například zavolat, říct několik vět a následně hovor ukončit s tím, že zavolá později. Cílem může být získání důvěry nebo vytvoření pocitu, že jste skutečně mluvili s konkrétní osobou. V další fázi už může přijít SMS, e-mail nebo žádost o platbu. Nečekaný telefonát proto není vhodné ověřovat pouze podle hlasu.
Pokud vám někdo blízký volá s neobvyklou žádostí o peníze nebo přístupové údaje, zavolejte mu zpět na číslo, které už máte uložené. Ne na číslo, které vám během hovoru nadiktuje. Ještě lepší může být položit otázku, na kterou by cizí člověk jen těžko znal odpověď. Ani to ale není dokonalá ochrana.
Sociální sítě poskytují podvodníkům materiál
Čím více o sobě zveřejňujeme, tím jednodušší může být vytvořit přesvědčivější podvod. Fotografie, videa, hlasové nahrávky, informace o rodině, zaměstnání nebo dovolené mohou pomoci sestavit příběh, který bude působit velmi osobně. Nemusíte přitom přestat používat sociální sítě. Stačí si uvědomit, že veřejně dostupný obsah může mít hodnotu i pro někoho, kdo vás nikdy nepotkal.
Zvláštní opatrnost je na místě u veřejných videí, kde mluvíte delší dobu přímo do kamery. Zatímco dříve šlo hlavně o obsah pro přátele a sledující, dnes může být zároveň materiálem pro nejrůznější nástroje umělé inteligence.
Falešné video může napodobit i vašeho šéfa
Deepfake podvody nemusí mířit pouze na běžné uživatele. Zajímavým cílem jsou také firmy. Zaměstnanec může například dostat videohovor od osoby, která vypadá jako nadřízený a požaduje převod peněz, odeslání dokumentů nebo jiný citlivý úkon. V minulosti se podobné útoky opíraly především o kompromitované e-mailové účty. Dnes může útočník přidat hlas a tvář, které mají vytvořit mnohem silnější pocit důvěry.
Proto firmy stále častěji potřebují pravidla, která nespoléhají pouze na to, kdo je na obrazovce. U citlivých finančních operací může být například nutné dodatečné potvrzení jiným komunikačním kanálem.
Pravost obsahu bude stále těžší posuzovat očima
Dříve jsme při odhalování podvodu hledali chyby. Divně vypadající ruce, nepřirozené mrkání nebo špatně synchronizované rty mohly být dobrým vodítkem. Na to ale nelze dlouhodobě spoléhat. Modely umělé inteligence se zlepšují a stejné vizuální nedostatky, které byly dříve nápadné, mohou postupně mizet. Navíc není potřeba vytvořit hollywoodsky dokonalé video. Pro podvod často stačí několik sekund obsahu, který vypadá dostatečně přesvědčivě. Mnohem důležitější než hledání jedné podivné chyby proto bude ověřování kontextu.
Důvěřujte méně obsahu a více ověření
Když vám někdo pošle video, ve kterém známá osobnost doporučuje investici, není nejlepší otázkou „Vypadá to skutečně?“. Lepší je zjistit, zda stejnou informaci potvrzují důvěryhodné a nezávislé zdroje. Platí to také u telefonátů. Pokud vám někdo volá s nečekanou žádostí o peníze, změnu hesla nebo odeslání citlivých údajů, ověřte si jeho identitu jinou cestou. Zavolejte na známé číslo. Otevřete oficiální aplikaci. Napište přímo danému člověku. Kontaktujte firmu přes její oficiální web. Čím citlivější požadavek, tím méně by měla stačit jediná forma ověření.
Pozor na emoce a časový tlak
Deepfake technologie může být působivá, ale podvodníci stále spoléhají na velmi starý princip: strach, autoritu, překvapení a naléhavost. „Pošli mi peníze hned.“ „Nikomu o tom neříkej.“ „Musíš to vyřešit během deseti minut.“ „Klikni na tento odkaz, jinak přijdeš o účet.“ Pokud se k tomu přidá hlas nebo tvář člověka, kterému důvěřujete, může být velmi těžké zachovat chladnou hlavu. Právě proto je dobré mít jednoduché pravidlo: čím větší tlak na okamžité rozhodnutí, tím více času si vezměte na ověření.
Budeme ještě někdy věřit videu?
Pravděpodobně ano. Jen k němu budeme muset přistupovat podobně jako k textu na internetu. To, že něco někdo zveřejnil, ještě neznamená, že je to pravda. Budoucnost digitálního obsahu nebude stát pouze na schopnosti vytvořit realistické video, ale také na schopnosti ověřit jeho původ.
Pro běžného člověka z toho plyne poměrně jednoduchá změna návyku. Pokud video nebo telefonát vyvolává silnou emoci a současně po vás požaduje peníze, heslo nebo jiný citlivý údaj, nestačí se spolehnout na to, co vidíte a slyšíte.
