Článek
V dnešní společnosti naprostá většina z nás získává informace a formuluje názory na základě obsahu z internetu. Každou vteřinu jsme vystaveni obrovskému toku informací. Sociální sítě a média, nám každý den předkládají nové zprávy, videa a fotografie, které utváří naše vnímání světa. Proto každý, kdo má schopnost vytvářet deepfake může způsobit zmatek v mikro i makro měřítku.
Deepfake je technologie, která pomocí algoritmů strojového učení a umělé inteligence dokáže vytvořit neuvěřitelně reálná, ale falešná videa, fotografie nebo audionahrávky. Dokáže manipulovat s obličeji, gesty a hlasy.
Deepfake útok může začít z jakékoliv komunikační platformy, včetně emailu nebo falešných profilů na sociálních sítích. Útočníci mají možnost vytvořit přesvědčivé podvodné komunikace, které se zdají být od skutečných osob. V rámci útoku mohou být využívány i soukromé fotografie osoby, kterou se útočník snaží napodobit. To znamená, že například u videohovoru nebo fotografií vytvořené pomocí deepfake technologie může být jako pozadí použita domácí pracovna dané osoby, což může u obětí útoku vyvolat falešný dojem skutečné komunikace. A ruku na srdce. Většina lidí si své soukromí nehlídá.
„V srpnu 2023 zaměstnanci slovenské společnosti GymBeam přišla zpráva na WhatsAppu z účtu imitující účet Dalibora Cicmana, zakladatele a ředitele GymBeam. Ve zprávě bylo sdělení, že je nutné se rychle spojit a odkaz na Microsoft Teams. Na videohovoru byla deepfake kopie Cicmana s další osobou, která byla představena jako externí právník. Během schůzky se falešná dvojice snažila zjistit zůstatky na firemních bankovních účtech. ,,Šťastnou náhodou bylo, že jsme se daný den osobně setkali a obratem jsem odepisoval na Slacku. Prý kopie vypadala velmi věrohodně a podezřelé bylo jen to, proč naléhavě potřebuji informace o bankovních účtech přes Teams, když využíváme Hangout nebo Slack,“ popisuje Cicman.
Úspěšné pokusy mohou aktérům umožnit získat citlivé finanční, majetkové nebo interní bezpečnostní informace. Techniky používané k napodobení konkrétních zákazníků mohou být také využívány k získání přístupu k jednotlivým zákaznickým účtům, pro přístup k účtu, nebo jiné účely shromažďování informací.
Velikost trhu s deepfake softwarem byla v roce 2023 oceněna na částku 72.4 milionů USD a očekává se, že do roku 2028 dosáhne velikosti 348,9 milionů USD.
Politika a veřejné mínění.
Deepfake videa mohou být také použita k šíření falešných informací a manipulaci veřejného mínění. Mohou být například vytvořena videa, kde politici nebo veřejně známé osobnosti říkají nebo dělají věci, které ve skutečnosti nikdy neřekli ani neudělali. To může vést k politickým krizím, ovlivňování voleb a šíření nenávistí.
Další formou zneužití jsou například podvodné telefonáty.
Představte si, že vám zvoní telefon, vy ho zvednete a tam uslyšíte hlas manžela nebo manželky, který vám vysvětluje, že se dostal do nouzové kritické situace a potřebuje zaslat peníze. Stresová situace může ovlivnit váš racionální úsudek a může vás dovést k rychlému emocionálnímu rozhodnutí a peníze jsou fuč. Podvodníci v tomto případě naklonují pomocí AI hlasy vašich blízkých a tento model pak mohou nechat odříkat jakýkoli text.
Češi přišli v roce 2023 o zhruba 200 milionů korun kvůli podvodným telefonátům, jejichž prostřednictvím se zločincům podařilo dostat k penězům na jejich bankovních účtech. A to prosím bez AI.
,,Dneska ještě hledáme ty podvrhy v mase reálného obsahu na internetu, ale podle mě velmi brzy nastane doba, kdy bude většina obsahu falešná nebo budeme muset předpokládat, že je falešná, a pak budeme hledat, to co je skutečné. “
To jsou slova Matyáše Boháčka, studenta a výzkumníka v oblasti umělé inteligence. Studuje počítačové vědy na Stanfordu, kde se pod vedením jednoho z předních světových odborníků na AI profesora Hanyho Farida z Kalifornské university v Berkeley zaměřuje na generativní umělou inteligenci, detekci deepfake a mediální forenzní analýzu.
Společně také vytvořili deepfake video moderátora americké CNN Andersona Coopera, který se ve vysílání vystřídal s reálným Cooperem. Moderátora vytvořili za pomoci veřejně dostupných nástrojů za několik týdnů. A Coopera v deepfake videu nepoznali ani jeho nejblížší kolegové.
,,Dnes takové video dokáže vytvořit kdokoli pomocí aplikací, které jsou například v testovacím režimu. Stačí k tomu jedna fotografie nebo kousek videa." vysvětluje Boháček.
Matyáš se dnes sám snaží, aby se dařilo podobné podvody odhalovat. Jak tedy poznat zmanipulované video?
Tipy pro odhalování deepfakes
• Zvětšit video, budete schopni zachytit více detailů.
• Oči - nepřirozené mrkání nebo jeho absence.
• Ústa - chvění spodního rtu, synchronizace se zvukem, občasný detailní nesoulad mezi pohybem rtu a mluveným slovem.
•Pozadí- postava zvláštně vystupuje z pozadí, pozadí je nepřirozené v nesouladu.
• Zakrýt si uši a pozorovat, jak sedí řeč do úst.
Evropa a AI
Evropská komise v dubnu 2021 navrhla Akt o umělé inteligenci (AI ACT). Který vešel v platnost 21.května 2024. Je to právní předpis Evropské unie, který má regulovat používání a nasazení systému umělé inteligence v členských státech. Jde o první závazné, celosvětové nařízení svého druhu, které stanovuje společný rámec pro bezpečné, etické a ekologické využívání AI technologií.
Když jsme u té ekologie, v kontextu umělé inteligence se totiž používá značné množství vody především na chlazení. Například Chat GPT spotřebuje půl litru vody na 20 příkazů. Představte si ale, že ho v jednu chvíli používají desítky milionu lidí. Chat GPT má už teď 100 milionů uživatelů za týden. V případě, že by každý z nich zadal pouze jeden příkaz, za rok se celkově spotřebuje 7 miliard litrů vody, což by asi 11 tisícům lidí stačilo na celý život.
Umělá inteligence změní svět stejně jako kdysi internet. Nyní stojíme na hraně dějinného předělu. Technologický pokrok přináší neustále nové nástroje a přístupy, které mění způsob, jakým pracujeme, učíme se a vnímáme svět kolem nás. Na jedné straně mince otevírá AI obrovské příležitosti, na straně druhé vyvolává debaty o tom, jak ovlivní naši společnost.
My všichni se budeme muset rozhodnout, zda a do jaké míry chceme AI využívat ve svém životě jako jednotlivci, ale na úrovni společnosti tato volba již dávno padla AI je tady. A také tu zůstane.
Zdroje:
Česká asociace umělé inteligence
Digitální Česko Akt o umělé inteligenci
Hyde park civilizace Matyáš Boháček
Česká televize/čt24
