Článek
Před několika dny vyšel na Seznam Zprávách článek o tom, jak bude internet do tří let zhruba z 90 % umělý, tj. tvořený umělou inteligencí. Ať už chceme nebo nechceme takový online svět, překotnému vývoji generovaného obsahu se nevyhneme. Z internetu, který konzumujeme zhruba od konce devadesátých let prakticky až do současnosti, se stane minoritní záležitost.
Možná namítnete, že se online prostředí za necelé tři dekády výrazně proměnilo. To je pravda. Na počátku byly jen textové informace, mizerná grafika, pak přišly první e-shopy a po čase i sociální sítě. Nastala éra takzvaného internetu 2.0, kdy jeho obsah mohli spoluvytvářet i uživatelé. Text začaly doplňovat filmy, videa či muzika. Jenže jádro současného internetu je stále negenerované, tedy tvořené člověkem.
Tři vrstvy www
Ještě než si povíme něco o možných důsledcích tohoto přerodu, možná nebude od věci trocha statistiky. Představme si celý world wide web (www) jako koláč, který lze rozdělit na tři části - povrchový web (surface web), hluboký web (deep web) a temný web (dark web). Běžný uživatel nejčastěji vstupuje na povrchový web, jako je třeba tato stránka. Ten ve skutečnosti tvoří asi 10 % informací celosvětové sítě. Největší část obsahuje hluboký web (asi 88 - 89 %). Hluboký web je pro běžné uživatele nedostupný a nelze jej vyhledat třeba Googlem nebo vyhledávačem od Seznamu. To však neznamená, že je takový obsah nelegální, tvoří jej totiž různé databáze, firemní intranety a podobně. 1 - 2 % zůstávají kontroverznímu temnému webu, kde už je vysoký podíl nelegálního obsahu. Obsah takových stránek je také nedostupný a pro přístup na ně je nutné používat speciální prohlížeč. A ještě jedna zajímavost - podle jedné starší studie z roku 2010 obsahovalo zhruba 35 % povrchového webu pornografický materiál. Dnes bude zřejmě toto číslo podobné.
Realita²
Generovaný obsah pomocí AI nástrojů není sám o sobě problémem. Problémem jsou a budou stále lidé. Uměle tvořený materiál může na jednu stranu skvěle pomoci vědě, stejně tak ale šiřitelům takzvaných fake news. Jak tedy běžný uživatel pozná falešný text na sociálních sítích nebo podvržené video se známou osobností? Takový deepfake materiál se sice může ukázat jako falešný, ale to až v době, kdy se bude šířit jako lavina e-maily a sociálními sítěmi mezi uživateli, kteří mu budou věřit.
Obrázek od umělce? Ne, od umělé inteligence. Zadání znělo „Nakresli loď, která pluje při západu slunce a nad ní létají ptáci.“
Ono se něco takového v malé míře děje již teď. Na YouTube a jiných platformách se běžně objevují reklamy na investování, které doporučuje třeba prezident Petr Pavel nebo ředitel ČEZu. Jedná se samozřejmě o podvod. Zatím tito kyberšmejdi využívají jen fotografie zmíněných osobností, ale jak bude internet vypadat, až se s nimi objeví i videa? První pokusy už dokonce proběhly, nicméně zatím ne tak dokonalé, aby si bystrý uživatel nevšiml určitých nesrovnalostí.
Evidentně podvodná reklama (v červeném rámečku) na YouTube vydávající se za ČEZ. Nahlášeno Googlu.
S rozvojem generovaného obsahu bude zřejmě narůstat ještě více podvodný obsah, viz třeba falešné kopie autoritativních webů. Třeba poslední případ, kdy byla zneužita značka Alza, se objevil před několika hodinami a poznat, že se jedná o podvod, lze jen z adresního řádku. Ten však řada mobilních prohlížečů vůbec neukazuje. Zkrátka člověk musí být stále ve střehu. Chceme ale takový internet? Jednoznačně ne. Už teď musíme být na pozoru na internetových bazarech, před reklamami na nesmyslné investice či výrobky. Na sociálních sítích se můžeme stát obětí podvodu, když nás kamarád žádá o zaslání drobné částky na účet (ve skutečnosti byl jeho účet zneužit), v e-mailových schránkách máme falešná oznámení od bank, přepravních společností či jiných šmejdů. A tak by se dalo pokračovat.
Podvodná zpráva vydávající se za Sbazar.
Soumrak bezstarostného povrchového webu už tedy dávno nastal. Ono to tak není vidět, ale internet jako takový je kromě těch několika desítek (či stovek) autoritativních webů, poctivých e-shopů či diskuzních fór plný smetí a možná by potřeboval uklidit. O sociálních sítích ani nemluvě. Takový úklid je samozřejmě nemožný a s příchodem obsahu od AI to zcela jistě bude ještě horší.
Co s tím?
Hypotetické řešení existuje. Jeho implementace však může být hodně náročná. Určitá autorita by mohla značkovat uživatelsky bezpečnější, tj. AI negenerovaný obsah povrchového webu, který by zaručoval, že je konzumovaný materiál tvořený člověkem.
Paralelu lze vyvodit s dnešním HTTPS, tedy protokolem pro stránky se zašifrovanou komunikací. Běžný uživatel takto zabezpečené stránky, kterých je většina, pozná podle ikony zámku před URL adresou. Bohužel si už i podvržené stránky dokáží HTTPS obstarat. To se však týká jen webových stránek. Jak by se autentický obsah dal rozpoznávat na sociálních sítích, které jsou založeny na komunikaci mezi lidmi, zřejmě bude opravdu oříšek.
Ať tak či onak, v příštích letech se web změní a nic moc s tím nenaděláme. Zkrátka budeme muset být ještě více obezřetnější.
