Článek
Zatímco jsme poslední roky trávili vášnivými debatami o tom, jestli nás umělá inteligence připraví o práci nebo zda nás roboti jednou nahradí v kancelářích, přímo pod našima rukama se začal odehrávat mnohem děsivější scénář. AI nám totiž nenápadně, ale systematicky krade samotnou realitu. Nejnovější vědecké studie bijí na poplach před novou zbraní hromadného manipulování, pro kterou mají experti pojmenování: AI roje.
Mluvíme o vysoce sofistikovaných, koordinovaných armádách digitálních agentů, kteří fungují jako jeden organismus. Tyto roje se dokážou infiltrovat do jakékoli online diskuse od politických debat na Facebooku až po uzavřené skupiny na Telegramu. Jejich úkol je jasný: převzít kontrolu nad veřejným prostorem, šikanovat a umlčet nepohodlné hlasy a pomocí tisíců falešných profilů vytvořit dokonalou, neprůstřelnou iluzi, že „si to myslí všichni“.
Tento útok na naše vnímání světa je o to nebezpečnější, že probíhá skrytě. AI roje nevykopávají dveře, ony se k vám domů dostávají skrze displeje telefonů v podobě „názorů většiny“. Pokud totiž jako občané ztratíme schopnost rozlišit mezi skutečným veřejným míněním a algoritmicky generovanou simulací jednomyslnosti, přestáváme být svobodnými lidmi a stáváme se loutkami v rukou těch, kteří tyto digitální armády ovládají.
Psychologická past, které nelze uniknout
Představte si běžnou situaci: napíšete na sociální síť svůj upřímný názor na aktuální dění. Během několika minut se pod vaším příspěvkem rozhoří nečekaně intenzivní debata. Nejsou to žádní vulgární boti s prázdnými profily a lámanou češtinou, které byste okamžitě prokoukli. Naopak. Čelíte armádě kultivovaných, pohotových a zdánlivě nezávislých diskutérů. Jeden vám věcně oponuje a cituje u toho nejnovější statistiky, druhý s vámi sdílí dojemnou „osobní zkušenost“, která váš argument staví do špatného světla, a třetí vás břitce a vtipně shodí před ostatními. V tu chvíli se dostaví tísnivý pocit – pocit, že jste úplně mimo, že stojíte sami proti všem a vaše vnímání reality je chybné.
Jenže ve skutečnosti proti vám nestojí lidé, ale koordinovaný AI roj. Toto není náhodný shluk názorů, ale matematicky přesně řízená operace. Cílem není jen vyvrátit vaše tvrzení, ale psychologicky vás zlomit nebo umlčet. Tento fenomén využívá tzv. sociální důkaz: lidská mysl má přirozenou tendenci podřídit se většině. Když vidíte deset různých „osobností“, které nezávisle na sobě tvrdí totéž, vaše kritické myšlení začne podvědomě kapitulovat.
Už dávno nejde o ty hloupé, primitivní automaty, které jsme znali z minulých let a které dokázaly jen dokola opakovat jednu naučenou větu. Tyto nové systémy, založené na pokročilých jazykových modelech, spolupracují jako dokonale sehrané komando. Dokážou si mezi sebou v reálném čase rozdělovat role – jeden hraje „hodného policajta“, druhý agresivního kritika, třetí nezaujatého experta. Jsou schopny se okamžitě „vžít“ do vaší digitální psychologie, analyzují vaši historii, slovník i slabá místa, na která pak cíleně útočí.
Pokud AI vyhodnotí, že jste vášnivý fanoušek fotbalu, nebude na vás hned útočit s politickou propagandou. Místo toho s vámi bude roj několik dní nebo týdnů přátelsky klábosit o výsledcích ligy, přestupech a taktice, aby si vybudoval vaši důvěru a stal se přirozenou součástí vaší sociální bubliny. Teprve ve chvíli, kdy vás má „na háčku“, vám podstrčí politickou lež nebo manipulativní narativ. V tu chvíli už totiž nekomunikujete s anonymním algoritmem, ale s „přítelem“, kterého by vás ani nenapadlo podezřívat.
Iluze, které uvěříte, i když nechcete
Vědci varují před extrémně nebezpečným jevem zvaným „syntetický konsenzus“. Jde o situaci, kdy AI roje dokážou v digitálním prostoru vyvolat dokonalou iluzi, že určitý názor, ideologie nebo kandidát má drtivou podporu veřejnosti. Ve skutečnosti však tento názor nemusí zastávat jediný živý člověk. Síla této lži nespočívá v kvalitě argumentů, ale v jejich kvantitě a zdánlivé všudypřítomnosti.
Lidé jsou evolučně naprogramováni k tomu, aby věřili tomu, co říká většina. Je to náš vnitřní mechanismus přežití – jít s davem je bezpečné. Pokud AI nasimuluje tuto drtivou většinu, dokáže během několika týdnů doslova ohnout náladu v celé zemi, varují výzkumníci. Tento proces funguje jako tichý virus: když se i ti největší skeptici ocitnou v prostředí, kde tisíce hlasů (byť umělých) mluví stejným směrem, začnou o svém vlastním úsudku pochybovat. Podle vědců stačí, aby stroj ovládl pouhých 10 % viditelných diskusí, a zbytek skutečné populace se začne obracet na stranu umělého vítěze.
Nejdrsnějším příkladem je v současnosti Taiwan, který slouží jako nechtěná laboratoř čínských AI operací. Zdejší sítě zaplavují roje zpráv, které se už ani nesnaží o přímočarou lež. Místo toho se snaží u obyvatel vyvolat stav, který experti nazývají tzv. závrať z poznání. Uživatel je v něm konfrontován s tolika protichůdnými, skvěle vyargumentovanými a emocionálně nabitými verzemi reality, že jeho mozek prostě „vypne“.
Cílem tohoto útoku není přesvědčit vás o jedné konkrétní pravdě, ale totálně vás unavit, zmást a znechutit. Ve chvíli, kdy člověk rezignuje a přestane věřit komukoliv a čemukoliv, útočník vyhrál. Pasivní, cynická a rozložená společnost totiž ztrácí schopnost se bránit nebo se shodnout na základních hodnotách.
Český test: Gemini i ChatGPT pohořely na celé čáře
Hrozbou ale nejsou jen sofistikované útoky cizích mocností. Problém je mnohem hlouběji v samotném „mozku“ umělé inteligence. AI nám totiž lže a zkresluje realitu, i když se zrovna nesnaží svrhnout demokracii nebo někoho zmanipulovat. Prostě si jen „vymýšlí“, protože realitě ve skutečnosti nerozumí. Rozsáhlý mezinárodní výzkum Evropské vysílací unie (EBU), na kterém se podílel i Český rozhlas, přinesl výsledky, které by měly každého uživatele varovat před slepou důvěrou.
Podle studie, která analyzovala tisíce odpovědí napříč 14 jazyky, obsahuje neuvěřitelných 45 % odpovědí AI asistentů (jako jsou ChatGPT, Gemini či Copilot) na zpravodajské dotazy alespoň jednu závažnou faktickou chybu. Nejde o drobné překlepy, ale o systémové selhání. Nejhůře v testu dopadl model Gemini od Googlu, který v otázkách zdrojování a citací selhal v šokujících 76 % případů.
V českém prostředí AI opakovaně naráží na neschopnost pracovat s naším právním a mediálním kontextem. AI asistent Perplexity suverénně tvrdil, že náhradní mateřství je v Česku zákonem zakázáno. Pravda je přitom opačná – české právo jej nezakazuje, pouze ho výslovně nereguluje. Modely ChatGPT i Copilot v testu čerpaly klíčové informace z webů, které české zpravodajské služby označily za proruské dezinformační kanály. AI tyto zdroje uživateli předložila jako relevantní fakta bez jakéhokoli varování.
Umělá inteligence často naprosto ignoruje princip vyváženosti. Pokud narazí na rozhlasovou debatu dvou stran, často si „vybere“ pouze jeden názor a ten pak prezentuje jako nezpochybnitelný fakt, čímž uživatele nevědomky tlačí k jedné straně sporu.
Výsledkem je takzvaná „halucinace“. AI asistent se vám snaží vyhovět za každou cenu, a když nezná odpověď, s naprostým klidem si ji vymyslí nebo ji poskládá z pochybných střípků na internetu. V éře, kdy až 15 % mladých lidí používá AI jako svůj hlavní zdroj zpráv místo vyhledávačů nebo seriózních médií, jde o časovanou bombu, která může nenávratně poškodit důvěru ve fakta jako taková.
Budoucnost: „Vykrmování“ internetu lží a konec poznatelné pravdy
Nejtemnější scénář se však netýká jen našich pocitů, ale samotné „DNA“ budoucích technologií. Tento fenomén se nazývá „LLM grooming“ (doslova vykrmování jazykových modelů). Princip je děsivě jednoduchý: AI roje už dnes zaplavují web miliony falešných článků, blogů a diskusních příspěvků. Tyto texty nejsou určeny pro lidi, ale pro vyhledávací roboty a webové vyhledávače.
Problém nastane ve chvíli, kdy se začne vyvíjet příští generace umělé inteligence. Ta k učení potřebuje obrovské množství dat z internetu. Pokud bude síť „otrávená“ miliardami lží vygenerovaných dnešními roji, nová AI tyto bludy nasaje jako nezpochybnitelná fakta. Lež se tak doslova „zapeče“ do samotných základů technologie. V takovém světě by už nebylo možné pravdu dohledat, protože i ty nejchytřejší stroje by operovaly s realitou, kterou si před lety vymyslel anonymní operátor s partou algoritmů. Pravda by se z digitálního světa prostě vypařila.
Co s tím?
Experti varují, že čas na dobrovolnou regulaci vypršel a volají po okamžité, radikální akci. Už nestačí jen „mazat boty“. Navrhují vybudování zcela nové obranné vrstvy internetu – tzv. AI štítů. Šlo by o vaše osobní digitální bodyguardy, asistenty integrované přímo v prohlížeči nebo telefonu, kteří by v reálném čase analyzovali každou diskusi, do které vstoupíte.
Takový „štít“ by vás okamžitě varoval: „Pozor, 80 % účtů v tomto vlákně vykazuje známky koordinovaného roje.“ Kromě technických řešení vědci navrhují i tvrdé sankce pro platformy, které proti těmto armádám nebojují, a zavedení „digitálních pasů“, které by ověřovaly, že za účtem skutečně stojí živý člověk (aniž by však byla narušena jeho anonymita před státem).
Bez těchto opatření se podle vědců v internetové džungli ovládané roji úplně ztratíme. Demokracie totiž nemůže fungovat bez sdílené reality – a tu nám právě teď umělá inteligence krade přímo pod rukama.
Zdroje: ČT24, Český rozhlas, the Guardian, HBS
