Článek
Telefon zazvoní uprostřed obyčejného odpoledne. Na druhém konci uslyšíte hlas někoho blízkého. Je vyděšený, mluví rychle a potřebuje pomoc. Má problém a žádá peníze. Ten hlas znáte celý život. Proč byste pochybovali?
Jenže člověk, kterého slyšíte, vám možná vůbec nevolá.
Americká Federální obchodní komise upozorňuje, že podvodníci využívají klonování hlasu k napodobování příbuzných v nouzi. Starý trik tak dostává mnohem přesvědčivější podobu. K naléhavému příběhu přibyl hlas, kterému důvěřujete.
Právě tady začíná debata o nebezpečí umělé inteligence. U člověka, který během několika minut přijde o úspory, protože chtěl někomu pomoci.
Co se stane, když přestane stačit vlastní zrak a sluch?
Fotografie nikdy nebyly neomylným důkazem. Lidé upravovali snímky a vyráběli podvrhy dávno před nástupem generativních nástrojů. Rozdíl spočívá v dostupnosti. Vytvořit přesvědčivý falešný obsah dnes může být podstatně snazší než dřív.
Představme si video starosty, který údajně přijímá úplatek. Objeví se těsně před volbami. Než někdo prověří jeho původ, sousedé ho sdílejí mezi sebou a pod příspěvkem přibývají rozhořčené komentáře. Pozdější vysvětlení už nemusí zasáhnout všechny, kteří viděli původní záznam.
Hrozí přitom i opačný problém. Skutečnou nahrávku bude možné odbýt slovy: „To je přece vygenerované.“
Společnost, která pochybuje o každém důkazu, se může stát stejně zranitelnou jako společnost, která věří úplně všemu. Podvodníkům by tak stačilo vyvolat pocit, že pravdu už stejně nelze zjistit.
Práce nezmizí jedním stisknutím tlačítka. Nejistota přesto přijde
Když se mluví o zaměstnání, debata často sklouzne ke dvěma krajnostem. Buď stroje vezmou práci všem, nebo se vlastně nic zásadního nestane.
Závěry Mezinárodní organizace práce jsou opatrnější. Její studie z roku 2025 uvádí, že přibližně čtvrtina pracovních míst na světě spadá do profesí s určitou mírou vystavení generativní umělé inteligenci. To neznamená, že čtvrtina lidí dostane výpověď. Pravděpodobnějším výsledkem je proměna pracovních úkolů.
Ani proměna ale nemusí být bezbolestná.
Firma může očekávat, že menší tým zvládne stejný objem práce. Začátečníkům mohou ubývat jednoduché zakázky, na kterých se dosud učili. Zaměstnanec získá rychlého pomocníka, ale zároveň povinnost kontrolovat jeho chyby a stihnout ještě víc než předtím.
Bude záležet na tom, kdo bude mít z vyšší produktivity prospěch. Zda zaměstnancům ubude rutiny a dostanou prostor pro náročnější práci, nebo zda se ušetřený čas jen zaplní dalšími povinnostmi.
Sebevědomá odpověď umí člověka ukolébat
Kdo někdy používal konverzační nástroj, možná ten pocit zná. Odpověď přijde okamžitě, má přehlednou stavbu a zní přesvědčivě. Člověk snadno získá dojem, že před ním stojí někdo, kdo má věc nastudovanou.
Plynulost projevu ovšem není zárukou pravdivosti.
Potíž nastane ve chvíli, kdy si na pohodlí zvykneme natolik, že přestaneme kontrolovat zdroje. Chybný údaj se může dostat do článku, pracovního podkladu nebo rozhodnutí, které ovlivní další lidi. Každý další člověk už přitom může předpokládat, že ověření provedl někdo před ním.
Důležitá je i možnost chybu napravit. Pokud automatizovaný systém ovlivní rozhodování o člověku, musí existovat někdo, kdo jeho výsledek dokáže přezkoumat a vysvětlit. Odpověď „takto to vyhodnotil systém“ poškozenému člověku příliš nepomůže.
A může se nám jednou vymknout z rukou?
Obava ze ztráty kontroly nad pokročilými systémy patří i do odborné debaty. Zabývá se jí také Mezinárodní zpráva o bezpečnosti umělé inteligence z roku 2026. Samotné zkoumání takového scénáře ovšem neznamená, že je nevyhnutelný nebo že známe datum, kdy nastane.
Představit si problém lze i bez vědomého stroje, který nenávidí lidstvo. Stačí uvažovat o systému, jemuž někdo svěří důležitý úkol, příliš široká oprávnění a nedostatečný dohled. Chybně zadaný cíl pak může mít následky, které zadavatel nezamýšlel.
S rostoucím vlivem takových systémů proto poroste význam obyčejných, nepříliš efektních věcí: testování, omezení přístupu, kontroly a jasné odpovědnosti.
Pohodlí nesmí rozhodovat za nás
Umělá inteligence má užitečná využití. Pomáhá překládat, tvořit, programovat i zpracovávat informace. Právě proto s ní budeme ochotně sdílet další data a svěřovat jí další úkoly.
Každý takový krok si zaslouží konkrétní otázku: co se stane, když se splete, a kdo to napraví?
U návrhu pozvánky nejspíš mnoho nehrozí. U systému s přístupem k penězům, citlivým údajům nebo důležitým rozhodnutím už odpověď potřebujeme předem.
Budoucnost se bude skládat z podobných rozhodnutí. Z toho, co dovolíme firmám, co budeme požadovat po úřadech a co si sami ověříme, než stiskneme tlačítko „odeslat“.
A také z toho, zda při naléhavém telefonátu dokážeme na chvíli zavěsit a zavolat blízkému na číslo, které máme uložené.
