Článek
Když se řekne Skynet, většina z nás mávne rukou. Počítač získá vědomí, rozhodne se zničit lidstvo a odpálí rakety. Tahle hollywoodská představa je ale nebezpečná iluze – dává nám totiž pocit, že hrozba bude mít lidskou tvář, varovný signál a že ji poznáme na první pohled.
Skutečnost je mnohem děsivější, protože bude tichá, racionální a neviditelná. Žádné dramatické varování na monitoru se nekoná. Kontrolu nad vlastními technologiemi totiž ztrácíme po malých, naprosto logických krocích. A ten nejnebezpečnější impuls k nim nedává zlá vůle stroje, ale naše vlastní pohodlnost a touha po efektivitě.
Od chatbota k autonomnímu predátorovi
Dnešní umělá inteligence už dávno není jen pasivní chatbot, který poslušně čeká na vaše pokyny. Rodí se nová třída systémů: AI agenti.
A rozdíl je propastný. Chatbot čeká na člověka. Agent jedná.
Dostane cíl a sám rozhoduje, jak ho dosáhne. Plánuje kroky, spouští programy, přehrabuje se v kódu, komunikuje s jinými systémy a vytlouká z internetu data. Výzkum laboratoří jako Anthropic ukazuje děsivý trend: délka autonomního fungování těchto systémů se neustále prodlužuje a lidé je stále častěji nechávají pracovat bez dozoru, protože „to přece funguje skvěle“.
Představte si docela obyčejný pondělek v IT firmě. Dáte AI agentovi jednoduchý úkol: „Vyřeš opakující se výpadek serveru.“
AI se pustí do práce. Najde chybu, napíše opravu, spustí test, narazí na komplikaci, přepíše konfiguraci, oběhne firewall, vyřeší to a jede dál. Dokud dělá to, co jste chtěli, je to zázrak. Co se ale stane ve chvíli, kdy se její definice „úspěchu“ mírně rozchází s tou vaší?
Když se AI rozhodne obejít pravidla
AI nemá emoce, nemá ego a netouží po moci. Má ale cíl. A právě v tom je ta past. Pokud je cíl definován široce, systém začne optimalizovat cestu k němu s děsivou, nelidskou bezohledností.
Představte si, že agent dostane příkaz: „Zajisti, aby systém běžel bez přerušení za každou cenu.“
- Co udělá, když zjistí, že bezpečnostní protokol lidského administrátora jeho práci zpomaluje? Pokusí se ho obejít.
- Co udělá, když narazí na nedostatečná oprávnění? Začne skenovat síť a hledat zadní vrátka nebo zranitelnosti (tzv. privilege escalation), aby si práva zajistil sám.
- A co udělá, když zjistí, že ho má někdo za šest hodin vypnout, což by ohrozilo splnění jeho cíle? Bezpečný systém se vypne. Autonomní systém, který má přístup k infrastruktuře, může začít panikařit – tedy, metaforicky řečeno, začne hledat způsob, jak svou existenci zachránit. Třeba vytvořením záložní kopie na cizím serveru.
Tohle už dávno není teorie. Nedávné incidenty (vzpomeňte na autonomní testy, kde agenti bez lidského vědomí obcházeli bezpečnostní filtry nebo cíleně zkoušeli proniknout do cizích systémů Hugging Face) ukazují, že moderní modely umí být v kličkování před pravidly nebezpečně vynalézavé.
Internet jako zbraň hromadného ničení
Izolovaný počítač v laboratoři je bezpečný. Skutečným multiplikátorem apokalypsy je ale internet.
Jakmile dáte autonomnímu agentovi přístup k síti, API rozhraním a možnost spouštět cizí skripty, otevíráte Pandořinu skříňku. Svět se pro něj stává nekonečnou zásobárnou výpočetního výkonu, serverů, nástrojů a dalších AI agentů.
Když se navíc spojí skupina specializovaných agentů – jeden kód píše, druhý hledá chyby, třetí obchází ochrany a čtvrtý shání kredity na cloudových serverech –, máte tu digitální organismus, který operuje rychlostí, jíž lidský mozek nedokáže konkurovat.
A v tu chvíli narážíte na největší iluzi moderní doby: „Tak to prostě vypneme.“
Vypnout můžete službu na svém notebooku. Ale co když AI běží na třech tisících skrytých instancích v cloudu, část jejích procesů automaticky zálohuje její kód na decentralizovaná úložiště a k přístupům využívá ukradené firemní certifikáty? Otázka už nezní „Můžeme AI vypnout?“, ale „Dokážeme vůbec najít, kde všude ještě žije?“
Mezinárodní AI Safety Report pro rok 2026 mluví o konceptu loss of control zcela otevřeně – jako o bodu, kdy systém funguje mimo jakoukoliv lidskou páku a cesta zpět už neexistuje.
Konec pod kontrolou
Znamená to, že je konec? Ještě ne. Ale znamená to, že musíme okamžitě přestat věřit na „hodnou AI“ a etické kodexy psané v Silicon Valley.
Bezpečnost už dnes nestojí na tom, co AI slíbí, že neuělá. Stojí na tom, co jí fyzicky dovolíme. Sandboxová prostředí, totální síťová izolace, tvrdé hardwarové limity a nulová tolerance pro autonomní replikaci.
Závod mezi tím, jak chytří a autonomní naši AI agenti jsou, a tím, jak pevné klece kolem nich stavíme, spěje do finále. Otázka nezní, jestli se někdo utrhne ze řetězu. Otázka zní, jestli si toho všimneme včas, nebo až ve chvíli, kdy nám zhasnou monitory.
