Článek
Ještě donedávna byl hacker člověk sedící hodiny u počítače a hledající jedinou chybu, která mu otevře dveře do systému.
Dnes může část této práce převzít umělá inteligence.
AI dokáže analyzovat obrovské množství kódu, hledat podezřelé vzory, upozorňovat na zranitelnosti a automatizovat některé kroky bezpečnostního testování. To, co člověku může zabrat hodiny nebo dny, může pokročilý systém zvládnout výrazně rychleji.
A právě rychlost začíná být jedním z největších problémů.
Útočník nemusí být geniální hacker
Kybernetické útoky byly vždy do značné míry závodem mezi útočníky a obránci.
Bezpečnostní tým hledá chyby, opravuje je a sleduje podezřelou aktivitu. Útočníci se mezitím snaží najít novou cestu dovnitř.
AI ale může tento závod výrazně zrychlit.
Útočník nemusí mít perfektní znalosti programování ani detailní přehled o každém používaném systému. AI mu může pomoci vysvětlit neznámý kód, analyzovat nalezenou chybu nebo automatizovat rutinní části práce.
To neznamená, že z každého uživatele vznikne během několika minut špičkový hacker.
Znamená to ale, že se může snížit hranice schopností potřebných k provedení některých útoků.
A to je pro bezpečnostní experty důležitý varovný signál.
AI hledá chyby ve velkém
Jednou z nejzajímavějších schopností moderní AI je práce s obrovským množstvím informací.
Program může obsahovat miliony řádků kódu. Člověk nemůže každý z nich kontrolovat donekonečna.
AI však může hledat opakující se vzory, podezřelé konstrukce a další indicie, které mohou upozornit na potenciální problém.
Stejná technologie přitom může sloužit na obou stranách.
Bezpečnostní odborník ji využije k hledání slabých míst dříve, než je objeví útočník.
Hacker může použít podobné schopnosti k hledání míst, která nebyla dostatečně zabezpečena.
AI proto není automaticky „dobrá“ nebo „špatná“.
Je to nástroj.
A jeho dopad bude záviset na tom, kdo ho používá a jaké má možnosti.
Největší hrozbou je automatizace
Samotná schopnost AI najít bezpečnostní chybu není nová. Zásadní změnou je možnost spojit hledání problému s dalšími automatizovanými kroky.
Dříve mohl člověk najít zranitelnost a následně ručně provádět další analýzu.
Moderní systémy mohou některé části procesu výrazně urychlit.
A právě tady se mění měřítko.
Útočník může teoreticky zkoumat mnohem více potenciálních cílů, než by zvládl člověk. Bezpečnostní tým přitom stále musí rozhodovat, které incidenty jsou skutečně nebezpečné a kterým je potřeba věnovat pozornost.
Vzniká tak nepříjemná asymetrie.
Útočník potřebuje najít jednu cestu dovnitř.
Obránce musí chránit celý systém.
Co dříve trvalo týdny, může být otázkou hodin
Rychlost je v kybernetické bezpečnosti zásadní.
Pokud se objeví nová zranitelnost, začíná závod s časem. Vývojáři se snaží připravit opravu, bezpečnostní týmy hledají zasažené systémy a firmy se pokoušejí aktualizace co nejrychleji nasadit.
Útočníci mají přitom stejnou motivaci jednat co nejrychleji.
AI může některé části tohoto procesu urychlit.
Pokud dokáže automatizovaně analyzovat nové informace a hledat potenciální slabiny, může se zkracovat čas mezi objevením chyby a pokusem o její zneužití.
To je jeden z důvodů, proč bezpečnostní odborníci stále častěji mluví o nutnosti automatizovat také obranu.
Člověk proti AI už nemusí stačit
Představa bezpečnostního experta, který ručně kontroluje každý podezřelý incident, přestává být realistická.
Pokud budou útočníci používat AI k automatizaci útoků, musí stejnou cestou jít také obrana.
AI může pomáhat sledovat síťový provoz, analyzovat podezřelé chování, hledat neobvyklé změny nebo prioritizovat incidenty.
Budoucnost kybernetické bezpečnosti tak může připomínat souboj dvou automatizovaných systémů.
Na jedné straně AI hledající slabiny.
Na druhé straně AI hledající útoky.
A mezi nimi člověk, který musí rozhodnout, co je skutečně důležité.
Nejnebezpečnější může být kombinace technologií
Problém nemusí představovat jedna konkrétní schopnost AI.
Větší riziko vzniká kombinací několika technologií.
AI může analyzovat informace, generovat text, automatizovat komunikaci, pracovat s kódem a používat digitální nástroje. Pokud se tyto schopnosti spojí do jednoho systému, mohou výrazně změnit způsob, jakým kybernetické útoky vznikají a probíhají.
Útočník tak může část práce delegovat na software.
A to je přesně to, čeho se bezpečnostní experti obávají.
Ne proto, že by AI zítra sama od sebe zaútočila na celý internet.
Mnohem realističtější je scénář, ve kterém lidé využijí AI k tomu, aby své vlastní schopnosti znásobili.
Stejný problém jako u obrany
Existuje ale i druhá strana příběhu.
Technologie, která pomáhá útočníkům, může současně výrazně pomoci obráncům.
AI může bezpečnostním týmům umožnit hledat chyby ještě před jejich zneužitím. Může pomáhat při testování aplikací, analyzovat velké množství bezpečnostních událostí a upozornit na chování, které by člověk přehlédl.
Výsledkem proto nemusí být svět, ve kterém mají hackeři automaticky navrch.
Může vzniknout závod.
A v tomto závodě bude rozhodovat především rychlost.
Kdo dokáže rychleji objevit problém?
Kdo ho rychleji pochopí?
Kdo dokáže rychleji zareagovat?
Právě na těchto otázkách může v příštích letech záviset bezpečnost firem, institucí i běžných uživatelů.
AI nepřináší konec kybernetické bezpečnosti
Umělá inteligence sama o sobě nezmění internet v bezmocné místo plné hackerů.
Mění ale pravidla hry.
Útočníci získávají nástroje, které mohou urychlit některé části jejich práce. Obránci zároveň získávají stejné technologické možnosti pro hledání a zastavování útoků.
Největším rizikem proto možná není otázka, zda AI umí hackovat.
Mnohem důležitější je, jak rychle se dokáže přizpůsobovat jedna strana druhé.
Protože ve světě, kde útočník může pracovat nepřetržitě a ve velkém měřítku, už nemusí být největší výhodou člověka jeho znalost.
Může jí být schopnost vytvořit lepší AI než má protivník.
