Článek
Společnost Anthropic v minulých dnech zaskočila nejen technologický svět, když oficiálně potvrdila existenci svého supermodelu s názvem Claude Mythos. A hned vzápětí přišel další nečekaný krok: model je tak mocný a potenciálně nebezpečný, že ho firma zamkla na pomyslné dva západy a odmítá ho poskytnout veřejnosti. Máme se tohoto vývoje děsit, nebo jde o promyšlený a nezbytný krok pro záchranu internetu?
Claude Mythos je zřejmě nejvýkonnější umělá inteligence současnosti a jeho skutečná síla leží v oblasti kybernetické bezpečnosti. Dokáže analyzovat obrovské kusy kódu a nacházet v softwaru kritické zranitelnosti s úspěšností, o které se lidským expertům ani nesnilo. Během testování Mythos odhalil tisíce závažných chyb v největších operačních systémech a webových prohlížečích. Některé z těchto děr (například v OpenBSD, Linux Kernelu nebo v kódu pro zpracování videa FFmpeg) ležely v systémech nepovšimnuty 10 až 27 let.
Z modelu se tak ale vyklubal ukázkový dvousečný meč. Nástroj, který dokáže takto brilantně odhalit slabiny, by v rukou hackerů znamenal katastrofu. Anthropic se proto rozhodl, že Mythos nesmí mezi běžné lidi. Namísto toho spustil defenzivní iniciativu Glazwing a model zpřístupnil pouze úzkému kruhu ověřených bezpečnostních partnerů z řad gigantů (Google, Microsoft, Amazon, Apple, Nvidia, CrowdStrike, Cisco aj.).
Anthropic není první
Ačkoliv zpráva o modelu Mythos plní titulní strany, Anthropic není v tomto oboru jediným hráčem a možná ani úplným průkopníkem. Český vědec a expert na AI Stanislav Fort (který mimochodem dříve působil právě v Anthropicu či Googlu) v Praze spoluzaložil kyberbezpečnostní startup AL. Ten vyvinul autonomního AI hackera, který dělá v podstatě totéž a už nyní slaví obrovské úspěchy. Fortův systém operuje v masivním měřítku a nachází chyby v nejhlubších strukturách internetu.
Mezi jeho největší úspěchy patří:
1. OpenSSL: Nalezení 12 dříve neznámých (zero-day) zranitelností v klíčové šifrovací knihovně, která zabezpečuje až 99 % internetové komunikace. Některé chyby tam ležely čtvrt století.
2. Signal: Odhalení zranitelnosti v populární šifrované komunikační aplikaci. AI našla cestu, jak shodit aplikaci pouhým nenápadným stažením specifického obrázku do galerie telefonu.
3. Curl: Odhalení hrozeb u naprosto nepostradatelné utility, kterou využívají vývojáři pro přenos dat. Startup AL u ní nejen detekoval zranitelnosti, ale navázal s jejími tvůrci partnerství pro proaktivní hlídání dalších změn v kódu.
Fortův AI systém navíc zranitelnosti nejen detekuje, ale rovnou generuje i návrhy zdrojových kódů pro jejich okamžitou opravu.
Běžný uživatel si často neuvědomuje, že celosvětová internetová síť nestojí primárně na drahých firemních systémech, ale na open source (otevřených) projektech. Nástroje jako již zmíněné OpenSSL (které zajišťuje pomyslný zámek u adresního řádku prohlížeče a stará se o to, že vaše hesla, platby a zprávy putují internetem bezpečně zašifrované) nebo Curl (nenápadný, ale všudypřítomný nástroj pro internetovou komunikaci, bez kterého se neobejdou servery s Linuxem, počítače Mac, ale ani vaše chytrá lednička ) jsou digitální katedrály o milionech řádků kódu. Často je však po nocích udržuje jen hrstka nadšených a podfinancovaných dobrovolníků. Právě v jejich složité logické struktuře se skrývají obrovské a dlouho neviděné zranitelnosti, protože lidský mozek už zkrátka nedokáže obsáhnout všechny souvislosti tak masivních projektů.
Bad guys vs. good guys
Nástup AI do kyberbezpečnosti je nezastavitelný a přináší zásadní dilema. Jak upozorňuje Fort, systémy jako Mythos nebo nástroje startupu AL mohou sloužit jako dokonalý štít, ale stejná technologie poslouží i jako ultimátní zbraň. Na scénu postupně nastupují autonomní AI agenti, kteří budou schopni zkoušet prolomit bezpečnostní bariéry po celém světě obrovskou rychlostí a ve škále, které lidé nemohou konkurovat.
Přes všechna apokalyptická rizika je současný vývoj vlastně nesmírně pozitivní zprávou. Nástroje s potenciálem zničit internetovou infrastrukturu se zrodily a jako první je začali aktivně používat „ti dobří“. Je skvělé, že projekt Glazwing od Anthropicu spojil síly s masivním kapitálem Big Tech společností pro defenzivní účely. Podobně startup AL Stanislava Forta spolupracuje přímo s tvůrci open source systémů a své služby pro tyto kritické, dobrovolnicky udržované projekty poskytuje zcela zdarma (pro bono).
Klíčové součástky internetu tak procházejí masivním „látáním děr“ dříve, než se podobně chytré modely dostanou do rukou zločinců nebo státních útočníků. AI v rukou good guys nám nyní kupuje časový náskok k postavení robustní obranné zdi.
Epilog – co se děje za oponou
Slovo Mythos přímo vybízí k paralele s antickými bájemi. Znáte příběh o Týfónovi? Byla to po Titánech ta vůbec nejmocnější a nejděsivější bestie řecké mytologie. Získala takovou sílu, že se jí děsili i samotní bohové, a proto ji Zeus nakonec spoutal a uvrhl do věčné temnoty propasti Tartaros. Zatímco my můžeme být rádi, že Anthropic svého digitálního Týfóna drží v pomyslném Tartaru pevně pod zámkem a využívá ho čistě k defenzivě, byli bychom extrémně naivní, kdybychom si mysleli, že to nevyvolává zájem na nejvyšších místech. Každá vláda totiž touží mít podobné monstrum na vodítku.
A právě tady to začíná být pořádně horké. Nedávno totiž americká vláda s Anthropicem rozvázala spolupráci, protože společnost nepřistoupila na ultimátní vojenské podmínky Pentagonu – konkrétně odmítla využití své AI pro plně autonomní zbraně a masové sledování veřejnosti. Následky na sebe nenechaly dlouho čekat – administrativa Donalda Trumpa vzápětí označila tuto firmu za bezpečnostní hrozbu pro Spojené státy.
Získat univerzální digitální paklíč k celému internetu by však v kybernetické válce znamenalo totální dominanci. Nabízí se tak hned několik velmi znepokojivých otázek: Jak se k téhle situaci zachová Washington nyní? Nechá ultimátní superzbraň jen tak ležet v serverovnách u firmy, kterou sám odřízl a onálepkoval jako nepřátelskou? Nebo si pro spoutaného Týfóna dříve či později zkrátka přijde? A jak dlouho asi dokážou analytici v NSA a generálové v Pentagonu čekat, než se rozhodnou, že se u tak cenné kořisti vlastně na nějaká pravidla ptát nepotřebují?
Zdroje
Využití AI pro objevování hrozeb a AL: https://www.youtube.com/watch?v=lrCj9WTdPKc
Claude Mythos a projekt Glazwing: https://www.youtube.com/watch?v=c1D8MR-RBCM
