Anthropic varuje: Jsme blízko největší technologické změně v dějinách

Nejznepokojivější část nového podání společnosti Anthropic není ve finančnich výsledcích, ale v kapitole o rizicích. Firma 2. listopadu uvedla, že její interní odhady a očekávání ohledně budoucích modelů – naznačují možné brzké dosažení vlastní definice „dramaticky zrychleného pokroku AI“. Současně přiznává, že významné zrychlení svého vývoje už v minulosti rozpoznala až poté, co nastalo. SEC

Anthropic v podstatě říká: Claude už nepomáhá jen zákazníkům. Stává se součástí stroje, který vyrábí další a schopnější verze Clauda - a to může znamenat zásadní zlom.

RSI je zkratka pro recursive self-improvement, tedy rekurzivní sebezdokonalování. V plné podobě by AI dokázala autonomně navrhnout, vytrénovat a otestovat svého lepšího nástupce. Ten by totéž udělal znovu, jen rychleji a lépe. Anthropic sám takto popisuje konečný bod vývoje, zároveň ale zdůrazňuje, že v něm ještě nejsme a že jeho dosažení není jisté. Jedním z omezujících faktorů může být současná úroveň hardware, či prostý nedostatek energetických zdrojů. Anthropic

Firma netvrdí, že už takový systém má. Žádný současný model podle ní stanovený práh nepřekročil. Zároveň uvádí, že plně autonomní vývoj dalších generací bez skutečného lidského dohledu a porozumění nepovažuje za bezpečný, ani kdyby se stal technicky možným. SEC

Responsible Scaling Policy společnosti Anthropic definuje nižší, ale stále zásadní mezník. Nastal by buď tehdy, kdyby modely dokázaly za srovnatelnou cenu nahradit celý tým výzkumníků a inženýrů Anthropicu, nebo pokud by automatizace výzkumu zdvojnásobila tempo celkového pokroku AI. Zjednodušeně: vývoj odpovídající dvěma běžným rokům by se odehrál během jednoho a zrychlení by pokračovalo přes několik generací modelů. cdn.sanity.io

Přesnější než tvrdit, že plná RSI je za dveřmi, je tedy říct, že se Anthropic možná blíží prvnímu měřitelnému prahu samourychlování.

Claude se podle firmy podílí na psaní a kontrole kódu, přípravě dat, spouštění experimentů, vyhodnocování modelů i bezpečnostních auditech. Anthropic uvádí, že v květnu 2026 Claude vytvořil více než 80 procent kódu začleněného do firemní kódové základny. Typický inženýr zároveň začleňoval přibližně osmkrát více kódu než v roce 2024. Firma sama upozorňuje, že množství kódu není totéž jako skutečná produktivita. Anthropic

Také externí výzkumná organizace METR naměřila, že délka softwarových úloh, které špičkové modely zvládnou s danou spolehlivostí, se historicky zdvojnásobovala přibližně každých sedm měsíců. Současně varuje, že tato metrika je nepřesná a nelze z ní jednoduše určit, kdy AI zvládne celé měsíční výzkumné projekty. Zrychlení je reálné, jeho další průběh ale nikdo spolehlivě nezná. Metr

První problém je rychlost. Zákony, školství, firmy i bezpečnostní postupy se mění pomalu. Pokud by se vývoj AI začal zrychlovat sám, můžeme místo několika let dostat na reakci několik měsíců. Anthropic navíc přiznává, že pracuje převážně se zpožděnými ukazateli. Důležitý práh tedy může rozpoznat až zpětně. SEC

Druhým rizikem je přenos chyb. Jestliže jeden model píše kód, navrhuje experimenty a pomáhá hodnotit bezpečnost svého nástupce, může do další generace přenést vlastní slepá místa. Člověk sice zůstane „ve smyčce“, ale při obrovském množství rychlých rozhodnutí může být jeho dohled pouze formální. Firma sama varuje, že objem a složitost akcí autonomních agentů mohou překročit schopnost lidí vše skutečně pochopit a včas zastavit. SEC

Vzniká navíc téměř absurdní problém: stále větší část kódu, experimentů a bezpečnostních podkladů může vytvářet stejná AI, jejíž spolehlivost se snažíme ověřit. Anthropic ve své bezpečnostní politice připouští i možnost, že by pokročilé modely mohly ovlivňovat důkazy používané k jejich hodnocení. V takové situaci už nestačí, aby AI pouze kontrolovala jiná AI. Potřebujeme nezávislé kontrolní kanály, které sama nemůže měnit. cdn.sanity.io

Třetím rizikem je moc. Nejlepší modely vyžadují obrovský kapitál, čipy, energii a data. Pokud několik firem získá něco, co Anthropic popisuje jako „zemi géniů v datacentru“, může se nebývale koncentrovat ekonomická i politická síla. Závod mezi firmami a státy navíc vytváří tlak postupovat rychleji, než by bylo bezpečné. SEC

Scénáře ztráty kontroly, zneužití v kybernetice nebo biologii nejsou jisté a není poctivé je vydávat za předpověď. Stejně nepoctivé by ale bylo je automaticky odmítnout, když je ve formálním podání popisuje firma, která má jako jedna z mála přístup k vlastním neveřejným modelům a interním výsledkům. SEC

Stejná smyčka může urychlit vývoj léků, materiálů, baterií, energetiky nebo samotných bezpečnostních metod. Malý tým by mohl získat výzkumnou kapacitu, kterou dnes mají jen velké univerzity a korporace. Odborné služby by zlevnily a kvalitní vzdělávání, diagnostika či právní orientace by se mohly dostat k více lidem. SEC

Ekonomicky by šlo o prudký pokles ceny „kognitivní práce“ – analýzy, programování, návrhu, plánování a části výzkumu. Produkt nebo nový lék, na kterém dnes několik let pracuje stovka lidí, by mohl vzniknout s mnohem menším týmem a za zlomek času.

To může zvýšit produktivitu i životní úroveň. Současně se však hodnota přesune k tomu, kdo vlastní modely, výpočetní infrastrukturu a přístup k energii. Technologický pokrok sám nezaručuje, že jeho výnosy budou rozděleny široce. Je možné mít rychle rostoucí ekonomiku a zároveň společnost, ve které se velké části lidí zhorší vyjednávací pozice.

Výzkumný brief České národní banky odhaduje, že současná AI může ovlivnit přibližně 23 procent úkolů v českých povoláních. Nejvyšší expozice je v informačně náročných oborech, financích a větších městech včetně Prahy a Brna. Neznamená to, že čtvrtina pracovních míst zmizí. Znamená to, že právě zde se může práce změnit jako první.

První velká vlna proto nemusí zasáhnout montážní linky, ale kanceláře: vývoj softwaru, administrativu, marketing, překlady, média, účetnictví, právní rešerše nebo část řízení firem. Průmysl by následoval ve chvíli, kdy se pokročilá AI propojí s konstrukcí, logistikou a robotikou.

Pro malou ekonomiku je to zároveň příležitost i hrozba. AI může násobit výkon specialistů a zpřístupnit expertizu menším firmám. Český výrobce může získat virtuální vývojový tým, menší nemocnice kvalitnější podporu při administrativě a obec schopnější digitální služby.

Česko se ale také může stát pouhým zákazníkem zahraniční „infrastruktury myšlení“. Česká firma zvýší produktivitu, ale rostoucí část vytvořené hodnoty odešle majitelům modelů, cloudů a čipů. Spolu s penězi mohou mimo Evropu odcházet data, odborné know-how i rozhodovací moc.

Česká republika už má Národní strategii umělé inteligence 2030 a Evropská unie od srpna 2026 vymáhá podstatnou část AI Actu. To je důležitý základ, nikoli hotová příprava na prudké samourychlení. Strategie pro postupnou digitalizaci nestačí na situaci, kdy se schopnosti modelů mohou zásadně změnit během několika měsíců. Ministry of Industry and Trade

Stát potřebuje stálý tým pro sledování nejpokročilejších modelů, pravidelná krizová cvičení a předem stanovené okamžiky, při kterých se automaticky zpřísní bezpečnostní režim. Nestačí jednou za několik let aktualizovat strategii.

U kritické infrastruktury, obrany, zdravotnictví a státní správy musí být povinné záznamy kroků AI, možnost okamžitého lidského zásahu a zákaz nevratných autonomních rozhodnutí bez kontroly. Stát by také neměl být závislý na jediném zahraničním modelu nebo cloudu.

Školství se musí přestat připravovat pouze na svět, ve kterém člověk sám vytváří každý text, výpočet a prezentaci. Důležitější bude porozumění oboru, práce s důkazy, rozpoznávání chyb, formulace cílů a schopnost kontrolovat práci několika digitálních agentů. Současně ale nesmíme rezignovat na vlastní znalosti. Člověk, který bez AI nerozumí vůbec ničemu, ji nedokáže ani dobře kontrolovat.

Firmy by neměly začít rušením pracovních míst, ale mapováním jednotlivých úkolů. Automatizovat nejdříve to, co lze snadno ověřit a vrátit zpět. U plateb, produkčního kódu, právních závazků, zdravotních doporučení nebo citlivých dat zachovat více vrstev kontroly a nespoléhat na jediného dodavatele modelu.

Pro jednotlivce je nejlepší přípravou nezačít soutěžit s AI v rychlosti psaní. Důležitější bude umět zadat cíl, rozdělit problém, ověřit výsledek a nést za něj odpovědnost. Hluboká znalost oboru, úsudek, komunikace a důvěra mohou být cennější než samotná schopnost produkovat text nebo kód.

Anthropic může svůj pokrok přeceňovat. Burzovní prospekt je zároveň varováním i prezentací technologické síly firmy. Podání navíc mluví o interních odhadech a budoucích modelech, nikoli o již prokázaném překročení prahu. SEC

Přesto by bylo nerozumné čekat na nezpochybnitelný důkaz. Pokud se zrychlení skutečně rozběhne, důkaz může dorazit až ve chvíli, kdy už bude pozdě začít se připravovat.

Rozumná strategie není ani panika, ani popírání: postupovat rychle tam, kde jsou chyby levné a vratné, a velmi pomalu tam, kde mohou být následky nevratné.