Anthropic popsal konkrétní zneužívání AI. „Sofistikované útoky už nevyžadují sofistikované útočníky“

O šest týdnů později jeho firma zveřejnila dokument, který této větě dodává podstatně konkrétnější obsah.

Zářijový threat-intelligence report Anthropicu popisuje případy, kdy se různí aktéři pokoušeli Claude využívat při kybernetických útocích, státní špionáži a sledování lidí, propagandě, finančních podvodech, citlivém biologickém výzkumu, práci související s konvenčními zbraněmi i při pokusech jiných AI firem využívat výstupy Claude k trénování vlastních modelů.

Nejde přitom o katalog všeho, co se na Claude děje. Anthropic výslovně upozorňuje, že zveřejnil výběr nejvýznamnějších a nejnovějších případů, které jeho Threat Intelligence tým zachytil mezi prosincem 2025 a srpnem 2026.

Jejich společný jmenovatel ale stojí za pozornost.

AI už v některých operacích není pouze chytrým poradcem, kterému člověk položí otázku. Stává se součástí pracovního řetězce, který sám provádí průzkum, analyzuje cíle, píše programy, zpracovává ukradená data nebo koordinuje další automatizované agenty.

Anthropic tento posun shrnuje větou:

„Sophisticated attacks no longer require sophisticated attackers.“

Česky: „Sofistikované útoky už nevyžadují sofistikované útočníky.“

A to je možná nejdůležitější věta celého reportu.

Kybernetická část dokumentu ukazuje posun poměrně názorně.

Anthropic popisuje aktéra, jehož postupy podle firmy odpovídají veřejně známým operacím ruské skupiny Midnight Blizzard. AI systémy měly pomáhat s průzkumem cílů, phishingem, vývojem škodlivých nástrojů, exfiltrací dat a dokonce s automatickými úpravami malwaru ve chvíli, kdy jej začal zachycovat bezpečnostní software.

Cílem byly podle reportu především ukrajinské a evropské vládní, vojenské, diplomatické a obranné instituce.

Tady je ovšem potřeba držet formulace Anthropicu přesně. Firma netvrdí, že identitu pachatele sama definitivně prokázala. Její atribuce je podle ní v souladu s veřejným reportingem o Midnight Blizzard.

To není slovíčkaření. Je to rozdíl mezi silnou indicií a definitivním určením pachatele.

Ještě názornější je finančně motivovaná kyberkriminalita.

U skupin spojovaných s ekosystémem ShinyHunters Anthropic popisuje automatizované hledání přístupových údajů, kompromitace cloudových služeb a krádeže velkého množství dat. V jednom případě deset cloudových workerů analyzovalo přibližně 1,8 milionu aplikací pro Android a hledalo v nich zapomenuté klíče a další přístupové údaje.

U některých operací firma píše, že „AI agents performed nearly all of the work“ — téměř veškerou práci tedy vykonávali AI agenti.

Člověk stále vybírá cíl a kontroluje výsledek. Ale mezi těmito dvěma body přibývá práce, kterou už nemusí dělat člověk.

Útočníci samozřejmě používali automatizaci dávno před generativní AI.

Nové je něco jiného.

Model dokáže pracovat s prostředím, které předem nezná. Umí si vysvětlit cizí kód, přizpůsobit skript situaci, zpracovat velké množství různorodých dat, opravit chybu a pokračovat dál.

Jinými slovy: automatizace už nemusí mít každý krok předem naprogramovaný.

A právě zde vzniká to, čemu Anthropic říká uplift — zvýšení rychlosti, rozsahu nebo hloubky činnosti díky AI.

Malý tým tak může zvládnout práci, která by dříve vyžadovala podstatně více lidí, času a odbornosti.

Technická sofistikovanost útoku proto přestává být spolehlivým vodítkem k tomu, jak velký a zkušený aktér za ním stojí.

Kybernetické útoky jsou jen jedna část dokumentu.

Anthropic popisuje také nástroje určené k identifikaci, profilování a sledování konkrétních osob. Objevují se systémy pro vytváření dossierů, monitorování komunikace, vyhodnocování politicky citlivého obsahu nebo hledání disidentů a aktivistů.

A tady se zářijový report potkává s jiným varováním Daria Amodeie.

Už v únoru 2026 napsal:

„AI-driven mass surveillance presents serious, novel risks to our fundamental liberties.“

Tedy: „Masové sledování poháněné AI představuje vážná, nová rizika pro naše základní svobody.“

Jeho argument byl jednoduchý. Výkonná AI dokáže ve velkém spojovat údaje, které samy o sobě nemusí vypadat příliš významně — pohyb člověka, jeho kontakty, prohlížení webu nebo komunikaci — a vytvářet z nich podrobný obraz jeho života.

Práce, na kterou dříve potřeboval stát nebo zpravodajská služba celý analytický tým, se tak může výrazně zlevnit a zrychlit.

Zářijový report popisuje podobné případy spojené například s Čínou, Íránem nebo Mali.

Další kapitolou jsou vlivové a propagandistické operace.

Claude měl být používán při vytváření falešných person, článků, webů, interních manuálů nebo seznamů cílových skupin.

Tady ale Anthropic přidává důležitou protiváhu.

Velká část zachyceného obsahu podle jeho vlastního zjištění nezískala významný autentický dosah.

To je podstatné. AI může dramaticky zlevnit výrobu propagandy a umožnit vytvářet jí mnohem víc. Ale tisíc automaticky napsaných příspěvků ještě neznamená tisíc přesvědčených lidí.

Schopnost produkovat obsah a schopnost ovlivnit společnost jsou dvě různé věci.

Méně geopolitický, ale možná názornější příklad přinášejí podvody.

Anthropic popisuje síť seznamovacích aplikací, ve které byly tisíce AI person používány k automatizované komunikaci s reálnými uživateli.

AI zde nevytvořila jednu falešnou fotografii nebo jeden podvodný dopis.

Umožnila provozovat velké množství falešných identit zároveň a udržovat s lidmi dlouhodobé konverzace.

Právě škálování je v mnoha případech důležitější než samotná novost podvodu.

Podvodník nemusel objevit nový trik.

Stačilo, že mohl ten starý provozovat tisíckrát současně.

Nejcitlivější část reportu se týká biologického výzkumu.

Anthropic popisuje pět případů, kdy se uživatelé snažili získat informace například o virech, toxinech nebo změnách biologických organismů.

Bylo by ale chybou z toho udělat titulek, že Claude pomáhal vyrábět biologické zbraně.

Anthropic nic takového netvrdí.

Část popsaných činností spadá do oblasti takzvaného dual use: stejné znalosti mohou mít legitimní vědecké využití a zároveň potenciálně nebezpečnou aplikaci.

Z veřejného reportu nelze spolehlivě určit úmysl všech uživatelů ani tvrdit, že připravovali biologický útok.

Právě biologické riziko přitom Dario Amodei v červenci postavil vedle kybernetických útoků jako jeden z důvodů své opatrnosti vůči nejvýkonnějším open-weight modelům.

Podle něj je u modelu, jehož váhy byly zveřejněny, velmi obtížné později vynucovat ochranné mechanismy, sledovat jeho použití nebo jej jednoduše „vzít zpět“.

Report zahrnuje také případy související se softwarem pro raketové systémy, drony, elektronický boj a další vojenské aplikace.

Samostatnou kategorii tvoří takzvaná distilace modelů.

Princip je zjednodušeně takový, že jiná firma nebo vývojář ve velkém získává odpovědi výkonného modelu a používá je jako tréninková data pro svůj vlastní systém.

Pro Anthropic je to dvojí problém: obchodní i bezpečnostní.

Pokud by někdo tímto způsobem přenesl schopnosti silněji chráněného modelu do systému s podstatně slabšími bezpečnostními omezeními, mizí část kontroly, kterou provozovatel původního modelu měl.

Zářijový report nevzniká ve vzduchoprázdnu.

Amodei už 26. února 2026 ve vlastním prohlášení tvrdil, že Anthropic „shut down CCP-sponsored cyberattacks that attempted to abuse Claude“ — tedy že firma zastavila kybernetické útoky sponzorované Komunistickou stranou Číny, které se pokoušely Claude zneužít.

Je důležité dodat ono „podle Anthropicu“.

Veřejnost nemá k dispozici kompletní logy, informace o účtech ani celý důkazní materiál, který firma při takové atribuci používá.

Totéž platí pro zářijový dokument.

Je mimořádně zajímavý právě proto, že umožňuje nahlédnout do provozu jednoho z nejvýkonnějších současných AI systémů.

Současně je to ale pohled firmy na dění uvnitř její vlastní platformy.

To je největší metodická brzda celého reportu.

Anthropic nezveřejňuje kompletní provozní data, plné konverzační logy, všechny informace o účtech ani veškeré podklady, podle nichž jednotlivé aktéry identifikoval.

Navíc nepublikoval reprezentativní vzorek používání Claude.

Vybral nejpozoruhodnější a nejnovější případy.

Z dokumentu tedy nelze zjistit, jaká část celkového provozu Claude souvisí se zneužíváním. Nelze z něj ani dopočítat celkový počet obdobných operací na trhu nebo určit, zda jejich množství skutečně prudce roste.

Ještě méně z něj lze odvozovat, že běžné používání Claude vypadá právě takto.

Je to spíš sbírka případů, na kterých Anthropic ukazuje, co už dnes možné je.

A právě tím je zajímavá.

Nejpřesnější závěr zatím není, že AI vytvořila zcela nový druh kriminality, války nebo represí.

Většina popsaných činností existovala dávno před velkými jazykovými modely.

Kybernetický průzkum.

Phishing.

Malware.

Krádeže dat.

Propaganda.

Sledování lidí.

Podvody.

Co se mění, jsou náklady, rychlost a měřítko.

Útočník nemusí získat schopnost, která nikdy předtím neexistovala. Práce, která dříve vyžadovala tým specialistů, může vyžadovat výrazně méně lidí a času.

A právě proto je věta Anthropicu o „sofistikovaných útocích bez sofistikovaných útočníků“ přesnější než apokalyptické obrazy o AI, která se sama rozhodla páchat zlo.

AI nemusí chtít nikoho napadnout.

Stačí, když velmi dobře pomůže tomu, kdo to chce.

A s každou další generací modelů bude důležitější otázka, kolik práce mezi lidským rozhodnutím „udělej to“ a skutečným výsledkem už dokáže stroj převzít sám.

Autor provozuje AI web https://tahakomat.cz

Zdroje ke článku: