Článek
Co se děje?
Před vřelým přivítáním čínského prezidenta Si Ťin-pchinga (習近平) na jeho nedávné návštěvě ve Spojených státech (23. až 25. září) se začaly šířit spekulace, zda Washington a Peking najdou společnou řeč v otázce regulace umělé inteligence.
Zastánci potenciálního společného postupu přitom odkazovali na někdejší obdobné dohody mezi USA a Sovětským svazem v oblasti jaderného zbrojení. Ty vznikaly zejména ve snaze zabránit katastrofálnímu nedorozumění mezi jadernými mocnostmi a patří mezi ně například zřízení horké linky po zažehnání Karibské krize. Řada expertů proto začala volat po vytvoření podobné krizové linky, která by zabránila potenciálnímu nedorozumění v případě, že by se americká nebo čínská AI „utrhla ze řetězu“ a začala představovat nebezpečí. Jiní šli ještě dál a začali vyzývat k dočasnému pozastavení vývoje stále výkonnějších velkých jazykových modelů (LLM), které podle nich pro lidstvo představují významnou existenční hrozbu.
Regulace AI tak získala na agendě summitu vysokou prioritu. Si a Trump nakonec našli určitou shodu a dohodli se na zřízení platformy pro dialog o umělé inteligenci. Bílý dům ve své tiskové zprávě uvedl, že se obě strany dokonce dohodly na používání termínu superinteligence (SI). Peking si však tento bod dohody zřejmě vyložil jinak, jelikož ve svých vyjádřeních termín ani jednou nepoužil. Jak přesně bude tato platforma fungovat, zatím není zcela jasné. Obě země uvedly, že budou o této otázce dále jednat v listopadu.
Alespoň povrchová shoda na potřebě tyto technologie regulovat se může jevit jako dobrá zpráva. Nesmíme ale zapomínat, že za snahami obou stran nestojí pouze dobrosrdečný altruismus nebo vize lepších a bezpečnějších zítřků pro celé lidstvo. Pohnutky USA a Číny (ČLR) vycházejí ze snahy o technologickou dominanci a z jejich širších strategických zájmů. Ačkoli je ČLR v této debatě často prezentována jako opatrnější a zodpovědnější aktér, její regulační kroky ukazují především na snahu prosazovat zájmy Komunistické strany doma i ve světě.
Jaký je širší kontext?
Debata o větší regulaci chatbotů nabrala v posledních měsících na obrátkách. Přispěla k tomu především široce medializovaná varování zaměstnanců, nebo přímo šéfů velkých technologických firem vyvíjejících LLM. Několik nedávných incidentů tyto obavy ještě znásobilo. V červnu se autonomním agentům od OpenAI (samořídícím softwarovým systémům) podařilo nabourat do databáze Hugging Face, vývojáře open-source nástrojů pro strojové učení. Případ vyústil v trestní oznámení podané u soudu v San Franciscu neziskovou organizací Legal Advocates for Safe Science and Technology.
Po případu Hugging Face následovalo přiznání společnosti OpenAI k dalšímu průniku jejích agentů, tentokrát do systému australské veřejné správy. V prohlášení z 2. října OpenAI přiznala, že její agenti získali přístup k neveřejnému rejstříku úřadu pro statistiku kriminality v Novém Jižním Walesu. Společnost rovněž přiznala obdobný průnik do systému australské veřejné zdravotní pojišťovny. Olej do ohně přilil také virálně se šířící rezignační dopis zaměstnance společnosti Anthropic. Ten mezi důvody svého odchodu uvedl více než desetiprocentní pravděpodobnost, že AI vyhubí celé lidstvo.
Jazyk, kterým se o těchto incidentech mluví a informuje, si však zasluhuje bližší přezkoumání. Lidé mají silnou tendenci antropomorfizovat věci, které mají s lidskou existencí pramálo společného. Naše dostupná jazyková výbava týkající se chatbotů tuto tendenci výrazně zesiluje. Mediální titulky typu „AI se hackla“ implicitně přisuzují této technologii autonomii a schopnost jednat z vlastní vůle. Takové rámování zároveň odvádí pozornost od nezodpovědného zacházení s AI a od jejího nedostatečného zabezpečení ze strany samotných firem a jejich vývojářů. Přední informatička a bývalá zaměstnankyně Googlu Timnit Gebru tvrdí, že samotný termín „umělá inteligence“ je pouze marketingovým spinem technologických firem, jehož účelem je posílit naše vnímání LLMs jako autonomních a inteligentních systémů.
Bývalá předsedkyně americké Federální obchodní komise (hlavního úřadu pro ochranu spotřebitelů a férové hospodářské soutěže) Lina Khan tvrdí, že výzvy ředitelů technologických firem k zastavení dalšího vývoje, přijetí nových regulací nebo společnému postupu s Čínou jsou jen kouřovou clonou. Podle ní odvádějí pozornost od již existujících zákonů a norem týkajících se například kybernetické bezpečnosti nebo klamavé reklamy. Big Tech by podle této argumentace chtěl, abychom jazykové modely vnímali jako bezprecedentní technologii, na kterou současné zákony nestačí. Je proto údajně třeba sepsat úplně nové právní normy, ideálně za intenzivních konzultací se samotnými firmami, které tyto technologie vyvíjejí, jelikož právě ony mají o jejich rizicích vědět nejvíce.
Vyvolávání strachu ze všemocné superinteligence, která eventuelně získá schopnost vyhubit celé lidstvo, nabírá na intenzitě souběžně s plány firem vyvíjejících chatboty vstoupit na burzu. I čínské technologické firmy plánuji v dohledné době začít se svými akciemi veřejně obchodovat.
Kritici americké debaty o AI často sklouzávají k implicitnímu velebení čínského přístupu, kde debata o existenčních hrozbách pro celé lidstvo není na programu dne. Když čínští komunisté mluví o rizicích AI, často kladou důraz na bezprostřednější rizika pro spotřebitele. Intenzivně se diskutuje například o deepfakes, rizicích pro zaměstnanost či narušení ekonomiky. Čína se tak ve srovnání se Silicon Valley staví do pozice pragmatičtějšího a příčetnějšího hráče.
Odhaduje se, že Spojené státy mají stále zhruba osmkrát větší výpočetní kapacitu než ČLR. Čínští vývojáři se snaží americký náskok dohnat spoléháním se na úspornější modely, které vyžadují výpočetního výkonu méně. V souvislosti s těmito snahami se často skloňuje pojem destilace. Ve zkratce jde o trénování menšího modelu pomocí většího. Výstupy a data z většího (amerického) modelu se destilují do menšího a úspornějšího (čínského). Čínská strana se zároveň rozhodla svou AI infrastrukturu stavět na takzvaných open-weight modelech. Na rozdíl od uzavřených modelů, jako ChatGPT, lze otevřené čínské modely jednodušeji upravovat podle jednotlivých potřeb uživatelů.
Vyjádření ministra státní bezpečnosti a tajemníka stranického výboru ministerstva Čchen I-sina (陳一新) nám poskytují vhled do toho, čeho se Peking v souvislosti s AI obává nejvíce. Debaty o rizicích se v ČLR soustředí především na obavy ze ztráty vedoucího postavení Komunistické strany v zemi. Velký důraz je kladen na protirežimní využití chatbotů ke kognitivnímu boji. Na kognitivní boj klade velký důraz také Čínská lidová osvobozenecká armáda, která ho prezentuje jako jeden z pilířů konceptu „trojího způsobu vedení boje“, oficiálně přijatého v roce 2003.
Článek vydaný v publikaci čínské Ústřední stranické školy tamní smýšlení dokresluje ještě lépe. Autoři v něm varují před využitím AI k rozpoutání takzvaných „barevných revolucí“. Tento pojem autoritářské režimy s oblibou používají pro domácí občanské nepokoje, které zpravidla připisují zahraničnímu vměšování.
Peking se zároveň snaží o rozšíření svých chatbotů do zemí globálního Jihu. Čínský prezident nedávno představil Globální iniciativu pro správu AI. Iniciativa má zemím, které projeví zájem, nabídnout pomoc s implementací technologií AI do jejich ekonomik. Projekt nápadně připomíná iniciativu Pás a stezka (一帶一路), tentokrát však s důrazem na budování měkké síly prostřednictvím chatbotů. Čínské akční plány používají podobně bombastický jazyk jako Silicon Valley. Pracují například s pojmy jako „transformativní síla AI“, „technologie ve prospěch celého lidstva“ nebo „nová hranice ve vývoji lidstva“.
Proč je to důležité?
Nejbezprostřednější rizika spojená s LLM plynou z nezodpovědného zacházení s touto technologií, z jejího špatného nasazení a z elementárního nepochopení toho, co dokáže a nedokáže. Dokud si to obě zúčastněné strany nezačnou uvědomovat, debaty o regulaci zůstanou jen planými řečmi.
Nedávné incidenty nám ukázaly skutečná, již hmatatelná rizika. Investigace CNN z letošního září popsala, jak američtí vojenští analytici spoléhali na výstupy nejmenovaného chatbota, který nesprávně identifikoval náklad převážený čínským plavidlem jako jaderný. Než si Američané uvědomili, že jde o halucinaci AI, začali se reálně připravovat na zásah. Ani schopnosti čínských modelů nejsou zárukou klidného spánku. V červnu se začaly šířit zprávy o tom, že čínský chatbot poskytl uživatelům návod na výrobu biologických zbraní a podrobný postup ke spáchání atentátu. Vzhledem k tomu, že většina čínských modelů čerpá ze schopností těch amerických, se není čemu divit. Přísnější domácí kontrola v Číně nebude znamenat mnoho, pokud Peking zároveň plánuje technologii otevřenou libovolným úpravám šířit v rozvíjejícím se světě.
Přes všechny rozdíly mezi Silicon Valley a čínským technologickým sektorem se ani jedna strana na cestě k technologické převaze nechce vzdát staré známé mantry: „Move fast and break things“ – postupuj rychle a rozbíjej věci.
