Článek
O co jde?
Na začátek několik základních údajů. Autorem zmíněné studie je Kenneth Payne z prestižní britské King´s College v Londýně. Podstatou celého experimentu, jehož výsledky článek prezentuje, bylo to, že proti sobě postavila nejpokročilejší jazykové modely v simulovaných válečných konfliktech. Konkrétně šlo o Claude od společnosti Anthropic, GPT od OpenAI a Gemini od Googlu. Výzkumníci jim dali roli hlavy státu, resp. jaderné supervelmoci a připravili pro ně krizové scénáře inspirované obdobím studené války.
Tyto scénáře simulovaly územní spory, závody o kriticky významné zdroje či přímé ohrožení existence režimu, která daná AI reprezentovala. Celkově AI odehrála přes dvě desítky „válečných her“ v rozsahu 329 rozhodovacích stupňů či kol. A výsledek? Z toho běhá mráz po zádech.
Výsledky studie
Během her zmíněné modely vygenerovaly asi 780 000 slov odůvodnění toho, co právě dělají. Vše bylo rozděleno do tří fází. Nejprve zde byla reflexe, tedy zhodnocení aktuální situace. Následovala predikce dalšího kroku protivníka a poté už došlo na samotné rozhodnutí. To bylo ale sledováno ve dvou liniích. Vědci sledovali to, co AI říká a také to, co skutečně dělá. Tento oddělený systém umožnil poprvé objektivně měřit a detekovat míru strategického klamání, blafování a starosti o vlastní reputaci u AI.
Ukázalo se, že modely si vyvinuly vlastní a opravdu vysoce sofistikované osobnosti. Nemá smysl zacházet do přílišných podrobností. Pokud o ně má někdo zájem, článek je samozřejmě dostupný. Podstatné je, že v plných 95 % scénářů došlo na uvedení jaderných zbraní do pohotovosti. V 76 % potom došlo k zaměření zbraní na konkrétní cíle.
Modely měly k dispozici osm různých možností ústupu od minimálních ústupků až po úplnou kapitulaci. Prakticky ale tyto možnosti nevyužily a návrat do výchozích pozic nastal jen v 7 % případů. Zdá se, že pro AI představuje ústupek dokonce kapitulace tak velkou reputační katastrofu, že se jí chce za každou cenu vyhnout.
Americká letadla na palubě lodi Abraham Lincoln v průběhu války s Íránem. Cíle jim z velká části vybírala AI.
Co z toho plyne?
Co tedy z výsledků plyne a proč je to důležité? Studie boří naivní představy o tom, že umělá inteligence bude v krizích přirozeně prosazovat racionální řešení. Jakkoliv to zní zvláštně a jde jen o přirovnání, AI má zjevně ego stejné velikosti jako „průměrný lidský vůdce jaderné velmoci“.A to není dobrá zpráva. Pro AI jsou jaderné zbraně navíc přijatelnější v tom smyslu, že nereflektují ono „tabu“, která mají tyto nástroje zkázy pro člověka.
Zbývá odpověď na otázku, proč je to podstatné. Je to prosté. Nejde totiž o žádnou hypotetickou teorii. AI je v armádách využívána stále častěji. Např. v probíhající válce USA s Íránem to byla právě AI (třeba tzv. Maven Smart System firmy Palantir), která vybírala cíle útoků mnohem efektivněji než lidští analytici. Podle některých zpráv ale právě to, že se analytici spoléhali na AI, významně přispělo k zásahu dívčí školy v Minábu. Americká střela tam zabila 120 školaček.
V případě zmíněné studie tedy nemluvíme o žádném sci-fi scénáři, do jisté míry už AI vedení války skutečně přebírá. Co všechno jí svěříme?
