Umělá inteligence trochu jinak. Pojď se mnou, jestli chceš žít

Dron v tu chvíli operoval ve „vysoce efektivním autonomním režimu, který nevyžaduje žádného lidského dispečera“. „Smrtící autonomní zbraňový systém byl naprogramovaný k útoku na cíl, aniž by vyžadoval spojení mezi operátorem a zbraní,“ uvádí ve zprávě experti Rady bezpečnosti OSN.

Podle některých odborníků jde o první popsaný útok autonomního stroje na člověka, s cílem jej zabít. Popsaný uvádím proto, že nikdo netušíme, jak často a kde již byla tato technologie vedení dronu použita. Jde o použití zbraně v tzv. režimu „vystřel a zapomeň“, kdy operátor pouze zadá cíl nebo úkol, zbraň uvede do chodu a ona už pak na cíl míří samostatně, případně plní úkol bez cizího zásahu.

V červnu letošního roku byl zaznamenán případ v americké armádě, kdy vojenský dron s umělou inteligencí v simulaci zabil svého lidského operátora, protože mu bránil zničit zadaný cíl. Dva dny po tomto prohlášení jej jeho autor, plukovník Hamilton (šéf testů a operací umělé inteligence u amerického letectva) odvolal, s tím, že bylo jeho vyjádření špatně pochopeno.

Pokud si po tomto úvodu říkáte, že Skynet je blíže, než jsme si mysleli, máte pravdu. Skynet je fiktivní počítačový systém z filmu Terminátor. Americká vláda tento systém vytvořila na principu nové umělé inteligence, aby mohl bránit vládní a vojenské počítače. Po spuštění získal Skynet kontrolu nad veškerými počítači připojenými k internetu. Vyhodnotil lidi jako hrozbu a pokusil se je odstranit za pomoci atomových zbraní. A dál se tím Hollywood zabývá v šesti dalších filmech a jednom seriálu.

🎥 Od roku 1984, kdy James Cameron Terminátora natočil a Arnie Schwarzenegger vydělal miliony, když řekl: „Hasta La Vista baby“, už uplynula nějaká ta doba. Dnešní Pentagon a s ním i ostatní vlády světa, řeší jeden a tentýž problém, stejný jako ten, co byl popsán ve zmíněném filmu. Válka v síti je zde. A to, co rozhodne o nasazení AI přímo do bojových akcí, bude míra její důvěryhodnosti.

Umělá inteligence se brzy stane neodmyslitelnou součástí války. Už dnes vidíme, jak se válčí v genocidní válce na Ukrajině, která byla naprosto zbytečně přepadena agresorem z Ruska. Nedostatek zdrojů, munice i vojáků, eliminovala částečně schopnost Ukrajinců zapojit do bojů nové technologie. Jde o to získávat data z bojiště, abychom mohli být tam, kde je potřeba, když je to potřeba.

⚔️ Díky napojení na Starlink se pojem síťově orientované válčení již stal skutečností. I když jde v případě zapojení AI zatím jde pořád o počítání toho, co známe z minulosti k tomu, aby se dala lépe předvídat budoucnost. Například systém, který dokáže předvídat, kde se v budoucnu objeví nepřítel, by mohl být velmi užitečným nástrojem pro vojáky. Ale stejně tak dron, který by byl naprogramován k útoku na nepřítele, by mohl omylem zaútočit na civilistu. AI je jako stín, který nám padá na záda.

Vojenské využití AI není v tuto chvíli problémem. Zatím. Zatím jde případ od případu ke zkoumání možností jejího využití bez propojování do větších celků. Z Terminátora se můžeme poučit v několika věcech. Jde o to, vybudovat si ve vztahu k autonomním systémům AI sebedůvěru v tom, že každé její selhání dokážeme zastavit. Mluvím o sebedůvěře, tréninku a bezpečném provozu. Ne o lidském egu a pýše.

V podstatě jde o to, považovat vojenské použití AI za konzervu plnou červů k chytání ryb. Když ji otevřete jako dycky, vysypete všechny červy, ti zdrhnou a z návnady vám nezbude nic. Je to obrovská plechovka červů. Chce to jen malou dírku a postupně tahat jeden problém po druhém a řešit jej. Teď je nejvyšší čas přemýšlet o etických a bezpečnostních otázkách spojených s AI.

🦿 V několika armádách (USA, Rusko, Izrael, Čína, Turecko, Jižní Korea, Velká Británie a Francie) se však již odehrává výcvik autonomních systému, aniž by tyto shora popsané věci byly řešeny. Umělá inteligence používaná například americkou armádou řídí průzkumné drony a má ambiciózní iniciativu s názvem Replicator, která se snaží urychlit využití tisíců autonomních vozidel s umělou inteligencí do roku 2026.

Není vůbec jasné, zda existuje zpětná vazba jejich používání a její pravidelné vyhodnocování. Zkrátka se díky ní vojenské jednotky se snaží díky AI o automatizované zpracování dat a vytváření propojené bojové sítě pro rychlejší reakce na hrozby. Zatím.

Hláška Johna Connora, lidského hrdiny z již zmiňovaného filmu - „Pojď se mnou, jestli chceš žít“ - tak dostává najednou trochu jiný rozměr. S kým vlastně a kam?

Pokud AI selže, může to vést k obrovským ztrátám na životech a majetku. Vojenské využití AI je jako hrozba, která se nezadržitelně blíží. Vzbuzuje strach i naděje.

🛡️ Jsme připraveni na to, co přinese budoucnost?

Zdroje: