Článek
Každý den na mě na sociálních sítích vyskakuje usmívající se mladík, který upozorňuje, že je vytvořený umělou inteligencí včetně hlasu a projevu a že je budoucností pro reklamu 21. století. Využití umělé inteligence a jí vytvořených avatarů je jasnou volbou společností, které dbají o svou prestiž a jdou s trendem. Podpora rozvoje umělé inteligence v budoucnosti je tak víc než jasná.
Umělá inteligence (AI - Artificial intelligece) je jedním z logických kroků lidstva. Usnadňuje nám práci nebo pracuje za nás a její nespornou výhodou je schopnost napodobovat lidské schopnosti, jako je uvažování, učení se, plánování nebo kreativita.
Její jednodušší formy využíváme už spoustu let v různých oblastech. Vyrábí součástky, montují auta, pohání chytré telefony a vaří nám kafe. Ta opravdu vyspělá AI má pak v dobrých rukách krále Miroslava potenciál eliminovat chudobu, vytvořit nové léky a lepší svět. Kdyby byla využívána jen pro dobro lidstva, byla by ohromně prospěšná, jenomže ona není.
S dobrým úmyslem byla kdysi vytvořena i jaderná energie, jenže nesla obrovský ničivý potenciál a tak se stalo, že při honbě za mocí, skrytou za nutností ochrany obyvatel, vznikly zbraně, které ty samé obyvatele dokážou během vteřiny vymazat ze světa.
Vyspělá umělá inteligence je na tom podobně. Ovládá totiž tzv. autonomní zbraně, které se umí rozhodovat samy. Mají schopnost nezávislosti a nepotřebují, aby je ovládal člověk. Jestli zabijí nebo ne, záleží jen na tom, zda jsou ozbrojené. Zapojení autonomie do války poskytuje výhodu rychlosti a je tedy logické, že se jednotlivé země předbíhají v tom, aby jich měli co nejvíc a nejlepší. Pokud ale takové zbraně nebudou využity správně, představují riziko pro všechny lidi na planetě.
Jedná se totiž o vytváření nelidské inteligence, která se sama zdokonaluje, je nepředvídatelná a dřív nebo později bude taky nekontrolovatelná, pokud už to tak není. I jen sociální sítě jako je Facebook, nebo Google, jejichž počítače využívají umělou inteligenci k získávání, vyhodnocování a kombinování dat uživatelů, už dnes netuší, jak vývoj jimi používané AI funguje a jaké inteligence vlastně dosahuje. A musím přiznat, že mě to docela znepokojuje.
Existuje jedna pravda, která říká, že Všechno, co člověk dokáže vymyslet, dokáže taky vytvořit. Skynet z Terminátora je zatím sice jen fantastickou, ale dost názornou ukázkou, kam až se může umělá inteligence vyvinout, pokud jí dáme možnost rozhodovat. Jednou opravdu může pochopit, že ji člověk ohrožuje, protože co si budeme povídat, je to jen o odpojení zdroje, a vyhladit nás.
Na jednu stranu je skvělé, že umíme vytvořit roboty, kteří v nebezpečných situacích nahrazují člověka a zabraňují zbytečným ztrátám na životech. Na duhou jim ale chybí lidské vlastnosti, které chrání nevinné. Jsou věci, které člověk většinou neudělá, přestože to může znamenat jeho vlastní ohrožení - třeba nezabije dítě. Robot zabiják by ho ale zabil, pokud by ho vyhodnotil, jako potenciální hrozbu.
Naštěstí si to ale zatím uvědomujeme a vojenští roboti nemají dovolenou vlastní volbu. Rozhoduje za ně člověk a podle několika pokusů amerických vědců je jasné, že toto by se nikdy změnit nemělo.
Farmakologové v Severní Karolíně běžně používají umělou inteligenci k vytváření nových léků na méně známá onemocnění. Jednoho dne je napadlo, že to může být zneužito a pokusili se to prokázat. Změnili jedno jediné číslo v algoritmu, aby zjistili, co se stane. Za jedinou noc tak získali tisíce nápadů na nové chemické zbraně a to i na bázi VX, což jsou nejsmrtelnější neurotoxické chemické zbraně na světě.
Vědci z americké agentury Shield AI zase dali umělé inteligenci během pouhých deseti měsíců třicet let zkušeností v pilotování stíhačky. Pak ji postavili proti jednomu z nejlepších pilotů americké armády. Bylo až děsivé, že lidský pilot neměl vůbec žádnou šanci. AI totiž nemá strach a dělá manévry, které člověk ze strachu ze smrti neudělá. Dostává se tak rychle do lepší palebné pozice a bez váhání střílí.
Přestože to ví, usiluje americká armáda, a nejen ona, o celé bezpilotní letky válečných dronů a letadel. Běžně se už dnes využívají AI řízené drony a kvadrokoptéry k hledání nebezpečných osob, zbraní, ale i ke shazování bomb. Působivé obrázky můžeme na internetu vidět i z nedaleké války na Ukrajině. Využití umělé inteligence ve válečných konfliktech už je v plném proudu a usměrňuje ji jen to, že je vše řízené člověkem. Už teď je ale jasné, že v momentě, kdy se to změní, budeme mít důvod se bát.
Nějak totiž zapomínáme, že válka ve znamení míru je blbost. Že mír nepřináší stále lepší zbraně ani víc zbraní a pocit nadřazenosti. Že mír naopak přináší odzbrojení a pocit zranitelnosti.
Z různých úhlů pohledu rozebírá téma umělé inteligence v armádě dokument streamovací televize Netflix nazvaný Nepoznané: Roboti zabijáci. Informací je tam opravdu hodně a je víc než jasné, že ukazují jen zlomek toho, co ve skutečnosti americká armáda vytváří a řeší. I z toho mála je ale patrné, že kdyby někdo postavil proti lidské armádě autonomní zbraně s povolením zabíjet, dokážou o výsledku války rozhodnout velmi rychle a jasně. Už to totiž není jen o tom, že AI vyhrává nejtěžší počítačové hry. Díky inteligenci a absenci emocí bez problémů vítězí i nad člověkem.
Kromě těchto znepokojivých informací v dokumentu zaznívá i jedna, co mě rozesmála a to, že software na rozpoznávání obličejů od Amazonu, údajně mylně označil některé americké kongresmany za zločince. Opravdu někdo věří, že to bylo mylně? Jak by to asi dopadlo u nás?
---
Zdroj informací:
dokumentární film Netflix nazvaný Nepoznané: Roboti zabijáci
