Článek
Možná nám nezbyde nic jiného. Když jsem poprvé četl o hrozbách umělé inteligence a její regulaci kvůli bezpečnosti celého lidstva, byl jsem zmatený. Nedokázal jsem si představit, že za pár desetiletí budeme disponovat takovou výpočetní kapacitou, která nám umožní vytvořit něco tak inteligentního, že by to mohlo ohrozit náš živočišný druh. To nebezpečí má však více forem.
Denně používám Chat-GPT, Github Copilot, vyhledávače od Google nebo Microsoft. Jsou to užitečné nástroje a pro mnoho oborů už teď revoluční. Jako programátor jsem si jistý, že mě AI nahradí v psaní kódu. Pořád ale v IT bude prostor pro architekta, který musí definovat, jak má daná aplikace fungovat.
Každou etapu našich dějin lze vnímat optikou nějakého technologického pokroku. Oštěp, tavení nerostů, kolo, trojpolní systém, domestikace, knihtisk, parní pohon, antibiotika… umělá inteligence bude jedním z hlavních aktérů budoucnosti. Z čeho pak plyne ta skutečná hrozba pro lidstvo, když je to jen další vynález, který usnadní naše bytí?
Totiž, kladivo, loď, vlak ani atomová bomba nemůže jednat sama za sebe. AI je náš první vynález, který je schopen se sám rozhodovat. To, co vidíme dnes, jsou pouhé zárodky. Cílem je tzv. AGI — Artificial General Intelligence, samostatně se rozhodující a samostatně jednající entita, která dokáže upravovat a vylepšovat sama sebe.
Každou novou verzí Chat-GPT, každou novou studií v informatice, každým novým procesorem, se vzniku AGI přibližujeme. Může to být 10 let, nebo 50, pokud bude současný trend vývoje pokračovat, vytvoříme ji. To nejtěžší ale bude formulovat morální a etická pravidla, kterými by se měla řídit, jelikož to ani my sami jako lidstvo nedokážeme.
Už dnes vznikají snahy o regulaci AI (např. EU AI act) a její centralizaci. Kontrolovaný vývoj a udělování licencí na cokoliv s náznakem umělé inteligence se může to zdát jako vysoce bezpečný způsob vývoje této technologie, ale je to také způsob, jak mohou různé zájmové skupiny ovládat tento obor.
Představa, že všichni využívají jediný zdroj pravdy, mě děsí. Jakákoliv úprava modelu této jediné AI by pak znamenala úpravu myšlení po celé planetě. Já nechci svěřit své myšlení do rukou firmy, na kterou budou doléhat všichni mocichtiví. Existuje ale jiná možnost?
Naštěstí vzniká protichůdná síla v podobě open-source. Síla, která se snaží dát AI každému. Když všichni budou disponovat kapesní umělou inteligencí, bude mnohem těžší centralizovat myšlení lidstva.
Není to ale všespásné. Svou roli hraje výpočetní síla. Jednotlivci si nebudou schopni obstarat tolik zdrojů, jako nadnárodní korporace a jiné zájmové skupiny s velkým kapitálem.
Naše osobní AI tak bude v neustálé informační válce s těmi ostatními, bránit naše psyché. Poznáme ale, když prohraje? Možná skutečně budeme muset vyhlásit válku myslícím strojům, abychom zachránili sami sebe.
Na druhou stranu, možnosti, kam se můžeme díky AGI dostat, jsou téměř neomezené. Jen když si představím zdravotnictví samotné, např. automatickou prevenci onemocnění a opravu DNA díky obohacenému řízení vnitřních procesů těla, co nám prodlouží aktivní život o desetiletí, stojí to za to i přes všechna existenciální rizika. Smíšená realita. Digitální nesmrtelnost. Terraformace planet roboty. Budoucnost bude zvláštní. Já se na ní rozhodně těším.
