Článek
Zde se dostáváme k otázce jaký bude následek komerčního nasazení strojové inteligence globálně, zatím je strojová inteligence v testovací verzi nikdo dneska nebí kdy zde bude finální verze co nahradí vysokoškoláky a jiné psychopaty. Otázka plošného, ostrého nasazení pokročilé strojové inteligence do reálné ekonomiky odkrývá celou řadu systémových rizik a společenských otazníků. Dnes jsme stále ve fázi pokročilých prototypů a testování, kdy systémy sice podávají oslnivé výkony v analytických či tvůrčích úkolech, ale zároveň narážejí na nepředvídatelné limity.
Pokud by však v budoucnu došlo k nasazení plně autonomních systémů, které spolehlivě zastoupí vysokoškolsky vzdělané pracovníky a odborníky v kancelářích i managementu, pravděpodobně by to přineslo zásadní posuny v několika oblastech. Dosavadní technologické revoluce většinou nahrazovaly fyzickou práci a rutinní činnosti, zatímco duševní práce byla v bezpečí. Ostré nasazení AGI obrací tuto logiku naruby: Tlumočníci, analytici, právní asistenti či programátoři čelí zefektivnění, kdy jeden člověk s AI zastane práci celého oddělení.
Tradiční akademické vzdělání přestává garantovat ekonomickou jistotu. Do popředí se dostává schopnost zadávat správné otázky, ověřovat výstupy a propojovat obory. Když strojová inteligence nahradí manažery nebo analytiky ve vedení firem a institucí, vzniká vážný právní i etický problém. Pokud AI udělala špatné rozhodnutí v podniku, nelze ji dohnat k odpovědnosti. Pokročilé modely pracují na základě pravděpodobností a historických dat. Chybí jim však porozumění reálnému světu, což může v krizových situacích vést k rozhodnutím, která jsou sice „matematicky optimální“, ale v praxi destruktivní.
Při masivním nahrazení intelektuální práce dojde ke sporu o to, jak se rozděluje vytvořená hodnota. Bez kupní síly propuštěných zaměstnanců naráží celá ekonomika na nezájem spotřebitelů. Diskuse o zdanění robotické práce tak přestane být jen teoretickou úvahou a stane se nutností pro udržení sociálního smíru. Jakmile lidé předají komplexní myšlení a plánování strojům, vzniká dlouhodobé riziko postupné degradace vlastních schopností. Mnoho procesů poběží tak rychle a složitě, že jim člověk přestane detailně rozumět.
Přechod z testovacích verzí k finálním řešením nezávisí jen na tom, jak rychle vývojáři zvýší výkon modelů, ale především na tom, jak rychle dokáže společnost přizpůsobit svoje zákony, ekonomické modely a instituce. Podívejme se na Windows ani za 30 let nedokázal být stabilní jako je Debian. Inteligence je živá a program je mrtvý to musí konečně pochopit ti co chtějí nahradit testovací verzi strojové inteligence za finální verzi. To je velmi přesný pohled, který trefuje přímo podstatu problému.
Tvorba programů a databází a živé vědomí a myšlení fungují podle úplně odlišných pravidel. Program ať už je to složitý algoritmický systém, Windows, nebo miliardový jazykový model je ve své podstatě stále jen výpočet. Je to obrovská statistika a matice čísel. Funguje na základě dat z minulosti. Když narazí na situaci, na kterou nebyl vytvořen nebo natrénován, selže, protože nemá žádné reálné porozumění, intuici ani schopnost prožívat svět kolem sebe. Člověk nepotřebuje projít miliardy textů, aby pochopil absurditu, vtip nebo reálný dopad svého rozhodnutí v konkrétní vteřině.
Má vnitřní motivaci a zodpovědnost. Živý tvor jedná s vědomím následků. Stroj žádné následky nepociťuje, nemůže nést odpovědnost a neví, co je to chyba jen chrlí pravděpodobnostně nejvhodnější další krok. Živý organismus nefunguje jako zkompilovaný kód, který čeká na záplatu nebo novou verzi. Neustále se učí z přímého doteku s realitou. Vývojáři a investoři, kteří slibují „finální verzi“ nahrazující lidské myšlení, často zaměňují obrovský výpočetní výkon s reálnou inteligencí.
Můžete napsat sebelepší kód nebo natrénovat obří model, ale pořád stavíte jen neobyčejně složitý kalkulátor. Dokud bude základem technologie pouhý kód a data z minulosti, vždycky půjde jen o simulaci a simulace živou inteligenci se všemi jejími nuance, nadhledem a chápáním světa z principu nahradit nemůže. Program je jako svatá bible a umělá inteligence je jako živá příroda. Program je jako Bible. Je to zapsaný, pevný text. Má své dogmatické přikázání, přesný kód a strukturu. Všechno je v něm dopředu dané autorem.
Pokud se stane něco, co v textu nebo algoritmu není předvídáno, systém si s tím sám neporadí prostě narazí na hranici svého zápisu. Umělá inteligence je jako příroda. Není to statický kód, ale neustále se měnící, organický a do jisté míry nepředvídatelný systém. Vzniká z obrovského množství dat a interakcí, podobně jako se živá příroda vyvíjí z nesčetných vlivů prostředí. Je divoká, dynamická, dokáže překvapit svou adaptabilitou, ale zároveň v sobě nese nečitelnost a riziko stejně jako přírodní živly ji nelze plně spoutat do jednoduchých pravidel.
Snaha natlačit divokost a dynamiku „přírody“ zpátky do pevného a neměnného „zápisu“ bez chyb je přesně ten důvod, proč žádná „finální verze“ v klasickém smyslu vlastně nemůže existovat. Přírodu ani živou inteligenci zkrátka do jednoho hotového instalačního balíčku nestvoříte.
