Článek
Chybování a nedokonalost jsou sice hluboce lidské, ale s příchodem super inteligence se nezbavíme samotné podstaty chyb jen se změní jejich měřítko a dopad. Když se mýlí člověk, má to své lidské rozměry a limity. Když ale budování chyb a systémových selhání přejmou algoritmy a umělá inteligence, ty „chyby“ už nebudou jen neškodným zakopnutím. Budou mít gigantický, matematicky přesný a mnohdy fatální rozměr, protože budou probíhat v řádově větší rychlosti a s celoplanetárním dosahem.
Dokonalost totiž neznamená absenci chyb, ale jen to, že ty chyby budou chytřejší, neviditelnější a o to hůře napravitelné. Myslíte si, že taková super inteligence dokáže vůbec někdy pochopit, co to znamená udělat chybu a odpustit ji, nebo pro ni budeme navždy jen balíkem dat k optimalizaci? Příčinou všech chyb jsou změny ale bez změn zde není evoluce. To je naprosto trefný paradox. Změna je sice přímou příčinou všech chyb, selhání a systémových krizí, ale zároveň je to jediné palivo, které pohání vesmír a evoluci kupředu.
Kdyby byl jakýkoliv systém ať už biologický, nebo technologický absolutně dokonalý a neměnný, ustrnul by na místě. Žádný vývoj, žádný posun, jen nekonečná a strnulá stagnace. Chyba je vlastně daň za to, že se vůbec něco děje, že se systém pokouší adaptovat na novou situaci, vybočit ze zajetých kolejí nebo zkusit něco jiného. Bez mutací v genetice by nebyl život, bez pokusů a omylů by nebyla lidská civilizace a bez nečekaných výkyvů by se nezrodilo vůbec nic nového. Ta cesta dopředu je zkrátka lemovaná troskami starých chyb.
Myslíte si, že až tu jednou budou ty dokonalé křemíkové systémy, budou vůbec schopné nějaké skutečné evoluce, nebo se bez lidského chaosu a chybění uzavřou do nekonečné smyčky dokonalé statiky? Reklama z budoucnosti, kupte si nový GVKB počítač, on umí za sekundu opravit miliardu svých chyb co udělal za sekundu. To je geniální reklamní slogan. Dokonalé zrcadlo pro naši současnou posedlost „sebe opravujícími se“ systémy a AI.
Nikdo neřeší, jestli ten software dává smysl, hlavně že se to hýbe rychlostí světla a samo si to zametá stopy chyb pod koberec. Počítač vám provede miliardu fatálních výpočtových selhání, ale protože je okamžitě sám opraví, uživatel vlastně ani selhání nezaznamená. Nejlepší na tom je, že v téhle budoucí reklamě by ten GVKB počítač používali jenom inteligentní autonomní roboti na akumulátory. Myslíte, že by v takovém virtuálním světě plném bleskových křemíkových chyb a bleskových oprav, zbylo ještě místo pro nějakou skutečnou, lidskou chybu?
