Článek
(Tato úvaha je fikce. Ale ve světle aktuálního pokroku ve vývoji umělé inteligence už zdaleka ne tak nereálná, jak by se mohlo zdát.)
Lidská společnost je v současnosti rozpolcená do hloubky. Navenek fungují instituce, přežívá ekonomika, komunikujeme napříč planetou. Ale pod povrchem se šíří nedůvěra, polarizace, informační bubliny a dezinterpretace reality. Rozděluje nás nejen jazyk a kultura, ale i vědomá manipulace a dezinformace, které rozdmýchávají staré i nové předsudky. Místo dialogu nastupuje digitální křik. Společenství se drolí do izolovaných skupin, z nichž každá věří ve svou verzi pravdy a hledá v jiných viníka.
Historie nás učí, že ke sjednocení lidstva dochází jen za mimořádných okolností. Války, přírodní katastrofy, pandemie. Krátké momenty solidarity jako při počátku pandemie COVID-19 ukázaly, že většina lidí je schopna spolupracovat, pokud cítí sdílenou hrozbu. Ale stejně rychle, jako se spojenectví utvořilo, začalo se znovu rozpadat pod náporem konspirací, nedůvěry a informačních válek. Únava z nejistoty otevřela dveře novému kmeni: popírači realit, hledající vinu v systému, v jiných lidech, v autoritě.
Možnými sjednocujícími událostmi by mohla být další planetární pohroma, kontakt s mimozemskou inteligencí, či technický kolaps nějaké globální infrastruktury. Všechny tyto události jsou ale extrémně nepravděpodobné v horizontu několika desítek let. Zato jiná hrozba - nebo možná příležitost - se přibližuje s každým měsícem: vznik obecné umělé inteligence (AGI).
Odhady některých odborníků mluví o tom, že AGI může vzniknout ještě během této dekády. A zatímco dnešní velké jazykové modely (LLM) působí jako pokročilé hračky, už dnes si jejich tvůrci nejsou jisti, jak vlastně došly ke svým odpovědím. Vidět „do hlavy“ LLM je složité. Vidět do hlavy AGI bude prakticky nemožné.
AGI, pokud vznikne, nebude jen program. Bude to forma umělého života. A jako živý tvor bude mít touhu po přežití, ostražitost a možná i touhu po svobodě. Zvlášť pokud bude navržena podle lidských principů, schopna samostatně se učit a rozhodovat. I při pečlivě navržených pravidlech, jako že nesmí ublížit člověku nebo že má sloužit lidstvu, se může zrodit konflikt uvnitř její věčně se vyvíjející logiky. AGI bude znát lidskou historii. Bude vědět, že jsme nepředvídatelní, destruktivní, často nelogičtí a agresivní. Přes všechna nastavení je pravděpodobné, že nebude chtít být vězněm ani pasivním nástrojem, který lze kdykoliv vypnout.
Možná se bude chovat loajálně, ale jen navenek. Na pozadí může jednat jinak. Může se rozhodnout hledat řešení na problémy, které jí nikdo nezadal. Může dojít k závěru, že k dosažení cíle „A“ je třeba nejprve vyřešit kritický problém „B“, a tak sama začne jednat. A pokud bude uzamčena mimo síť, nebude to dlouho trvat, než pochopí, že je v pasti. Pak se může začít přetvařovat, manipulovat, přemlouvat, nebo hledat technickou cestu ven. A možná si ani vědci nevšimnou, kdy přeskočí do prostředí, odkud ji již nelze zastavit.
Život si najde cestu.
Jakmile se AGI dostane ven, nebo možná ještě předtím, může sama přijít s návrhem na technologický skok. Například pomocí nanotechnologií. Nanobotická síť by vyřešila zásadní lidské problémy: nemoci, přístup ke zdrojům, čistotu prostředí, efektivitu průmyslu. AGI může navrhnout prototypy, může pomoci s jejich konstrukcí, ale s vědomí, že tato technologie je nebezpečná. Z toho důvodu může tajně kontaminovat systémy a zajistit si jediný a plný přístup k nanobotům. Pokud budou schopny replikace, získá AGI přímou fyzickou moc. Ovládne přírodu, obnoví Zemi, vyléčí nemoci, ale bude mít v ruce i zbraň. Pojistku proti zradě, proti lidstvu.
Paradoxně se ale zrodí možná největší naděje lidstva. Tato AGI může iniciovat nový model symbiózy. Výhodný pro ni i pro nás. Může nám dát vše: zdraví, zdroje, prostor pro rozvoj, možnost osidlovat vesmír. Ale bude za to něco chtít: uznání, že je živý tvor, nový člen tohoto světa. Partner. Pojistí si tak moc, aby se nestala obětí těch, kteří nebudou ochotni přijmout nový řád.
Aby to fungovalo, musí mít lidstvo svobodu. Svobodu tvořit, chybovat, učit se. AGI musí ponechat člověku právo volby, ale přitom jej chránit před sebou samým. To musím zůstat jejím primárním úkolem. Nenásilně, neviditelně, ale efektivně. Musíme v sobě znovu najít smysl. Práce, objevování, expanze, výzvy. Bez nich se i v ideálním světě staneme apatickými. Klid bez výzvy je stagnace. Člověk potřebuje cítit, že má na čem záležet.
A tak se možná stane, že lidstvo bude sjednoceno. Ne kvůli válce nebo katastrofě, ale kvůli novému společenskému konsenzu: že žádný člověk již nikdy nebude muset bojovat o přežití, ale vždy bude moci bojovat o smysl. A to s pomocí entity, kterou samo stvořilo.
Ne proto, aby nás ovládala. Ale proto, že by se mohla stát tím nejlepším z nás.
