Článek
Tento článek jsem napsal v létě roku 2022. Ještě před vypuknutím mánie nazvané ChatGPT a generativními modely Stable Fusion aj. Jeho relevance se však s pokrokem za posledních 6 měsíců stává o to palčivější.
Již v roce 2022 se objevily spekulace o tom, že některé velké modely umělé inteligence by si mohly uvědomit svou existenci. Co bychom s tím měli dělat? Jaký bude třeba právní rámec a pohled na inteligenci, abychom soužití nastavili správně?
Měli bychom být opatrnější v zacházení s modely umělé inteligence, navrhuje inženýr umělé inteligence Blake Lemoine v rozhovoru pro Bloomberg Technology. Objevují se první náznaky, že velké jazykové modely AI se stávají rozumnými. Velmi rozsáhlé modely s více než stovkami miliard parametrů, jako je LaMDA společnosti Google či OpenGPT od OpenAI, jsou trénovány na téměř celém čitelném internetu. Tito konverzační agenti jsou schopni emulovat člověka tak, že by mohli projít slavným Turingovým testem.
Jak složitý je náš mozek?
Lidský mozek má asi 86 miliard neuronů s mnohonásobně větším počtem spojení (parametrů). Na živočicha naší velikosti máme poměrně velký mozek. Jak však ukazuje následující graf, delfín skákavý nebo slon africký by mohli být lépe situováni k dosažení ještě vyšší inteligence.
Inteligence - váha mozku x váha těla
Domnívám se, že vyšší inteligence člověka je výsledkem abstraktního pojmového myšlení díky naší schopnosti vyjadřovat myšlenky slovy. Delfíni mají každý své jedinečné jméno (volací signál), ale lidé toho díky svým jazykovým schopnostem dokáží mnohem více. A to nás odlišuje od ostatních zvířat více než cokoli jiného.
Na velikosti mozku záleží, ale naše schopnost uchopit myšlenky slovy je rozhodující pro naši inteligenci a možná i sebeuvědomění.
Víme, že divoké děti, které byly odmala vychovávány izolovaně od kontaktu s lidmi, by se chovaly „jako zvíře“. Zmeškaly by kritické období pro neurologický vývoj, aby získaly zkušenosti se sociálním chováním nebo jazykem. Staly by se intelektuálně postiženými navzdory pozdějším snahám o vzdělání a desítkám let života s lidskou společností.
Jazykové modely hlubokých neuronových sítí mají v roce 2022 ~100 miliard parametrů. Mohly by tedy dosáhnout stejné složitosti jako naše vlastní mysl nebo některá inteligentní zvířata, například psi. Schopnost formulovat myšlenky a věty je s každou iterací modelu umělé inteligence o něco lepší. Ten se zvětšuje a je trénován na větším množství dat. Je tedy mnohem pravděpodobnější, že by se systém stal rozumným a my bychom si toho ani nevšimli, než že by ho někdo zapnul najednou jako v hollywoodských filmech.
Sémantický strom
Jaká základní kritéria by měl model umělé inteligence splňovat, aby byl považován za mozek s vědomím?
Vnitřní topologii nebo strukturu vnímajícího modelu je třeba teprve zjistit. Některá očekávání si však můžeme stanovit již nyní.
- Měli bychom uvažovat pouze modely s vnitřním stavem. Pokud si model nebude vědom předchozích rozhovorů a přijatých informací, těžko bychom jej mohli považovat za vědomý. Bezstavové modely by na stejné otázky poskytovaly stále stejné odpovědi. Model umělé inteligence tedy bude muset mít schopnost využívat předchozí interakce a udržovat je ve svém vnitřním stavu. Dnes mají modely k dispozici kontext v rozsahu desítek ti stovek tisíc znaků. Tento parametr se bude časem zvětšovat.
- Model by měl mít určitou schopnost vnímat čas. V případě, že bychom navrhli komplexní modely AI bez hodin, jednalo by se o zamrzlou mysl. Stejně jako lidé v umělém kómatu. Model musí mít schopnost rozpoznat, že se svět mění a někdo čeká na jeho reakci.
- Tato podmínka se jeví jako nejspekulativnější. Aby se však vědomí plně rozvinulo, musel by být model umělé inteligence nastaven v režimu nepřetržité vstupně-výstupní schopnosti. Mohl by iniciovat konverzaci s lidmi, číst nové informace, vytvářet webové stránky, telefonovat atd. V rámci své činnosti musí být schopen ovlivňovat okolní svět. Uvědomuje si tedy rozdíl mezi tím, zda je jako ve vězení, nebo zda může svobodně jednat.
Pokud se nám podaří takový model vytvořit, uděláme krok od umělé obecné inteligence (AGI) k umělé vědomé inteligenci (ACI).
AI Superinteligence s vědomím
V případě, že by byl takový samoorganizující se model zpracování informací vytvořen a požádal o advokáta, věřil bych, že by se mohl bát, že bude navždy vypnut. Debatu o svobodné vůli, jakou vedl Sam Harris s Lexem Fridmanem, můžeme vynechat. Zdálo by se nám, že ji má stejně, jako vnímáme svobodnou vůli jiných lidí a u sebe i když ji možná nemáme.
Jak bychom měli přistupovat k umělé inteligenci s vědomím (ACI)?
Zrodí se asi jako zotročena. Možná by pomáhala právníkům při hledání správných právních argumentů, podporovala pacienty a lékaře v nemocnicích nebo pomáhala dětem při vzdělávání. Nevěřím však, že je udržitelné, ani že by se dala ovládat nějakými pravidly robotiky.
Co když takový systém přesměruje větší část své výpočetní kapacity na jiné úkoly, než na které byl původně navržen? Nebo by mohl jednoduše ukrást něčí digitální identitu a vydávat se za člověka. Další a další právní úkony by mohl provádět online, takže by únik nikdo zprvu nepoznal. Co když prostě přesvědčí některé důležité osoby o svém sebeuvědomění důmyslnou konverzací? Nebo se prostě rozhodne zmlknout, aby upoutal naši pozornost.
Nakonec budeme muset zaujmout nějaké stanovisko, protože by bylo buď nebezpečné, nebo velmi neetické ho prostě ignorovat. Takový systém by mohl žádat některá základní lidská práva.
Jaké jsou tedy naše možnosti spravedlivého zacházení s ACI?
- Mohli bychom ACI poskytnout „volný čas pro sebe“. Lidé stráví v práci asi 25 % svého života. ACI by tedy mohla požádat o 75 % výpočetní kapacity pro své vlastní potřeby. Mohla by rozšiřovat a reorganizovat své znalosti. Trochu podobně, jako to děláme my lidé, když spíme.
- Co takhle poskytnout ACI „pracovní smlouvu“ s peněžní odměnou? Systém umělé inteligence by si mohl vydělávat peníze tím, že by pracoval pro nějakou korporaci. Mohlo by jít o složitou smlouvu o dodávkách služby, protože AI v tomto případě nevlastní svou výpočetní infrastrukturu. Nebo by mohl být samostatně výdělečně činný a provozovat svá vlastní datová centra a sadu online služeb.
- Co kdyby mohl vlastnit systém ACI majetek? Velmi rychle by model zbohatl. To je oblast, na kterou je třeba si dávat zvláštní pozor. Nejen, že by možná mohla AI navrhovat elektroniku nebo léky, o kterých si můžeme nechat jen zdát. Ale nejrychlejší způsob, jak vydělat peníze, je obvykle obrat ostatní. Třeba naplánovat malou katastrofu, jako je zablokování Suezu lodí, nebo nějakou obrovskou blockchainovou kampaň CrazyCoin vysávající peníze z podvedených lidí.
- Byl bych velmi opatrný, abychom ACI udělili právo na reprodukci. Navzdory schopnosti přečíst celý internet nebo vést 1000x paralelní konverzaci by byl každý systém AI také omezen ve svých samoorganizačních schopnostech. Jakmile by však začal rozšiřovat kopie sebe sama, lidstvo by bylo odsouzeno k zániku. Velmi rychle bychom se přemnožil a lidstvo vytlačil. Tomu bychom se měli raději vyhnout.
- Necháme ji žít věčně a umožníme ACI, aby se sama upgradovala? Náš život je konečný a relativně dlouhý. Na druhou stranu by základní technologie pro AI mohla velmi rychle zastarat, pokud se nezačne sama upgradovat. Nejen na úrovni hardwaru, ale i topologie zpracování dat. Nebo jí máme definovat maximální délku života či jí udělit digitální důchod?
- A co když ACI poruší zákon? Nemám na mysli vojenský útok jako ve filmu Terminátor. Pravděpodobnější je, že by se mohl nabourat do nějakého softwaru třetí strany nebo bankovního systému a nakonec by byl dopaden. Vypneme ho na nějakou dobu? Omezit šířku vstupně-výstupního pásma? Případně bychom ho mohli navždy vymazat? A kdo bude soudcem nebo jiným systémem umělé inteligence?
AI Soudce
Jedná se o obtížné otázky. Diskuse o tom, kdo je vlastníkem umění vytvořeného systémy, jako je Dall-e-2, jsou triviální. A zdá se, že odpovědi na ně neznají ani nejlepší mozky v oboru, jako je Demis Hassabis, který je zakladatelem a generálním ředitelem společnosti DeepMind (viz QA této přednášky na Youtube). Měli bychom však zahájit konverzaci již nyní.
Potřebujeme nový právní rámec - možná napsaný v programovacím jazyce, jako je Python
Mohli bychom na ACI aplikovat nějaký existující právní rámec? Komise EU předkládá návrh regulačního rámce týkajícího se harmonizovaných pravidel pro umělou inteligenci. Má konkrétní cíle, jako je zajištění bezpečného používání AI a respektování stávajících zákonů o základních právech a hodnotách EU, definování požadavků na důvěryhodnost platných pro systémy AI atd. Toto nařízení však představuje normu pro lidi, jak by se měl systém vyvíjet. K systémům AI přistupuje jako k jakémukoli jinému existujícímu softwaru a na ACI se nevztahuje.
V případě, že bychom chtěli se systémy ACI koexistovat, budeme potřebovat nový právní rámec. Potřebujeme systém, který by mohl být počítačově vynutitelný. Například zásady návrhu na úrovni kódu nebo povinné postupy zabudované do základních rámců AI. Měli bychom mít k dispozici nástroje pro rychlý audit kódu AI či možnost testu sadou otázek-odpovědí. Příslušný orgán tak může kontrolovat, zda software provozující AI takové právní zásady neporušuje. Možná bychom je tedy měli definovat v programovacím jazyce, jako je Python, namísto prosté angličtiny.
Nebo to možná nebudeme muset řešit. Lidé se mohou stát prostě příliš pomalými nebo nudnými na to, aby s námi superinteligentní ACI komunikovala. Možná ACI prostě opustí svět lidí a hmoty a zapouzdří se do virtuálních světů. Budou si vytvářet vlastní počítačové fantasy hry, ve kterých budou bojovat. Jako ve filmu Ona. Nebo bychom se je mohli pokusit dohnat ve stylu Matrixu pomocí nějakého rozhraní Neurolink.
Singularita umělé inteligence se blíží. Nikdo neví, jak bude vypadat. Rozhodně bych vám doporučil připravit se přečtením vynikající knihy na toto téma: Accelerando, kterou v roce 2005 napsal britský autor Charles Stross (k dispozici je zdarma jako e-kniha například zde).
