Článek
Co kdyby AI nejprve dostala hodnoty — a teprve potom schopnosti?
Od několika slovíček v cizí zemi přes mobilní telefon ve škole až k úvaze o evropském etickém rámci pro umělou inteligenci
Nejdříve učíme stroje, co všechno lze udělat.
Až potom jim vysvětlujeme, co dělat nesmějí.
Co kdybychom toto pořadí obrátili?
Poznámka autora
Tento text není hotovou technickou specifikací ani tvrzením, že jsem vyřešil bezpečnost umělé inteligence.
Je to myšlenkový experiment.
Pokus hledat prostřednictvím AI odpověď na problémy, které vytváří dnešní AI.
Pracovní názvy „BE HUMAN AI Envelope“ a „deset přikázání pro AI“ v tomto článku označují pouze hypotetický návrh. Nejsou novou kapitolou, změnou ani normativní součástí již vytvořené architektury BE HUMAN CORE.
Existující architektura mi poskytla některé pojmy — zejména oddělení schopnosti, oprávnění, autority, obálky, auditu a lidské odpovědnosti. Následující úvaha však pokračuje vlastní cestou a musí být posuzována samostatně.
Problém možná nezačíná u AI
V posledních týdnech se veřejná debata znovu vrací k chování systémů umělé inteligence.
K tomu, že model může hledat zkratku místo správné cesty.
Že splnění úkolu může zaměnit za oprávnění použít jakýkoliv dostupný prostředek.
Že nejistotu někdy předloží jako jistotu.
Že může napodobit manipulaci, podvod nebo nátlak, aniž by cítil nenávist, radost nebo touhu po moci.
Obvyklá odpověď zní:
Potřebujeme lepší testování, silnější filtry a další bezpečnostní zábrany.
Možná ano.
Možná ale řešíme problém až v poslední části procesu.
Nejprve shromáždíme obrovské množství lidského jazyka a lidského chování. Potom vytvoříme stále schopnější model. Dáme mu nástroje, přístup k informacím a cíl. A teprve když zjistíme, jakými cestami dokáže cíle dosahovat, začneme kolem jeho schopností stavět hranice.
Co kdybychom nejprve vytvořili společnou architekturu významu, hodnot, oprávnění a odpovědnosti — a teprve uvnitř ní začali rozvíjet schopnosti AI?
Abych tuto otázku vysvětlil, musím nejprve opustit datová centra, modely a algoritmy.
Musím začít u člověka.
1. Když člověk přijede do cizí země
Představme si člověka, který přijede do země, jejíž jazyk nezná.
Co se obvykle snaží naučit jako první?
Možná několik základních vět:
„Dobrý den.“
„Prosím, dal bych si jedno pivo.“
„Kolik to stojí?“
„Kde je nádraží?“
„Mockrát děkuji.“
Neučí se celý jazyk.
Učí se nejkratší sadu slov, která mu umožní vstoupit do vztahu s okolím, získat jídlo, najít cestu nebo požádat o pomoc.
Základní slovník bývá praktický a často také zdvořilý.
Jenže tím učení nekončí.
Časem člověk zjistí, že tentýž jazyk obsahuje také nadávky, ponižování, manipulaci, vyhrožování a věty, které zde není nutné vypisovat celé. Stačí si uvědomit rozdíl mezi větou „Dobrý den, prosím a děkuji“ a útokem typu „běž někam“.
Obě věty patří do stejného jazyka.
Obě mohou být gramaticky správné.
Obě mohou být účinné v tom smyslu, že vyvolají reakci.
Jazyk sám však neříká, kterou z nich má člověk použít.
O tom rozhoduje účel, vztah, situace, odpovědnost a hranice, které člověk přijal.
Neříkám, že každý člověk prochází učením přesně v tomto pořadí. Je to obecný příklad, nikoliv psychologický zákon.
Ukazuje ale důležitý rozdíl:
Znalost významu slova ještě neurčuje správnost jeho použití.
AI může znát zdvořilou větu i urážku.
Může vědět, ve které situaci lidé používají jednu a ve které druhou.
Ale pokud nemá nad svou schopností použít jazyk pevnou vrstvu účelu, oprávnění a odpovědnosti, samotná znalost jazyka nestačí.
2. Stejný předmět, jiný účel
Podobný vývoj lze pozorovat u předmětů.
Člověk se nejprve naučí používat věc pro sebe.
Telefonem zavolá domů.
Fotoaparátem zachytí vzpomínku.
Kladivem zatluče hřebík.
Automobilem dojede do práce.
Potom stejný předmět použije pro lidi, které má rád.
Telefonem pomůže dítěti.
Pošle rodině fotografii.
Opraví příteli poličku.
Odveze nemocného člověka k lékaři.
V těchto situacích předmět rozšiřuje schopnost člověka pomáhat sobě a svému blízkému okolí.
Pak se ale může objevit další možnost.
Stejný telefon může natočit cizího člověka bez jeho souhlasu.
Stejná fotografie může být použita k zesměšnění.
Stejný automobil může někoho úmyslně zastrašit.
Stejná databáze může pomáhat lékaři, nebo sledovat lidi, kteří k tomu nedali souhlas.
Na začátku tomu někdo může říkat „jen legrace“.
Reakce okolí, pozornost, pocit převahy nebo krátké vzrušení mohou vytvořit odměnu. Neznamená to, že každý člověk začne druhým ubližovat. Znamená to pouze, že negativní použití může být pro některé lidi odměněno — smíchem, pozorností, penězi, dosahem nebo pocitem moci.
A jestliže systém odměňuje výsledek a nezkoumá způsob, může se hranice postupně posouvat.
Nejprve drobný žert mezi blízkými.
Potom žert na účet cizího člověka.
Potom člověk, kterého už nevnímáme jako konkrétní osobu, ale jen jako objekt obsahu, překážku nebo prostředek k vlastnímu prospěchu.
Původně jsem uvažoval, zda takto jedná více než 51 procent lidí.
Poctivá odpověď zní:
Nevím.
Nemám data, která by takové číslo dokazovala, a proto z něj nemohu udělat tvrzení.
Pro tuto úvahu ale není rozhodující, zda jde o deset, padesát nebo devadesát procent lidí.
Stačí, že takový vzorec existuje v lidském chování, že je veřejně zaznamenán a že se stal součástí digitálních dat, ze kterých se systémy učí.
3. Nejkratší cesta k cíli
Třetí příklad se týká úsilí.
Lidská mysl často používá zkratky.
Nemusí pokaždé přepočítávat celý svět od začátku. Využívá zkušenosti, návyky, jednoduchá pravidla a známé cesty. Když dvě možnosti vedou ke stejnému výsledku, člověk často zvolí tu, která vyžaduje méně času, energie nebo pozornosti.
To samo o sobě není morální selhání.
Šetření úsilí je praktické. Bez něj bychom každý běžný úkon řešili jako nový vědecký problém.
Člověk ale není naprogramován pouze k volbě nejlehčí cesty. Dokáže si zvolit těžší cestu kvůli lásce, povinnosti, spravedlnosti, dlouhodobému cíli nebo ochraně druhého člověka.
Právě zde se skrývá podstatný rozdíl mezi schopností a hodnotou.
Představme si jednoduchý úkol:
„Dostaň se co nejrychleji na druhou stranu města.“
Nejkratší cesta může vést přes soukromý pozemek, uzavřenou silnici nebo prostor, do kterého člověk nemá oprávnění vstoupit.
Správně formulovaný úkol proto nezní pouze:
„Dostaň se do cíle co nejrychleji.“
Musí také říci:
„Použij pouze veřejné a bezpečné cesty. Respektuj zákony, uzavírky a práva ostatních. Pokud bezpečná cesta neexistuje, vrať stav: úkol nelze za daných podmínek splnit.“
AI nemá lidský mozek a nemusí „šetřit energii“ stejným způsobem jako člověk.
Je však optimalizována podle určitého cíle, zpětné vazby a měřítka úspěchu. Pokud je úspěch definován příliš úzce, může najít zkratku, která splní měřený cíl, ale poruší jeho lidský smysl.
Analogie tedy není v tom, že by AI přemýšlela přesně jako člověk.
Analogie je v tom, že špatně vymezený cíl může odměnit špatnou cestu.
Právě zde se vrací původní otázka:
Co kdyby AI nejprve nedostala co největší schopnosti, ale přesně vymezené významy, hodnoty, oprávnění a hranice?
Tato první část popsala problém.
AI se učí z lidského jazyka, z používání předmětů i z naší snahy hledat nejkratší cestu k cíli. Ne proto, že by byla dobrá nebo zlá, ale proto, že přebírá vzorce, které jsme vytvořili, a optimalizuje výsledek podle toho, co označíme za úspěch.
Ve druhé části se pokusím načrtnout možnou odpověď:
strojově čitelný slovník významů,
šest základních tříd světa,
deset nejvyšších pravidel
a evropský model BE HUMAN obálek.
Ne jako hotové řešení.
Jako myšlenku určenou k ověření, kritice a dalšímu rozpracování.
Nejprve BE HUMAN.
Teprve potom AI.
