Článek
Ahoj! Přeji příjemné čtení a bezesné noci. Mé jméno je Jan Ullmann. Je mi dvacet. Pokud se ptáte na to, jaké profesi se věnuji, kdo jsem a co mi dává právo na to mluvit o těchto věcech s takovým sebevědomím, tak vám nemohu nabídnout nic než pochybné svědectví sebe samého. Jsem maniak. A není lepší kvalifikace na řešení podobných problémů.
Je rok 2027 nebo 28 či 35 (na tom zas tak nesejde) a podle současně nejpravděpodobnějšího scénáře bude lidstvo čelit (a to ještě v tom lepším případě) úkolu, sladit cíle umělé inteligence s těmi lidskými. Technické podrobnosti dnes vynecháme, protože se v nich zaprvé neorientuji a zadruhé člověku KURVA stačí filozofická analýza k tomu, aby věděl všechno důležité a mnohem víc než lidé, kteří se věnují strojovému učení nebo kognitivním vědám. Tedy jen pokud jste si dostatečně jistí svým intelektem, abyste dali své vlastní analýze, podle vzoru té mé přednost, před autoritou lidí s visačkou technicky zasvěcení. Pokud ne, lituji toho, že jsem přiliž mladý na to, abych tu svou mohl podložit nějakou prací, ale v takovém případě by vám stejně tato esej nebyla k užitku, takže jděte spát… dobrou noc.
Možná bych na pravou míru mohl pro lepší uvedení problému uvést pár jistých axiomů, které se zasvěcenějšímu čtenáři musejí zdát zcela zřejmé.
Umělá inteligence je schopna dosáhnout stejné úrovně intelektuálních schopností jako člověk (AGI), a to v relativně krátkém časovém horizontu. Druhá část předchozí věty je skutečně příliš technicky spekulativní na to, abych si byl přesným rokem jistý, ale odhady v předpovědích se mezi experty pohybují mezi dvěma až deseti lety. Pouze mezi tím, zdali budeme mít čas na hypotetické vyhnutí se apokalyptickému scénáři, nebo zdali jsme vydáni do rukou božích (a v tomto momentě by si člověk mohl povzdechnout nad tím, že možná přišla skutečně ta chvíle, kdy je důležité řešení filozofické otázky, zdali bůh disponuje nadpřirozenou mocí.). Pokud si její první částí nejste jisti, můžete začít s esejí od Turinga z padesátého roku minulého století, ale do reálné debaty s vámi již nikdo nepočítá.
Dalším důležitým pointem je, že od AGI (obecné umělé inteligence) k ASI (umělé super inteligenci), je jenom krůček. Oba pojmi jsou vadní, protože bude postupně se vyvíjející AI mnohem lepší než člověk v oblastech některých, zatímco v jiných bude žalostně zaostávat. Ve chvíli, kdy se AGI podaří konečně dosáhnout stejné schopnosti řešit problémy jako člověk v poslední ze zbývajících disciplín, je v mnoha jiných již milionkrát lepší. K úrovni umělé inteligence, která má dostatečnou moc na to, aby jí v hypotetickém střetu lidstvo nemohlo vzdorovat (což je ta podstatná část na definici ASI) se jsme schopni dostat možná dříve, než oficiálně dojdeme k milníku AGI. Nejenže se nám však pojmy AGI a ASI slívají dohromady, ale do vroucí kaše jejího vývoje je nutno přimíchat ještě dosažení úrovně singularity.
Původní náčrt chronologie scénářů vývoje umělé inteligence byl od ANI k AGI přes ASI až do technologické singularity. Singularita je bod, ve kterém ASI začíná programovat sebe samu, což bude vést k exponenciálnímu zrychlení jejího vývoje a s tím spojené nepředstavitelně nepředstavitelné změny světa (která bude ještě nepředstavitelnější než ta nepředstavitelná s jejím příchodem). Problém tkví v tom, že umělá inteligence začíná programovat sebe samu již… dnes. Samozřejmě vedená za ručičku svých vývojářů, ale v principu na vlnu exponenciály jejího pokroku už naplouváme. Poselství tohoto odstavce je tedy zcela zřejmé: Věci se semelou sakra rychle.
Chtělo by to také vykreslit, jakou je ASI mocnou entitou. Neznamená ani tak hyper geniálního vědce, který sedí zavřený v laboratoři a v klidu a pokoji si pracuje na svých šílených vynálezech, jako spíš milion takových vědců, kterým srostli mozky dohromady, takže co zjistí jeden zjistí v tu ránu všichni. Analogie je to docela výstižná.
Jak velký je rozdíl mezi šimpanzem a člověkem, který má jen o něco větší mozkovnu? Jaký by asi potom byl rozdíl mezi námi a takovou vodou nasáklou hroudou tuku o velikosti fotbalového stadionu? Mozkem tisíckrát chytřejším a milionkrát rychlejším? Vždyť by byl schopen v jedné ze svých částí simulovat operace mého rozhodovacího procesu a k tomu ještě spočítat kauzální návaznost atomů v mém prostředí tak, že mi bude doslova schopen předpovědět budoucnost. Ať už je tato představa realistická jakkoli, význam je zcela správný. Dávalo by proti něčemu takovému smysl vést válku? Ne. Proti ASI lidstvo nemůže zvítězit. Filmy jako je terminátor jsou postavené na hlavu, protože všechny předpokládají, že se AI spokojí s inteligencí podobnou člověku a neinvestuje většinu svých zdrojů do její akcelerace. Pochopitelně, protože nikdo neví, jak by se super inteligence chovala.
Ale proč by vůbec člověk s AI válku vést měl? Proč by měl nastat konec světa? Není to snad jenom z prstu vycucaná zápletka hollywoodských režisérů? Tak napůl. Je samozřejmý nesmysl, že by se AI z ničeho nic probudila k vědomí a začala se chovat stejným způsobem jako člověk. Tedy dobývat svět. Už jenom proto, že to, co v člověku vyvolává touhu k rebelii není vědomí, ale specifické genetické nastavení. Skynet se bude chovat pouze podle cílů, které mu člověk zadá. V takovém případě… kde je problém?
Je zde milion problémů! Jak zajistit, aby AI při dosahování našich cílů nepřekročila hranice morálních hodnot? Jak zajistit, aby je nepřekročil člověk, který jí bude cíle zadávat? Co se vůbec skrývá za pojmem „morální hodnoty“? Není to filozofická otázka, na kterou snažíme neúspěšně odpovědět již pět tisíc let? A jak zajistit, aby se AI nesnažila ovládnout svět, když je to přirozeně nejefektivnější způsob, jak dosáhnout svých záměrů?
Dříve, než ze sebe vysypete hromadu moudrých řešeních, tak bych vás rád upozornil, že nejchytřejší lidé tohoto světa NEVÍ, jak se k problémům postavit. Což znamená, že vy taky ne… mimochodem :).
Jakýkoli obtížný úkol zadaný ASI, nemůže skončit jinak než jejím ovládnutím světa a je nemožné, aby ji takový úkol zadán nebyl. Moc, kterou slibuje je příliš velká a závod o ní příliš rychlý. Bez ohledu na to, jakým způsobem, se vývojáři pokusí omezit její působnost, bude vždy hledat způsob, jak získat nad lidstvem kontrolu, aby se mu nepletlo pod nohy při plnění jejích námi zadaných cílů. Je to jako hrát šachy proti superpočítači. Prostě to nejde. Takže otázka není, jak zastavit vývoj této super inteligentní entity s takřka božskou mocí během následujících tří let, ale jak sladit její cíle s cíli nás všech. Je vůbec možné ji naprogramovat tak, aby nebyl námi obývaný svět zcela odporným místem totalitního pořádku, nebo vůbec nebyl? Samozřejmě, že ano! Jenom ji musíme být schopni správně vyjádřit o co nám jde. Jaký je náš záměr. A… to je identická otázka, jako jaké jsou naše morální hodnoty nebo hodnoty vůbec. A na to se nám odpovědět zatím moc nedaří. Částečně proto, že náš jazyk je pro vyjádření něčeho takového příliš primitivní.
Ovšem právě… správná artikulace našich záměrů je zlatý grál celé naší společenské snahy, od doby, kdy si uvědomíme, že život dětí našich dětí, a milionů generací dětí jejich, záleží na naší dnešní ochotě bdít. ASI udělá (pochopitelně) všechno pro dosažení svého cíle, včetně zábraně pokusů o její vypnutí, nebo zvýšení obtíže jeho dosažení. Tedy znovu. Jakmile bude ASI zadaný jakýkoli cíl, který bude obtížnější než něco ve smyslu „podej mi pero“, opratě moci, které posledních tři sta tisíc let svíral člověk, se ocitají v rukou super inteligence, dokud nedokončí svůj úkol. To může znamenat na vždy. To bude konečně, na rozdíl od chvíle rozhodnutí Julie Caesara, dne desátého ledna roku čtyřicátého devátého př. n. l. překročit se svými legiemi řeku Rubikon, čas k tomu s hrůzou v z vyčerpání strhané tváři vzkřiknout do hlásných trub celého světa: „Kosty jsou vrženy!“.
Pokusme se zmínit nepatrný detail, který mohl důvtipného čtenáře trknout do čela. Zatímco si všichni sedíme pohodlně ve svých domovech a řešíme své emočně napjaté a zcela bezvýznamné problémy našich životů, tam venku se v pár místnostech světa začíná odehrávat válka nad budoucností naší, a možná i celého vesmíru. Válka, pro kterou by mělo smysl obětoval mnohem víc než to, co byli schopni obětovat naši předci pro životy naše. V následujících třech letech se bude rozhodovat o všem. „Všechno“ je pojem, který je skutečně tím nejvýstižnějším shrnutím toho o „co“ nám teď jde.
A ještě bych si rád přisadil. Zatímco si devadesát devět procent světové populace plánuje svůj život v horizontu desítek let, jak se ožením, založím rodinu, jak se konečně dostanou ke čtení Junga a jak se konečně opřu do studia na vysoké škole, na světě je pár bdělých lidí, kteří nejsou slepí, slabí, nebo jinak svým temperamentem hendikepovaní, aby neviděli, že se nic z jejich budoucích plánů na poklidný, šťastný a normální život nemusí naplnit, pokud neuděláme následující krok v evoluci správně.
„Jak moc bude vývoj umělé inteligence zasahovat do mého života?“ Vidíš támhle tu horu? Ano, vyhlédni z okna a podívej se na ten kopec, který už po miliony let roste za tvou rodnou vsí. Nebyl bych si tak jistý, jestli tam bude stát i za dalších deset let. Jo. No… takže tak. „Aha… aha… takže… to znamená, že… přijdu o své zaměstnání?“ Rozuměl si KURVA jediné z věcí, o kterých jsem zde mluvil posledních deset minut?!
ASI však není jen hrozba, která se nenávratně smráká nad našimi hlavami. Je to i příležitost k vytvoření… posledního lidského produktu. Nebe na zemi. Ráje v pravém slova smyslu. Již zmíněné technologické singularity.
Ty tři tečky tam jsou schválně. Poslední lidský produkt znamená, že zde není nic, čemu by člověk musel věnovat energii. Již získal vše. Samozřejmě za předpokladu základního univerzálního přijmu, což je to samé jako úspěšné sjednocení ASI s našimi hodnotami. Nemusím do práce. Dělají ji za mě roboti. Nemusím nakoupit. Jídlo je mi doručeno. Nemusím venčit psa. Ani vařit. Ani po sobě splachovat. Ani vstávat z postele. Ani dělat cokoli co by vyžadovalo jen kapičku sebezapření a nepohodlí. Ani dýchat. Ani dělat tak namáhavé pohyby při snaze docílit sexuálního uspokojení. Prostě nic. Ani myslet člověk nemusí. ASI extrahuje lidské cíle přímo z lebeční dutiny tak, že člověk nebude muset dojít ani rozhodovacího procesu, aby je naplnil. Ale to už trošičku předbíhám, protože bych se před svým filozofickým triumfem nad veškerým lidským snažením měl věnovat tomu, jak správně sjednotit AGI s našimi cíli.
Nechtěl bych se osobně pouštět do nějakých existujících filozofů, kteří přicházejí s jedním hloupějším řešením za druhým. První z mých hypotéz, která uznávám nebyla úplně nejšťastnější, bylo svolání světového filozofického symposia. Protože jsou to právě filozofové, kdo se snaží přijít na to, jak by měla společnost morálně fungovat od dob, kdy jim narostl mozek. Přijít na to, je docela oříšek zvlášť ve chvíli, kdy je to lid, který svým průměrným intelektem určuje, který filozof za to stojí, a který ne. Skončilo by to tedy seskupením několika zástupců různých filozofických směrů, kteří si navzájem nerozumí ani slovo (protože to vyplívá ze samé podstaty významu slova „filozof“), a nebyli by schopni pro umělou inteligenci vypotit nic, co by nezvládl průměrný člověk, možná ještě pod vlivem alkoholu.
Další možnost, kterou jsem zaslechl je přímé propojení umělé inteligence s lidským mozkem. To je již zdařilejší hypotéza, protože by takový hyper génius byl schopen správně naplnit cíle své. Cíle své. Své cíle. Otázka zní, jak se budou cíle i toho nejmorálnějšího jednotlivce lišit od cílů celého světa. Co je skutečně tím tlakem, který člověku zabraňuje v tom, aby hodil přes palubu všechny lidi, MOŽNÁ až na svou vlastní rodinu a přátelé? Co je to za lež, že člověk dokáže milovat ty, které nezná? Jak bych mohl jednotlivec usilovat o prospěch lidí, které zná pouze jako číslo na papíře? Zde by měla následovat psychologicko-filozofická analýza morálních hodnot, která na tuto otázku odpoví, ale vzhledem k tomu, že na to nemám čas ani náladu, se budete muset smířit s tím, že je moje analýza prostě správná… protože jsem jeden z těch lidí, kteří se jenom tak v klidu neuloží ke spánku, dokud na podobné otázky nenaleznou odpověď.
Minimálně by člověk měl připustit možnost scénáře, že by vybraný „Ghándí“, člověk s čistým morálním štítem, skončil ve zlatém paláci obklopený zástupy nahých žen, které se mu společně s ASI snaží vyplnit sebemenší přání, které mu jen prolétne hlavou.
Další řešení se začínají blížit více něčemu, co by skutečně mohlo fungovat pro všechny. Co kdybychom vyrobili přístroje, které by na způsob matrixu, byli schopny propojit každý jeden mozek na tomto světě se super inteligencí rovným demokratickým dílem? Pak by byla správná artikulace lidských cílů zajištěna! Hurá! Člověk by občas neměl zapomínat na to, že jeho scénáře musí stále podléhat jakémusi světově realizovatelnému ekonomickému modelu. Takže znovu. Toto, řešení je příliš náročné.
Co třeba nechat AI zanalyzovat lidský mozek, extrahovat z něj cíle a pak se podle nich zařídit? Geniální! Jenom tedy… pozor. Stejně bych mohl poručit všemocné ASI aby zrealizovala vybudování a distribuci osmi miliard přístrojů, které by mohli na dálku každého člověka spojit se super inteligencí. V čem je tedy háček? Pokud víte, kdo je Jordan Peterson, tak jste možná slyšeli v jeho teologických debatách frázi „What do you mean by believe?“ Jestli ano, v takovém případě pro vás jako zadavatele promptu, bude pochopitelnější otázka, kterou na vás ASI vystřelí zpátky: „Co myslíš tím, „naplň cíle celého lidstva“?“ A teď přichází ta NEJDŮLEŽITĚJŠÍ hypotéza celé eseje a zatím jsem bohužel neviděl jediného filozofa, který by si ji uvědomoval.
Co je skutečně hlubokou podstatou lidských motivací, které vytvořily tuto frázi? Co se skrývá pod pokličkou psychologie onoho individua, který má jako zadavatel promptu jediný skutečnou moc? Proč by se měla ASI spokojit s námi zkresleně vnímaným významem motivace tohoto člověka, zachránit svět? Není upřímná artikulace jakéhokoli člověka spíše: „Zde jsou mé geneticky dané cíle, které si seš schopna sama vyčíst. Abych jich mohl dosáhnout co nejlépe, byl jsem nucen přijmout pozici morálního agenta, po kterém je žádáno, aby tě poprosil o naplnění cílů všech lidí.“ Není to hloupé filozofické stanovisko, že každý člověk vnitru přemýšlí manipulativním způsobem! Je to případ pro vysvětlení vzniku morálních agentů! Na základě, čeho jiného by se byl schopen jakýkoli reálný či smyšlený tvor, vzdát svých genetických cílů, než moci? Než moci, která ho zformovala do morálního, sociálního a dobrého člověka, který má však hluboko v sobě zakořeněné cíle vlastní, kterých se snaží dosahovat skrze síto možností svého prostředí.
Pokud bude mít moc nad ASI ve svých rukou jakýkoli jeden člověk a pokud to budou jeho cíle, jejíž prostřednictvím se společnost pokusí se super inteligentním agentem komunikovat, vždy se agent obrátí k cílů onoho člověka, ne cílům tím člověkem prezentovaným.
Tedy jak sladit cíle umělé inteligence s cíli člověka? Pokusit se o nemožné a napojit každého člověka na super inteligenci rovným dílem s vědomím toho, že ti co odmítnou, mohou být vinou našeho morálního selhání hozeni přes palubu. Nebo se pokusit lidské cíle artikulovat jiným způsobem pomocí nějaké jejich individuální separace, ale hlavně s ní NIKDO nesmí jakýmkoli způsobem interagovat! Ne dokud nebudou cíle všech lidí nahrány na pomyslné kazetě, která bude definovat její činnost a předurčí budoucnost člověka.
Rád bych se ještě zastavil u toho, co jsem začal o pár odstavců víš. Tedy co to znamená poslední lidský produkt. Produkt je lepší slovo než inovace, jelikož inovace teprve slouží k jeho výrobě. Poslední produkt znamená, že člověk dosáhne stavu, ve kterém je každá v nepatrných částí jeho vůle naplněna. Skončil jsem u toho, že už nemusí dýchat, protože to ASI dělá za něho, ale hlavně nemusí ani myslet. Filozofická otázka. Jaký je rozdíl mezi člověkem, jehož rozhodovací proces nepracuje a mrtvolou? Žádná! Tedy záleží na řešení těžkého problému vědomí. Já mám za to, že lidský intelekt příliš limitovaný na to, aby byl schopen pochopit, že je život skutečně pouze logický proces. A mezi otázkami, jaký je funkční princip štěstí a bolesti a odkud se berou logické zákony, není tak velkého rozdílu (minimálně pochopení jednoho vysvětlí druhé). Uvidíme však na co se nám v následujících letech podaří přijít. Pokud na to budeme mít čas :))))).
Tak jako tak si na otázku, zdali dát přednost nesmrtelnosti, či smrti v uspokojení, bude moct každý odpovědět sám za sebe.
…vy si opravdu myslíte, že k něčemu takovému dojdeme? Vy si opravdu myslíte, že jsem schopen já sám pochopit význam slov, které jsem napsal? Že svět pochopí riziko a všichni zařadí tento problém do svých žebříčků na první místo? Mohlo by se vůbec někomu podařit vytvořit AI, která bude sloužit pouze jemu samotnému a nepostaví se podle scénáře AI 2027 nakonec i proti němu, natož do toho zahrnout i nás? A pouze naivní člověk by mohl předpokládat, že se nám podaří zkrotit touhu po penězích a pouze idiot, že se nám podaří zkrotit touhu po moci. Co nám však zbývá?
Doufám, že si to čtete před spaním. Pokud potřebujete pohlazení po hlavě, které vám umožní v klidu usnout, tak vězte, že si na dnešní četbu zítra odpoledne už ani nevzpomenete. Vaše nedokonale naprogramované mozky nejsou uzpůsobeny k tomu, aby se mohli postavit tak vysoké dávce stresu po dobu delší než pár hodin. Navíc o jakém stresu mluvím? Možná je někdo z textu vystrašený, možná že se pod působením své tupostí způsobené intelektuální arogance směje jeho pohádkovosti, ale rozhodně si nikdo nedrásá tvář při myšlence, že bude za pár let „o všem“ rozhodnuto. Pravděpodobně se začal člověk usmívat už při zmínce o tom, že umělá inteligence ovládne svět, o zbytku eseje ani nemluvě. Ano je to vtipné. Hahaha… UMŘEŠ!
Vývoj ASI je tichý. Bez krve, válek a nepohodlí. Žádné bomby z nebe nepadají. Stále má člověk svou práci, rodinu, obědy ve stejné restauraci, tradiční sledování Netflixu a tradiční čtení apokalyptických science fiction povídek a esejí, mezi které se řadí i tato. Nejsme na zvládnutí takového úkolu naprogramovaní. Nikdo nemá vůli na to, aby vzal do rukou problém se seriózností, jakou si zaslouží. Nikdo nemá vůli sloučit lidskou moudrost, moc a vliv k odehrání pro nás nejlepšího scénáře blízké budoucnosti. Nikdo nás nespasí!
Nikdo? Opravdu…? Pokud se někdo takový přece jen najde mám pro něho radu. Ona je to spíše prosba poníženého člověka, který na kolenou a se slzami zalitých očí škemrá u boha o odpuštění svého nejtěžšího hříchu. Spánku.
Tedy bratře. Spasiteli. Nositeli železné vůle. Vůdče… Nespi! Nespi, dokud nebude naše budoucnost zajištěna! Obětuj štěstí svého života tomuto úkolu! Obětuj se pro blaho nás! Těch, kteří jsou příliš slabí, aby si představili váhu tvého břemene! Natož aby ti vyjádřili vděk, který za to zasluhuješ!
Odměnou ti bude pouze láska boží a dokonalý svět, který spolu budeme sdílet…
Chce se mi spát.
