Článek
Všiml jsem si, jak masovou pozornost získal nedávno zveřejněný prototyp umělé inteligence GPT, která umí vést konverzace o všem na odborné úrovni. Má rozhraní v podobě chatu, každý si to může vyzkoušet na chat.openai.com. Každý si to taky už vyzkoušel, kdekdo o tom mluví, mnozí užasli.
Sami autoři přiznávají, že se jedná o pouhý nedokonalý prototyp, který často produkuje nepravdivé či neúplné odpovědi. Ověřil jsem, že tomu tak skutečně je. Nejen proto budu tento systém nadále nazývat Umělou hloupostí (UH, v angličtině Artificial Idiocy, zkratka AI).
Umělá hloupost GPT umí nejen správně porozumět textu dotazu, ale i gramaticky a myšlenkově bezchybně vyprodukovat text odpovědi. Odpověď není vždy pravdivá a úplná, ale z hlediska jazykového dává smysl, nejedná se o žádné slátaniny, které si pamatujeme za začátků umělých jazykových překladačů. Schopnosti této umělé hlouposti se ovšem neomezují pouze na jazykovou komunikaci, UH umí sama správně usuzovat. Můžete jí předložit slovně formulovaný matematický příklad na středoškolské úrovni a UH vám dodá nejen správné řešení, ale i popis postupu, jak se k němu dojde. Tím umělá hloupost v oblasti matematiky již nyní překonává kognitivní schopnosti většiny populace. Nepochybuji, že v jiných oblastech to bude podobné.
UH se dá nachytat při matematické chybě, ale není to asi úplně jednoduché. Mě se to podařilo v relativně jednoduchém dotazu „Uveď mi příklad bijekce mezi konečnou množinou a její vlastní podmnožinou“. Dotaz vypadá učeně, ale je to otázka pro mateřskou školku. UH mne donekonečna přesvědčovala, že takový příklad našla, i když to nelze. Tento článek není o matematice, takže zde nebudu uvedený příklad vysvětlovat, jde mi o schopnosti UH a její budoucí vliv na společnost, nikoli o vylepšování tohoto pekelného vynálezu.
O dopadu umělé hlouposti na naše životy bylo popsáno spousta papíru, většinou se jednalo o fantazie, kterak roboti z různých pohnutek přebírají vládu nad lidstvem. Rád bych nabídl jiný pohled, který není tak fantazijně atraktivní, ale o to je reálnější.
Kdo pracuje jako softwarový vývojář, jistě zná stránku Stackoverflow.com. Na této stránce softwaroví vývojáři pokládají odborné dotazy komunitě jiných vývojářů. Kdo zná odpověď, odpoví a systém ho za to odmění. V průběhu řady let se tato stránka stala zdrojem znalostí a skoro žádný vývojář se bez ní v podstatě neobejde. Najdete tam rychle a efektivně odpověď skoro na všechny problémy, se kterými se v průběhu vývoje softwaru setkáte.
V dnešní době tento server na první stránce zobrazuje upozornění, že odpovědi od systému umělé hlouposti GPT nebudou akceptovány a kdo takovou odpověď na server uloží, se zlou se potáže (viz https://stackoverflow.com/help/gpt-policy). Kdo nechce číst dlouhý anglický text, pro toho krátce shrnu. Autoři říkají, že UH produkuje často nesmysly, ale dělá to natolik důvěryhodně, že to mnohdy nejde poznat a kdyby tyto odpovědi akceptovali, že by došlo k destrukci jejich serveru, protože by se vytratila důvěryhodnost jejich obsahu.
Tento příklad ukazuje dopad, který umělá hloupost bude mít velice brzy na celou společnost. Abychom tento dopad pochopili, musíme si přiblížit analogické děje z minulosti.
S nástupem globalizace se rychle dostavila doba, kterou bych pracovně nazval Doba levných čínských šuntů. Miliony čínských dělníků pracujících za hubičku začaly skoro zdarma produkovat zboží, které funkčností připomínalo dřívější západní výrobky, nikoli ovšem kvalitou. Cena však byla natolik bezkonkurenčně nízká, že i při této nízké kvalitě se vyplatilo tam všechno vyrábět. Ačkoli je dnes je již situace výrazně lepší, stejně se dá říct, že doba čínských šuntů znamenala natrvalo určitý předěl v přístupu lidstva ke spotřebitelskému zboží. Člověk si zvykl, že prakticky nic nefunguje úplně tak, jak má, ale že je to tak levné, že se to nevyplatí s někým řešit, nýbrž je lepší si koupit nový kus. Spolu s cenou došlo též k zásadnímu poklesu výdrže takových výrobků, čímž se z nich stalo spotřební zboží v pravém slova smyslu. Jen ti bystřejší z nás pochopili, jak velký vliv měla tato změna na myšlení a chování lidí. Nejen že to podporovalo plýtvání, rostla frustrace z všeobecné nefunkčnosti a netrvalosti všeho, ale lidé ztratili všeobecnou motivaci dělat práci opravdu dobře. Úspěšným modelem doby ve všech ohledech se stala schopnost rychle produkovat levné šunty.
Dalším obdobím vývoje byla doba nástupu sociálních sítí, kterou bychom mohli pracovně nazvat obdobím Demokratizace tuposti. Lidstvo je bohužel složeno z opravdu velkého počtu vysloveně hloupých lidí. Již dnešní prototypické stadium umělé hlouposti většinu lidí v chytrosti překonává. V okamžiku, kdy sociální sítě umožnily všem bez rozdílu a jakéhokoli filtru šířit výplody svého myšlení, došlo k zaplavení světa hloupostí. Výsledkem je šíření fašismu po celém světě za pomocí úmyslných či neúmyslných lží, masový výskyt víry v konspirační teorie, všudypřítomné dezinformace a podvody, ztráta důvěry v odborníky, takže nikdo nedbá na to, že se svět řítí do různých katastrof, rozdělení společnosti ideovými příkopy do bublin, likvidaci soukromí a další závažné jevy, o nichž byly popsány doslova tuny papíru. Elity usilovně přemýšlejí, jak sociální sítě regulovat, aby nás exploze hloupostí úplně nezadusila. Zatím nikdo nic nevymyslel. Pověšení Marka Zuckerberga na kandelábr by byl jistě první rozumný krok, ale bohužel by nic nevyřešil.
S nástupem umělé hlouposti nás čeká doba Levných myšlenkových šuntů. Je to obdoba levných čínských šuntů, akorát v myšlenkové, nikoli hmotné oblasti. Nikomu jistě neuniklo, že od doby vzniku informační společnosti došlo k brutálnímu nárůstu ceny myšlení. Programátor, schopný přesného abstraktního myšlení, vydělává měsíčně mnohonásobek průměrné mzdy. V jiných oborech, vyžadujících vzdělané a inteligentní lidi, je situace méně extrémní, ale podobná. Hodnota praktických kognitivních schopností jakožto jakési ekonomické komodity je vyjádřeno penězi obrovská.
Umělá hloupost nám přináší obrovské zlevnění této drahé komodity. Narozdíl od doby levných průmyslových šuntů je ovšem zlevnění mnohonásobně větší a tudíž také o mnoho lákavější. To povede k nasazování umělé hlouposti v masovém měřítku. Na call centru hračkářství může sedět živá paní, která vám odpoví na dotazy, jak ovládat ten umělohmotný jeřáb. Většinou odpoví správně a občas něco neví, což vám většinou aspoň částečně přizná. Zaměstnavatel za ni zaplatí každý měsíc průměrnou mzdu a ještě jednou totéž do státní kasy. Za zlomek ceny tam bude moct brzy posadit umělou hloupost, která bude odpovídat podobně, občas chybně, ale nikdy nepoznáte, že to je chybné. U živého člověka totiž existuje schopnost dát v konverzaci najevo míru jistoty mluvčího. To umělá hloupost zatím neumí a je otázka, jestli to vůbec může umět. Prakticky je to vidět na shora uvedeném příkladu se serverem Stackoverflow.com. Svět bude zaplaven levnými odbornými informacemi a radami, které budou jen částečně pravdivé, ale budou vypadat naprosto přesvědčivě, protože stroj o sobě nikdy nezapochybuje. Tato částečná pravdivost je právě to, co je na tom nebezpečné. Každý lhář ví, že úspěšná lež musí být z velké části pravdivá. Ví to taky všichni tvůrci dezinformací a dezinterpretací, z nichž se vlivem demokratizace hlouposti stal de facto nejrozšířenější způsob lidské komunikace.
Budeme se setkávat s články, zprávami, reportážemi, návody, recenzemi a všemožnými dalšími texty, které budou velmi levné a tudíž všudypřítomné, z velké části pravdivé, ale z určité části nesmyslné, pokřivené, neúplné, zmatené, nelogické, zamotané, absurdní. Všechno, co se na světě publikuje ve slovní podobě, tvoří jakýsi podklad pro chápání světa lidmi. Tento souhrn slov vytváří naši myšlenkovou realitu a slouží jako společný jmenovatel, díky kterému se spolu lidé domluví. Sociální sítě se svou demokratizací hlouposti tento společný jmenovatel rozředily obrovskou masou nesmyslů, které jsou nesmírně různorodé, protože každý hlupák šíří jiný typ bludů. Umělá hloupost tento společný myšlenkový základ změní jiným způsobem. Zajistí nenápadné pokřivení zrcadla, které však bude poměrně uniformní. Tak jako jsme si v době čínských šuntů zvykli, že nic nefunguje, v době umělé hlouposti si zvykneme, že nic není úplně pravda. Všechno je jaksi podivně pokřivené, nikomu nic nelze věřit. Jestli nás doba sociálních sítí odnaučila věřit odborníkům, doba umělé hlouposti nás odnaučí věřit samotným myšlenkám.
Po staletí si totiž lidé zvykli posuzovat myšlenky. Naučili se rozpoznávat, kdy něco vypadá rozumně a vyplatí se to sledovat a poslouchat a kdy se nejspíš jedná o nějaký typ bludů. V tomto posuzování hrají roli často jiné faktory, než kritický rozbor samotné myšlenky. Osoba mluvčího a její pozice ve společnosti, motivy a kontext dané výpovědi a emoční zabarvení výpovědi, ze které se dá detekovat míra jistoty mluvčího a další podobné charakteristiky. Jistě že ne vždy a u všech tvrzení se dá na základě takové metody dojít ke správnému názoru, ale u velké většiny to možné je. S nástupem umělé hlouposti tato metoda zmizí a lidé tak nebudou schopni posoudit relevanci samotných myšlenek. Zatímco doba demokratizace hlouposti byla demokratizací hlouposti lidí, tj. umožnila přístup hlupákům k masovému šíření informací, tak doba umělé hlouposti bude dobou demokratizace hlouposti myšlenek.
Je-li již nyní svět na pokraji rozpadu vlivem všudypřítomného myšlenkového balastu dezolátů, který destruuje politické rozhodování a společenskou smlouvu, co se může stát, když na celou tuto kymácející se stavbu na podmáčených hliněných nohou zaútočí další katastrofa v podobě destrukce důvěryhodnosti samotného myšlení? Nemohu si pomoct, ale nic jiného než nástup kolektivního šílenství a chaosu mě nenapadá.
