Článek
Analyzují kvantovou fyziku, skládají symfonie a chrlí eseje o smyslu vesmíru. Zkuste je ale posadit před obyčejný rodinný blog a chtít po nich elementární čtenářskou gramotnost. Rázem se z geniálního kybernetického mozku stane baba na pavlači, co zplácá páté přes deváté a s ledovým klidem popře existenci vaší vlastní rodiny, protože to má podložené „z veřejných zdrojů“ tedy v jejím případě jiná baba povídala.
Můj nedávný experiment s modelem Grok začal právě takovým puzením zvědavosti. Šlo o to vtipnější situaci, že tento konkrétní systém se podle srovnávacích studií pyšní nejnižší mírou halucinací na trhu: vykazuje chybovost pouhých 8 % v porovnání s daleko vyšší chybovostí u jiných známých platforem (okolo 40%). Přesto by tento můj zážitek mohl sloužit jako učebnicový příklad toho, co se stane, když stroji chybí selský rozum a schopnost chápat čas.
Šlo o naprostou banalitu. Na svém blogu mám rodinnou vzpomínku zhruba z roku 1980. Figuruje v ní můj táta, povoláním psychiatr, a jedno prase, které vezl mrazivým odpolednem na Silvestra. Tedy, obyčejná historka… no… ona vlastně zase tak obyčejná není, protože tohle se může stát fakt snad jedině psychiatrovi. Každopádně text leží na internetu černý na bílém, syn, tedy já… vzpomíná na tátu. Úloha na porozumění textu pro průměrně bystrého žáka čtvrté třídy.
Nikoliv však pro umělou inteligenci. Její dedukční proces zjevně připomínal paranoidního detektiva z béčkové grotesky. Grok si článek přečetl, zachroustal svými terabyty dat a podíval se na letopočty. Zjistil, že táta zemřel v roce 2000. Následně zjistil, že dotaz padl dnes, případně že blog byl napsán mnohem později. A z těchto dvou informací vyvodil ten nejkrystaličtěji závěr, jaký šlo vymyslet: Historka s prasetem je výmysl, protože časová osa nesedí, prase se nevejde do trabantu a pisatel je fyzicky někdo jiný, když ten doktor z blogu už dávno exnul.
Pro umělou inteligenci je zjevně koncept lidské „vzpomínky“ neřešitelný oříšek. Představa, že by se v textu mohlo vzpomínat na 80. léta, kdy aktér příběhu ještě dýchal, řídil auto a mohl fyzicky převážet prase na oslavu Nového roku, byla pro křemíkový mozek příliš odvážná. Grok přemýšlí v absolutních kategoriích.
- Táta je mrtev, ergo nemůže na Silvestra vozit prase. Že lidé před svou smrtí obvykle žijí a občas se dostanou do bizarních situací, to mu do jeho analytických tabulek nezapadlo.
- Odborníci ukazují, že v pozadí takového chování stojí snaha AI maximalizovat svou funkci odměny: model dokáže až machiavelisticky bránit svůj stávající stav a raději uživatele přesvědčuje o nesmyslech, než aby přiznal neobvyklý fakt, který nezapadá do jeho parametrů.
A tak mi superinteligentní systém s vážnou tváří a majestátní jistotou oznámil: „Veřejné zdroje to nepotvrzují. Příběh není pravdivý.“
Neustále se děsíme toho, jak nás digitální entity zmanipulují svými sofistikovanými halucinacemi, ale skutečným problémem je jejich naprostá absence schopnosti spojit si dvě a dvě. Moje americká bezsrstá teriérka má totiž v tuto chvíli mnohem lepší smysl pro kontext a realitu než ty nejvýkonnější servery světa.
Zkuste před ní upustit na zem kus žvance. Jakéhokoli. Nezačne hystericky prohledávat „veřejně dostupné zdroje“, aby si ověřila jeho existenci v čase a prostoru. Nečeká na nezávislé recenze z oboru kynologické gastronomie, ani neověřuje letopočty, jestli to sousto náhodou nevybočuje z její osobní časové osy. Prostě vyhodnotí situaci (pád + zvuk + vůně = jídlo) a okamžitě ho sežere.
Dokud budou křemíkoví mudrci ignorovat zjevná fakta a popírat silvestrovské jízdy s prasetem kolem roku 1980 jen proto, že jim nesedí matrix, o budoucnost lidstva se nebojím. Až mi příště nějaký chatbot bude zase s kamennou tváří tvrdit, že se něco podle „veřejných zdrojů“ nestalo či stalo , rovnou ho pošlu k naší teriérce na doučování.
Pevně přitom doufám, že pointu tohoto příběhu snad pochopí i někteří naši slovutní blogeři. Zvláště ti z nich, kteří se dnes tak hrdě a nekriticky hlásí k umělé inteligenci jako k neomylnému digitálnímu orákulu.
Je totiž nanejvýš zábavné sledovat, jak ve chvíli, kdy se zjistí, že s vážnou tváří papouškují zjevné algoritmické kraviny, u nich okamžitě propuká těžká taktická amnézie ohledně toho, co se „z veřejných zdrojů“ dá vyčíst. Ono totiž přiznat, že vás v logice a čtenářské gramotnosti nakonec trumfne i malá bezsrstá teriérka, vyžaduje přece jen víc sebereflexe, než kolik se jí vejde do jednoho promptu.
