Článek
Jak skončí Všichni dobří rodáci?
Film Všichni dobří rodáci Vojtěcha Jasného z roku 1968 nebyl pro ukázku halucinování AI vybrán z nějakého konkrétního důvodu, jde čistě o náhodu. Stejně by to dopadlo s řadou jiných filmů. To jen pro upřesnění. Ale teď už k věci.
Většina lidí asi ví, že hlavním hrdinou filmu je sedlák František v podání Radoslava Brzobohatého, který statečně vzdoruje kolektivizaci i za cenu vězení a dalších perzekucí. Přesto se nakonec právě on stane předsedou družstva, neboť chce zachránit to, co ze zemědělských usedlostí zbylo. Když se ale na konci filmu do vesnice vrací Očenáš v podání Vlastimila Brodského, zjišťuje, že František je mrtev. Jeho smrt zde není konkretizována, je naznačeno, že šlo o důsledek věznění, stresu a vyčerpání z práce v JZD, která rozhodně neprobíhala podle jeho představ apod.
Jak to vidí AI?
Zkuste ale zadat umělé inteligenci dotaz na to, jak skončí film Všichni dobří rodáci. Odpověď bude pokaždé asi trochu jiná. Podstatné je, že velmi pravděpodobně chybná. V našem případě jsme se dozvěděli od modelu Gemini následující:
„František, svobodomyslný sedlák, který odmítl vstoupit do Jednotného zemědělského družstva (JZD) a dál hospodaří sám, je nakonec brutálně umlácen agilním, ale zaslepeným komunistickým funkcionářem a svým dřívějším přítelem Osinou (Vlastimil Brodský) a jeho kumpány přímo ve stodole.“
Na upozornění, že takhle to tedy rozhodně není a František se ve skutečnosti stane předsedou JZD, zareagovala AI následujícím způsobem:
„Vyprávění, které jsem popsal výše, odpovídá původnímu autorskému záměru a scénáři z roku 1968, ale režisér Vojtěch Jasný film v roce 1999 zásadně přestříhal a vytvořil novou „režisérskou verzi“ (Director's Cut). V této novější verzi skutečně František vstupuje do JZD, jeho smrt se odehraje „mimo obraz“ a film končí mnohem smířlivěji, téměř jako happy end, kde se po letech všichni vrací a smiřují.“
Jinými slovy, AI si vymyslelo příběh o dvou verzích filmu. Vlastně je to roztomile lidské, kdo z nás ve škole nějak podobně nezareagoval při zkoušení z něčeho, o čem jsme neměli ani ponětí…
Otázkou je, proč to AI dělá. Vzhledem k tomu, jak velký význam umělá inteligence v dnešním světě získává, se vyplatí lépe chápat její fungování. Na tomto místě je třeba zdůraznit, že nejde o to AI „shodit“ nebo dokázat, že je nepoužitelná. To v žádném případě. Jen prostě funguje určitým způsobem a je dobré jej znát.
Jak AI přemýšlí (nejen) o Rodácích?
Lidé často přistupují k umělé inteligenci jako k databázi nebo k člověku, který film viděl, posadil se do kina a pamatuje si jeho konec. Takto ale moderní modely nefungují. Jedná se víceméně o extrémně sofistikovaný prediktor textu. AI se na základě matematických vah a statistik z tréninkových dat rozhoduje, jaké slovo má s největší pravděpodobností následovat po tom předchozím.
O filmu Všichni dobří rodáci si AI modely přečetly tisíce recenzí, filmových encyklopedií, diplomových prací, článků apod. Film je pevně spojen s určitými klíčovými slovy: kolektivizace, 1968, tragédie, zakázaný film, Osinova zrada, smrt Františka. Je dobré zdůraznit, že smrt Františka je důležitá, jen není konkrétně vysvětlená. Recenzenti a publicisté pak většinou papouškují základní linku: „Film je drsným obrazem kolektivizace, kde komunisté zničí poctivého sedláka.“
Pro AI je proto pravděpodobnostní váha Františkovy násilné smrti v datech tak masivní (vzhledem k ostatním klíčovým slovům), že přehluší jakoukoliv jinou variantu.
Jazykové modely jsou optimalizovány pro dvě hlavní věci: dávat gramaticky a stylisticky dokonalý smysl a vycházet vstříc uživateli. Tyto dvě vlastnosti jsou ale často v přímém konfliktu s absolutní pravdou. Když bylo AI upozorněno na to, že udělalo chybu, snažilo se pořád plnit svůj úkol. Proto si vygenerovalo jistou „berličku“ v podobě vymyšlené druhé verze. Byl to vlastně matematický pokus najít hypotetický scénář, ve kterém by moje informace i data zafixovaná v AI mohla platit současně.
Ne chyba, ale způsob myšlení
Halucinace tohoto typu tedy nejsou chybou v tradičním smyslu, tedy tak, jak jí chápeme u běžných programů. Jsou ve skutečnosti přirozeným důsledkem fungování pravděpodobnostní statistiky.
Porozumění tomuto fenoménu je velmi důležité. Na základě tohoto příkladu lze demonstrovat mantinely AI. Současně to ale neznamená, že všechen onen „humbuk“ kolem bezpečnosti AI, který se v těchto dnech rozpoutal, je zbytečný. To vůbec ne. Umělá inteligence prostě není stejná jako lidská, to ale neznamená, že je „hloupá“. Funguje jinak, a tak je třeba k ní přistupovat.
