Když umělá inteligence „ověří“ historii až příliš rychle

Problém spočívá v tom, že dokáže i neúplné nebo jednostranně zadané pátrání podat velmi přesvědčivě. U historických citátů je proto nutné rozlišovat mezi tím, co je doloženo, co se nepodařilo dohledat, co je pravděpodobné a co lze skutečně vyvrátit.

Umělá inteligence dnes umí během několika minut projít množství digitalizovaných zdrojů, porovnat varianty citátů, dohledat bibliografické údaje a upozornit na možné souvislosti. To je nepochybně cenné. Zároveň však vzniká nebezpečný trend: uživatelé zaměňují rychlou odpověď za odbornou rešerši a sebejistý tón za důkaz správnosti.

U známého výroku připisovaného císaři Františku Josefovi I., podle něhož má panovník „chránit své národy před jejich politiky“, se například snadno dospěje k závěru, že jde o falešný citát, pokud jej nenajdeme v několika dostupných digitálních databázích. Jenže absence výsledku v omezeném souboru zdrojů není důkazem, že výrok nikdy nezazněl. Podobné výroky se mohly tradovat v němčině, maďarštině či češtině a řada relevantních archivních materiálů dosud není digitalizována.

Rozdíl mezi tvrzeními „výrok není doložen“, „výrok je nepravděpodobný“ a „výrok je prokazatelně falešný“ je zásadní. Dobře položená otázka proto nemá znít „ověř, že citát není autentický“, nýbrž „prověř argumenty pro i proti, uveď limity dostupných pramenů a rozliš míru jistoty jednotlivých závěrů“.

Právě na tomto rozdílu vznikl spor s uživatelem sociálních sítí, jehož identitu zde záměrně neuvádíme. Do chatu v Messengeru předložil závěr, podle něhož lze neautenticitu uvedeného výroku poměrně snadno ověřit pomocí umělé inteligence. Problémem nebylo samotné využití AI, nýbrž způsob, jakým byl výsledek prezentován: jako definitivní verdikt, přestože vycházel především z digitalizovaných a snadno dostupných materiálů.

Takový postup přehlíží několik základních zásad historické práce. Je třeba zohlednit jazykové a regionální varianty, původ jednotlivých citací, sekundární literaturu, dobový kontext i skutečnost, že významná část archivních fondů není dostupná prostřednictvím běžného internetového vyhledávání. Pokud model dostane jednostranně formulované zadání, může velmi přesvědčivě shromáždit argumenty podporující předem předpokládaný závěr. To však není totéž jako nezávislé ověření.

Nejde tedy o osobní spor ani o tvrzení, že AI nemá být při historickém bádání používána. Jde o připomenutí, že nástroj nemůže převzít odpovědnost za rozsah rešerše, kvalitu pramenů ani přiměřenost výsledného tvrzení.

Prvotní nadšení z umělé inteligence může být nebezpečné právě proto, že člověku propůjčuje pocit rychle získané odbornosti. Uživatel pak snadno nabude dojmu, že díky několika dobře formulovaným dotazům dokáže řešit otázky, jejichž historickému, jazykovému nebo metodologickému pozadí ve skutečnosti nerozumí.

AI může pomoci hledat, třídit a porovnávat. Nemůže však nahradit znalost oboru, kritické čtení pramenů ani poctivé přiznání nejistoty. Největším rizikem proto není samotná chyba modelu, nýbrž lidská ochota přijmout její přesvědčivě formulovaný výstup jako důkaz.

Autor: Martin Cikán