Jak se hrálo s Elizou? Terapeutka, která neuměla léčit

Byla to jen kalkulačka na slova. Pár pravidel, několik šablon, trochu přehazování vět a jedna dobře zahraná maska psychoterapeuta. Žádná duše. Žádné vědomí. Žádný vnitřní svět. Jen program, který uměl udělat jednu věc: vrátit člověku jeho vlastní slova tak, aby měl pocit, že ho někdo poslouchá.

A člověk? Člověk se chytil.

Ne proto, že by byl hloupý. To by bylo příliš jednoduché a vlastně i nespravedlivé. Chytil se proto, že je člověk. Protože má hlad po pozornosti, po pochopení, po někom, kdo mu neskáče do řeči, neobrací oči v sloup a neříká po třech minutách: „Hele, já už musím.“

Eliza vznikla v roce 1966 jako ukázka toho, jak snadno lze napodobit lidský rozhovor. Joseph Weizenbaum tím nechtěl založit nové náboženství digitálního věku. Chtěl spíš ukázat, že za oponou často není žádný čaroděj, jen šikovně postavený mechanismus. Jenže lidé, jak už to tak u lidí bývá, se na mechanismus podívali a řekli si: vida, někdo mě chápe.

To je na celé věci nejzajímavější. Ne to, co uměla Eliza. Ona toho vlastně moc neuměla. Zajímavé je, co jsme do ní vložili my.

Člověk má zvláštní schopnost zalidňovat svět. Vidí tváře v oblacích, znamení v náhodách, úmysl v tichu a pochopení v dobře položené otázce. Stačí, aby stroj napsal: „Povězte mi o tom víc,“ a už máme pocit, že na druhé straně někdo sedí. Ne program. Někdo.

Jenže právě to „někdo“ je ten trik.

Eliza nebyla terapeutka. Byla zrcadlo. A zrcadlo má jednu výhodu: nikdy vám neskáče do řeči. Nehádá se. Nehodnotí. Neřekne vám, že jste si polovinu problémů uvařili sami ve vlastní hlavě na mírném ohni. Prostě tam je a vrací obraz. A člověk, znavený světem, si do toho obrazu doplní laskavost.

Dnes máme místo Elizy mnohem schopnější systémy. Nepíší jen jednoduché otázky. Umějí složit báseň, napsat kód, poradit s textem, shrnout dokument, vymyslet slogan, připravit projev nebo se tvářit jako trpělivý společník pro dlouhý večer. Technicky je to obrovský skok. Psychologicky jsme ale pořád na stejném místě.

Pořád toužíme, aby nám někdo rozuměl. A když to zrovna nedělá člověk, zkusíme to se strojem.

V tom není nutně tragédie. Umělá inteligence může být užitečná. Může pomáhat, třídit myšlenky, vysvětlovat složité věci, inspirovat, opravovat chyby, držet nit, když ji člověk zrovna upustil někam pod stůl. Jenže problém začíná ve chvíli, kdy si pomocníka spleteme s autoritou a plynulou větu s pravdou.

To je stará lidská slabost v novém kabátě.

Dřív stačil učený tón, kulaté razítko nebo člověk v saku za stolem. Dnes stačí hladce napsaná odpověď na displeji. Když to zní rozumně, bude to asi rozumné. Když to působí jistě, bude to asi pravda. Když to mluví jako člověk, bude to asi trochu člověk.

No nebude.

Umělá inteligence není kamarád s duší ve skleněné krabičce. Je to nástroj. Výkonný, užitečný, někdy překvapivý, někdy protivně přesvědčivý a občas taky úplně mimo, jen s noblesou okresního referenta, který vám špatně vyplnil formulář a ještě se u toho tváří jako Aristoteles.

A právě proto je dobré si Elizu připomínat.

Ne jako technologickou kuriozitu z doby sálových počítačů. Ale jako varování. Ne před stroji samotnými, nýbrž před naší ochotou stroje polidšťovat. Před naší chutí věřit, že kdo odpovídá, ten chápe. Že kdo používá lidská slova, má lidský úsudek. Že kdo mluví klidně, musí být moudrý.

Weizenbaum se toho nelekl proto, že by jeho program byl tak chytrý. Lekl se proto, že lidé byli tak ochotní mu chytrost přiznat.

A to je rozdíl.

Možná je příběh Elizy ve skutečnosti příběhem samoty. Ne té patetické, s houslemi v pozadí a deštěm na okně. Spíš běžné, každodenní samoty člověka uprostřed řečí. Všichni mluví, málokdo poslouchá. Všichni reagují, málokdo vnímá. A tak když přijde stroj, který aspoň napodobí naslouchání, člověk si řekne: konečně.

Je to dojemné. A trochu děsivé.

Protože jestli nám stačilo pár řádků kódu, aby vznikl pocit porozumění, co s námi udělají systémy, které umějí mluvit jako vzdělaný přítel, trpělivý učitel, terapeut, právník, básník nebo starý kumpán od stolu?

Budou užitečné. Ale budou také svůdné.

A člověk by měl vědět, kdy používá nástroj a kdy už mu staví pomníček.

Eliza nám říká jednoduchou věc: pozor na iluzi. Ne každé porozumění, které dobře zní, je skutečné porozumění. Ne každá odpověď je moudrost. A ne každý hlas, který k nám mluví lidsky, patří člověku.

To neznamená, že máme před technologiemi utíkat do lesa, pálit notebooky a vracet se k husím brkům. To by byla jen opačná hloupost, akorát v plátěné košili. Znamená to jediné: používat hlavu.

Stroj může být skvělý sluha. Ale jakmile ho začneme považovat za bytost s vlastním svědomím, jsme zpátky u staré Elizy. Jen místo zeleného terminálu máme lesklý telefon a místo několika šablon máme systém, který dokáže předstírat porozumění s orchestrem, sborem a světelným parkem.

A my pořád stojíme před stejnou otázkou:

Mluvíme s někým, kdo nám rozumí? Nebo jen slyšíme ozvěnu vlastních slov, krásně učesanou a podanou zpátky?

Možná je dobré si na to občas vzpomenout. Zvlášť dnes, kdy nám stroje odpovídají tak plynule, až se nám chce věřit, že za textem sedí někdo, kdo ví.

Eliza nevěděla. A právě tím nám řekla víc, než sama kdy mohla pochopit.