Článek
Vzpomínám si na starý kreslený vtip Miroslava Kemela, na kterém byl učitel, jak stojí u tabule s velkým nápisem „Google“ a říká svým studentům: Tohle se naučte, to musíte umět nazpaměť, kdybych vás o půlnoci vzbudil. Kresba evidentně pochází ještě z doby před rozšířením umělé inteligence. Co by známý karikaturista nakreslil dnes? Jak učitele u katedry střídá nějaký robot, který už nic učit nebude, protože nám bude stále k dispozici a kdykoli napoví?
Říká se, že AI lidi nenahradí, ale ty, kdo s ní nebudou umět pracovat, nahradí ti, kdo to umět budou. V době zdokonalující se umělé inteligence je prostě potřeba rozvíjet AI gramotnost. Potřebuje ale student znát také něco zpaměti? Potřebuje ještě mít nějaké znalosti, když je jich všude tolik k dispozici? Dává smysl, aby se něco bifloval a byl schopen to později reprodukovat u zkoušky, když si vše může kdykoliv nechat vyhledat umělou inteligencí? Nestačí jen vědět, kde si člověk má informace najít a jak co nejlépe formulovat prompty pro algoritmus, který přece už dávno ví téměř úplně všechno? Zdá se, že to jediné, co si budeme muset pamatovat je, jak správně použít umělou inteligenci a ničím dalším nebudeme muset svou paměť zatěžovat.
Mnoho lidí si dnes klade otázku, jak velké nebezpečí pro nás AI představuje. Co když jí dobrovolně svěříme příliš mnoho pravomocí? Když bude např. řídit klíčovou infrastrukturu, autonomně rozhodovat v rámci vojenských systémů, řídit státní správu atd. Mohla by se stát nepostradatelnou a my se bez ní v jistém smyslu již neobejdeme. Anebo co když začne sledovat svoje vlastní cíle? Zatímco člověk je schopen uznat, že k cíli nelze dospět všemi prostředky, umělá inteligence nemusí mít zábrany, jak svého cíle dosáhnout. Může se také stát, že se na stroj spolehneme natolik, že naše intelektuální schopnosti nebezpečně zakrní. Co když se ale stane něco ještě závažnějšího?
Neviděl bych tak velké nebezpečí na straně neustále se zdokonalující strojové inteligence jako spíše na straně člověka, který se přestane učit. Obávám se, aby člověk nepropadl nadšení, že už prostě svoji paměť trápit nemusí. Pokud zůstaneme ostražití, dá se na algoritmus určitě v mnoha věcech spolehnout. V jedné zásadní věci ovšem nikoli.
Dost často máme za to, že učení spočívá v ukládání poznatků do paměti a lidská paměť že je stroj na uchovávání dat, jakýsi harddisk či skladiště, do kterého řadíme vzpomínky, abychom si je mohli později pokud možno co nejméně porušené vyzvednout. Takové přirovnání člověka ke stroji je ale zavádějící a v souvislosti s umělou inteligencí vlastně nebezpečné. Spíš než datové úložiště je paměť živoucím organismem, který je neustále proměňován učením a vzpomínáním. Počítač uchovává informaci proto, aby ji bylo možné znovu získat. Člověk si ji však učením osvojuje anebo ještě lépe přisvojuje. Znalost, kterou si člověk zapamatuje, se postupně stává součástí jeho způsobu vidění světa, a tedy v jistém smyslu součástí jeho samého. Vzpomínky znovu a znovu přepisujeme s ohledem na to, že se i my sami neustále proměňujeme. Učit se znamená upamatovávat se na to, co už nějak známe, uspořádat v sobě do smysluplného celku naše vzpomínky, představy, projekty atd. Učení je rozpomínáním se, řekl by Platón. Učitel je potom tím, kdo vede studenty ke vzpomínání na to, co už vlastně nějak vědí, ale nejsou si toho ještě vědomi.
Paměti ve svém díle Vyznání věnuje mimořádnou pozornost sv. Augustin. Paměť pro něj není skladištěm minulosti. Je prostorem, v němž se člověku jeho vlastní život stává celkem. To, čím jsme byli, čím jsme nyní a čím chceme být, si pamatujeme. V paměti se náš život spojuje v jeden příběh. Bez této vnitřní souvislosti se rozpadá i naše představa o tom, kdo jsme. A pokud chceme o sobě druhému něco říct, vyprávíme mu tento příběh, třeba v podobě stručného životopisu. Jediné, co se tedy opravdu musíme naučit, je to, co se týká nás. Musíme se učit a pamatovat si něco o sobě. Nejde o ukládání nějakých osobních objektivních faktů, ale o osvojování a přivlastňování toho, co nás utváří. K tomu nestačí spokojit se s tím, co nám může AI nabídnout. Přenechat algoritmu, aby za nás odpověděl i otázku, kým jsme, by opravdu znamenalo nechat se jím ovládnout. A v tom se skrývá skutečné nebezpečí.
Tváří v tvář AI ono tolik zdůrazňované kritické myšlení nestačí. To, co budeme potřebovat, je prostě a jednoduše učení. Paměť, která je uspořádána učením, drží pohromadě moji minulost a budoucnost. AI nám může pomoci najít téměř cokoli. Nemůže ale za nás rozhodnout, co z toho pro nás stojí za to vědět, čemu máme věřit, co máme pokládat za dobré pro nás. Abychom neztratili sami sebe, tak jako ti, kdo kvůli zákeřné nemoci rozežírající jejich paměť přicházejí o svou duchapřítomnost, musíme svou paměť učením občerstvovat. Když člověk paměť ztrácí, neztrácí pouze zásobu informací. Postupně se mu rozpadá souvislost vlastního života. Přestává poznávat lidi, místa, události, a nakonec i sám sebe jako toho, komu se tyto věci staly. Právě proto má učení stále smysl. Ne proto, abychom soupeřili s pamětí stroje, ale abychom si uchovali tu vlastní.
