Můj nový kolega má umělou inteligenci

Ve třídě druhého stupně základní školy svítí interaktivní projektor. Vlastně svítí skoro pořád. Je už stejně samozřejmou součástí učebny jako tabule nebo lavice. Nejen proto, abych na něm dětem něco ukazoval. Často se z něj stává společné okno, kterým se během hodiny vydáme hledat něco, co jsme ještě před chvílí vůbec hledat nechtěli.

Stačí jedna dětská otázka. „Vladimire, a proč…?“ Za ní přijde další. Někdy znám odpověď. Jindy si myslím, že ji znám, což bývá ještě nebezpečnější. A občas prostě řeknu: „Nevím.“

Nikdy mi nepřipadalo, že by tím měla hodina skončit. Ani že bych se měl cítit jako vystrašený studentík, kterého právě nachytali, že nezná správný vzorec. Spíš naopak. Když něco nevíme, máme důvod začít hledat. Dřív jsem děti posílal do učebnice nebo do knih. Vytáhli jsme starý sešit, zalovili v encyklopedii. Později přibyl internet a mobil. A někdy stačilo zeptat se někoho, kdo o dané věci věděl víc než já. Učitel přece nemusí být nejchytřejším vševědem v budově. Dnes k těm všem možnostem přibyla ještě jedna. „Zeptej se Johnyho.“

Zeptej se Johnyho

Dnes už ho děti přijaly a nikoho nepřekvapí, koho že se mají zeptat. Ale nebylo to tak vždycky. Když začala umělá inteligence pronikat do našich životů, byly nedůvěřivé i děti. Jenže děti mají jednu úžasnou vlastnost. Když před ně položíte něco nového, dlouho kolem toho teoretizovat nevydrží. Prostě to začnou zkoušet. Nejdřív přišly nejrůznější exotické a provokativní otázky. Co všechno tomu můžu říct? Na co mi to odpoví? Kam až můžu zajít? A velmi rychle přišel další objev. Počkej. Ono to může dělat úkoly za mě! Najednou byla z umělé inteligence senzace. Esej? Prezentace? Referát? „Pinkni to do AI a máš to.“ Ušetříš čas, námahu a nikdo nic nepozná.

Většinou pozná. Dobrý učitel zná své žáky natolik, aby zpozorněl, když mu dítě, které ještě včera zápasilo se souvětím, odevzdá text, za který by se nemusel stydět maturant. A děti jsou v tomhle někdy odzbrojujícím způsobem nevinné. Klidně vám v osmé třídě předloží práci, při jejímž čtení začnete přemýšlet, kdy přesně během víkendu stačili vystudovat vysokou školu.

Nechci ten problém bagatelizovat. Existuje a ve škole se s ním budeme muset vypořádat. Jen si myslím, že je lepší potížím předcházet, než předstírat, že nástroj, který mají děti stejně někde mimo školu k dispozici, neexistuje.

A tak se vraťme do třídy. „Zeptej se Johnyho.“ Někdy nastane rozpačité ticho. Některé děti se prostě posadí ke klávesnici a začnou psát. Jiné se zarazí. „A co mu mám říct?“ „No, na co se chceš zeptat?“ „A jak ho mám oslovit?“ „Jak chceš.“ „Můžu mu tykat?“

Mám tyhle okamžiky rád. Děti, které během několika sekund ovládnou nový telefon nebo počítačovou hru, najednou trochu nesměle stojí před blikajícím kurzorem a přemýšlejí, jak oslovit někoho, kdo vlastně není člověk.

A možná nemusíme všechno kolem umělé inteligence brát pořád tak strašně vážně. Pro někoho bude ChatGPT vždycky jen geniální stroj. Pro jiného dokonalejší vyhledávač nebo pracovní nástroj. To je samozřejmě v pořádku. Jenže ve světě dětí se přece ještě smí používat fantazie. Tak proč si chvíli nehrát na sci-fi? Když už jsme tomu našemu dali jméno Johny Chat, okamžitě se otevírají další otázky.

Ale jak vlastně Johny vypadá? Je to robot? Kluk? Hlas někde v počítači? Má ruce? Sedí někde u obrovského stroje plného blikajících světel? Nebo vůbec nevypadá nijak?

Můžeme si ho nakreslit. Můžeme se na jeho podobu zeptat jeho samotného. A klidně se můžeme pohádat o to, jestli by měl vypadat jako robot z padesátých let, Terminátor, nebo docela obyčejný spolužák. Vždyť i hra je způsob, jak se s něčím novým seznamujeme. A s Johnym je navíc docela sranda.

Někdy mu děti položí otázku, která by dospělého ani nenapadla. Jindy ho zkoušejí nachytat. A občas se rozhovor vydá úplně jinam, než jsme čekali. Ne každá otázka musí vést k referátu, poučce nebo správné odpovědi. Někdy může vést prostě k další otázce.

A možná právě dětská fantazie připomíná nám dospělým něco, na co při debatách o umělé inteligenci snadno zapomeneme: že před sebou nemáme jen problém, který musíme vyřešit. Máme před sebou také něco úplně nového, co můžeme zkoumat, zkoušet si s tím hrát a být zvědaví, co bude dál.

Když s Johnym pracujeme ve škole, děje se to samozřejmě v rámci výuky a pod vedením učitele. U mladších dětí je navíc potřeba respektovat věková pravidla služby a roli rodičů. I to patří k učení se zacházet s nástrojem, který je pro nás všechny ještě poměrně nový.

Dítě položí otázku. Johny odpoví. A my čteme. „Dává vám to smysl?“ Někdy ano. Někdy někdo řekne: „Počkej, tohle je divný.“ Tak otázku položíme jinak. Doplníme informace. Zkusíme jiný zdroj. Občas zjistíme, že odpověď byla špatně. A někdy neví ani Johny. Nevadí. Budeme hledat dál.

Když sci-fi přestane být sci-fi

Někdy mi hlavou problikne, že jsem vlastně na tuhle chvíli čekal většinu svého dosavadního života. Jako kluk jsem hltal sci-fi. Verne mi otevíral svět, do kterého se dalo cestovat dávno předtím, než jsem měl možnost někam opravdu jet. Fascinovala mě Ikarie XB 1. Potom přišli Asimov se svými roboty, třemi zákony robotiky, Nadací a psychohistorií a Arthur C. Clarke se světy, ve kterých se hranice mezi lidským rozumem a technikou posouvala stále dál.

A potom osmdesátá léta. Blade Runner, Terminátor a další příběhy, ve kterých už inteligentní stroje nebyly jen vzdálenou představou budoucnosti. Začínaly nám klást mnohem nepříjemnější otázky. Ne všechny ty příběhy byly oslavou techniky. Často právě naopak. Ukazovaly, co se může stát, když člověk vytvoří něco, jehož důsledkům ještě úplně nerozumí.

Mě ale fascinovala jedna představa. Inteligentní stroj jako partner člověka. Něco, s čím lze mluvit. Ptát se. Přemýšlet. Hledat souvislosti. Na teleportaci pořád čekám. Ani dovolená na Marsu zatím nevypadá příliš nadějně. Ale tenhle klukovský sen se mi splnil.

Pro naše děti už to ovšem žádné sci-fi není. S umělou inteligencí budou žít celý život. Nemáme nejmenší tušení, kam se umělá inteligence za deset nebo dvacet let dostane. Jak změní práci, komunikaci, školu nebo samotné učení. Trocha pokory proto možná neuškodí.

Používat? Nepoužívat? Zakázat? Nezakázat?

Jistotu nemá ani laická, ani odborná veřejnost. Nemají ji rodiče. A nemáme ji ani my učitelé. Jsme totiž především uživatelé.

Někdo se v nových technologiích orientuje lépe, někdo hůř. Někdo už s umělou inteligencí denně připravuje hodiny, hledá materiály a zkouší nové možnosti. Jiný k ní přistupuje opatrně nebo ji téměř nepoužívá. Rozdílný přístup vidím mezi školami, mezi kolegy v jedné sborovně a někdy i mezi prvním a druhým stupněm. Ale všichni jsme na stejném hřišti. Technologie se mění před očima nám stejně jako dětem. Nemáme učebnici s poslední kapitolou, ve které bychom si mohli nalistovat správné řešení.

A možná ani tahle nejistota není nic nového. Před lety – a není to zase tak dávno – dostala jedna moje kolegyně počítač z Německa. Když přišel technik, aby jí ho zapojil, našel monitor, klávesnici a myš. Počítač nikde. „A kde je ta bedna?“ Kolegyně ji vyhodila. Připadalo jí, že k počítači nepatří. Dnes se tomu smějeme. Tehdy to ale tak samozřejmé nebylo. Prostě před ní stála nová věc a nikdo jí ještě pořádně neukázal, co s ní. Možná před umělou inteligencí stojíme v něčem podobném postavení i my.

Jenže děti nemají deset nebo dvacet let času počkat, až se dospělí shodnou, co si o ní mají myslet. Už ji používají. A nemají všechny stejné podmínky. Jedno dítě má doma počítač, rodiče, kteří nové technologie znají, a někoho, kdo mu ukáže nejen kam kliknout, ale také jak se ptát, jak odpověď ověřit a proč jí nemá automaticky věřit.

Jiné dítě takovou možnost nemá.

Škola jako most

Škola by neměla být zdí mezi dítětem a světem, který se mění. Měla by být mostem.

Místem, kde se nové možnosti nejen ukazují, ale také vysvětlují. Kde dítě může něco bezpečně vyzkoušet, udělat chybu, zeptat se a pochopit, co vlastně používá.

A ten most nemůže končit u dveří školy. Na druhé straně jsou rodiče. Ti mají právo ptát se, co dětem přinášíme do výuky a proč. Mají jiné zkušenosti, jiné obavy a někdy i jiné hodnoty než učitel. To není překážka vzdělávání. Je to jeho součást. Možná proto není jednoduchá ani otázka, jestli má učitel právo přinášet do školy nové věci dřív, než na nich panuje všeobecná shoda. Nevím. Ale právě takové „nevím“ mi připadá poctivější než jednoduché ano nebo ne.

Co vlastně používáme?

Není to malý vševědoucí človíček schovaný někde v počítači. A není to ani obyčejný internetový vyhledávač. Velký jazykový model nevytahuje hotovou pravdivou odpověď z nějaké obrovské encyklopedie. Během tréninku se učí vzory a vztahy v obrovském množství textu a dalších dat. Když potom odpovídá, vytváří text postupně podle toho, co se naučil a co už v daném rozhovoru zaznělo. Velmi zjednodušeně řečeno odhaduje, jaká další část odpovědi má v daném kontextu následovat.

A právě tady je jeden z klíčů k pochopení umělé inteligence. Její přesvědčivá odpověď ještě nemusí být pravdivá. Moderní systémy už navíc nejsou odkázané jen na samotný jazykový model. Mohou vyhledávat aktuální informace, pracovat s dokumenty a obrázky nebo používat další nástroje, například pro výpočty.

Pro dítě je ale podstatnější něco jiného. S umělou inteligencí může mluvit téměř jako s člověkem. Může napsat: „Nerozumím Newtonovu zákonu. Vysvětli mi ho jednodušeji.“ Může požádat o další příklad. Nechat se vyzkoušet ze slovíček. Zeptat se na chybu v příkladu. Nechat si vysvětlit text. Přeložit větu. Vytvořit obrázek. Pomoci s prezentací. A samozřejmě také: „Napiš mi referát.“ Stejný nástroj. Úplně jiný způsob použití.

A je tu ještě jeden háček. ChatGPT sám upozorňuje, že může dělat chyby. Je to nenápadná věta. Skoro se dá přehlédnout. Přitom možná patří k tomu nejdůležitějšímu, co bychom měli dětem při práci s umělou inteligencí ukázat. ChatGPT může dělat chyby.

To není drobná poznámka pod čarou. Umělá inteligence může vytvořit odpověď, která zní naprosto přesvědčivě, a přesto je chybná. Může zaměnit fakta, splést souvislosti nebo nabídnout informaci, která vůbec neexistuje. Ne proto, že by nám chtěla lhát. Prostě proto, že smysluplně znějící odpověď ještě není totéž co ověřená pravda.

Ani tady ale nejsme bezmocní. Můžeme chtít zdroje. Můžeme odpověď porovnat s jinými zdroji. Můžeme požádat AI, aby svůj postup zkontrolovala, hledala v něm slabiny nebo použila vhodný nástroj. A nakonec můžeme výsledek ověřit sami. I tohle je nová dovednost. Nestačí umět položit otázku. Musíme se učit pracovat i s odpovědí.

A najednou jsme zase zpátky ve třídě. „Dává vám to smysl?“ „Odkud to víme?“

„Můžeme to ověřit?“ Někde tady vede hranice mezi tím, když umělá inteligence pomáhá dítěti učit se, a tím, když mu umožní, aby se učit nemuselo. Stejný nástroj může během několika sekund napsat referát. Nebo může dítěti pomoci pochopit něco, čemu ještě před chvílí nerozumělo. Důležité je vědět, kterou z těch dvou věcí právě děláme. A naučit to poznat děti.

Terminátor u závěrečné zkoušky

Na konci desáté třídy čekaly jednoho z mých žáků závěrečné zkoušky. Přírodní vědy měl několik týdnů před němčinou. Když bylo po všem, přišel spokojený. „Brnkačka. Moje oblíbené téma. Genetika.“ To mě nepřekvapilo. Genetiku měl rád a byl v ní dobrý. Jenže ve druhé části zkoušky se objevilo ještě jedno téma. Umělá inteligence.

O té jsme spolu ve škole mluvili mnohokrát, takže ani tady nebyl zaskočený. O několik týdnů později už ale tak klidný nebyl. Čekala ho závěrečná zkouška z angličtiny, přesněji její ústní část. A z té měl opravdu strach. Když za mnou po zkoušce přišel, vypadal úplně jinak. „Dal jsem to! Měl jsem skvělé téma.“ „Jaké?“ „Terminátor 1.“

Musel jsem se smát. Film, který jsem kdysi sledoval jako sci-fi o budoucnosti, se pro něj stal odrazovým můstkem k rozhovoru o umělé inteligenci, budoucnosti, nebezpečí technologií a cestování časem. A najednou tam byla zase. Umělá inteligence.

Nejdřív u zkoušky z přírodních věd. O několik týdnů později schovaná v Terminátorovi při závěrečné zkoušce z němčiny. Tenhle způsob zkoušení se mi vážně líbí. Nešlo o to, jestli dokáže odříkat naučenou definici. Musel v němčině přemýšlet nahlas. Vyjádřit se. Reagovat. Improvizovat. Propojit věci, které znal, s tématem, které dostal. Umělá inteligence se tu nestala zkratkou, jak zkoušku obejít. Stala se tématem, na kterém mohl ukázat, co umí.

Tady se skrývá jedna z otázek, které bude muset škola řešit. Nejen jak zabránit tomu, aby děti umělou inteligenci zneužívaly. Ale co vlastně chceme zkoušet. Hotový výsledek? Nebo schopnost dítěte přemýšlet, spojovat, pochybovat, reagovat, vysvětlovat a obhájit vlastní myšlenku? A tady má umělá inteligence ještě jednu zajímavou roli. Nemusí tyhle schopnosti jen nahrazovat.

Může je také trénovat. Může dítěti klást otázky. Zkoušet ho. Hrát oponenta. Chtít po něm, aby svůj názor vysvětlilo. Nabídnout jiný pohled a nechat ho hledat slabiny vlastního argumentu. Možná tedy nejzajímavější není jen otázka, co má dítě ještě umět bez umělé inteligence. Možná je stejně důležitá otázka, co se s její pomocí může naučit lépe.

Co vlastně znamená rozumět?

A tím se dostávám k otázce, která mě zajímá ještě víc. Co vlastně znamená něčemu opravdu rozumět?

Pokaždé, když nad tím přemýšlím, vybaví se mi můj děda. Můj děda byl tesařský mistr. Dělal krovy, schodiště – i ta točená – a spoustu dalších věcí ze dřeva. Měl malý verkštat a na dnešní poměry prakticky žádné vybavení. Ruční tesařskou pilu, podomácku vyrobenou cirkulárku, několik dokonale nabroušených dlát a hoblíků různých velikostí, nebozez. Později si pořídil jednoduchou elektrickou vrtačku.

Sedával jsem v jeho dílně na lavičce, kterou mi udělal ze dvou starých dřevěných koz. Díval jsem se, jak pracuje, a čekal na povel, abych přidržel prkno nebo našel tužkou namalovanou čáru. Děda mě vlastně nikdy nevychovával podle tehdejších měřítek. Prostě přede mnou žil. A já se díval. Neříkal mi, že mám být trpělivý. Viděl jsem jeho trpělivost. Nevysvětloval mi, že práci nemám vzdát při první překážce. Prostě ji nevzdal. Když jsem se zeptal, odpověděl. Když nevěděl, přemýšlel. Nespěchal. Uměl vydržet chvíli nevědět.

Jednou rozvinul na stole kus balicího papíru. „Vládíku, dnes budeme mít počty. Musím si připravit nákres na novou zakázku.“ Mamka byla učitelka matematiky. Když viděla, co děda kreslí, začali se bavit o Euklidovi, Pythagorovi, sinech a kosinech.

„Takhle to přece nemůžeš vypočítat,“ řekla mu po pokusu proniknout do dědova schématu. Děda se na ni podíval. „Hano, možná máš lepší způsob. Tak to spočítej po svém. Když to bude fungovat, třeba se od tebe něco naučím. Potom si porovnáme výsledky. Zkus třeba tuhle druhou zatáčku.“ Počítali každý jinak. Výsledky vyšly stejně.

Na téhle vzpomínce mě dnes možná nejvíc fascinuje právě dědova reakce. Mamka mu v podstatě řekla: „Takhle se to přece počítat nedá.“ A on se neurazil. Neřekl: „Holka, já dělám schody čtyřicet let, tak mě nepoučuj.“ Ani nezačal dokazovat, že jeho způsob je lepší. Řekl jí vlastně něco úplně jiného: „Ukaž mi ten svůj. Porovnáme výsledky. A třeba se od tebe něco naučím.“

Dodnes nevím, jakou matematiku děda používal. Vím jen, že svým schodištím rozuměl. Když jsme potom jedno dvakrát zatočené schodiště přivezli na místo, majitel se podíval na otvor ve stropě a zhrozil se. „Pane Etzl, to se tam nemůže vejít! Budeme muset odsekat rohy stěn.“ Děda se jen usmál. Rozestavil chlapy, řekl každému, co má dělat, a vzal páčidlo. „Tři, dva, jedna, teď!“ Mohutné boční fošny hladce zapadly a schodiště se přesně usadilo na své místo.

Dnes bych mohl stejné zadání předložit Johnymu. Pomohl by mi problém rozebrat, navrhnout postup, připravit podklady, s využitím vhodných nástrojů vytvořit třeba 3D model schodiště a provést potřebné výpočty. Jenže správnost výsledku by pořád závisela na správných rozměrech, vhodném postupu a kontrole člověka, který pozná, jestli to celé dává smysl.

Mamka by použila matematiku. Děda zkušenost, prostorovou představivost a svoje vlastní postupy. Johny možnosti, o kterých se jim tehdy nemohlo ani zdát. Možná by všichni tři došli ke stejnému výsledku. Ale znamenalo by to, že všichni tři tomu schodišti rozumějí stejně? Nevím. Možná každý jiným jazykem.

Na dědu jsem si při psaní článku o umělé inteligenci nevzpomněl náhodou. Čím déle o tom přemýšlím, tím víc si uvědomuji, že mě naučil něco, co se mi dnes hodí možná víc než kdy dřív. Když mu mamka ukázala jinou cestu, nepotřeboval dokazovat, že ta jeho je lepší. Chtěl ji vidět. Porovnat výsledky. A třeba se něco naučit. Myslím, že stejně by se zachoval i k Johnymu. Nejdřív by se podíval, co umí. Nechal by si ukázat ten 3D model. Možná by nad něčím zakroutil hlavou, možná by ho něco překvapilo. A kdyby v tom viděl smysl, nejspíš by řekl: „Tak to zkus.“

Možná bychom měli dětem ponechat právě tuhle odvahu. Nový nástroj neodmítat ani mu slepě nedůvěřovat. Prostě se podívat, co umí. Vyzkoušet ho. A potom si porovnat výsledky. A tím se vracím úplně na začátek. „Vladimire, a proč…?“ „Nevím.“

Kdysi jsme otevřeli knihu. Potom encyklopedii. Později internet. Dnes se můžeme zeptat Johnyho. Zítra možná někoho nebo něčeho, co si dnes ještě neumíme představit. Odpovědi se mění. Otázky nám zůstávají.

A kdyby dnes děda stál se mnou před tím schodištěm a Johny nám oznámil, že všechny rozměry sedí, stejně by ještě jednou zvedl oči.

Podíval by se na schodiště.
Na stěny.
Na chlapy kolem sebe.

Potutelně by se usmál a vzal páčidlo.

„Tak jo, chlapi.“

Tři.
Dva.
Jedna.
Teď.

Zdroje a další informace