Článek
To je v pohodě. Je to prostě jen prázdné místo v hlavě, které se dá snadno zaplnit. My si ale budeme povídat o vyšším stupni, tom sofistikovanějším a o to víc děsivějším.
Jedná se o člověka, který si nechá vygenerovat bludiště od stroje, jenž neumí ani pořádně spočítat prsty na ruce, a pak to s klidem vytiskne, zalaminuje a hodí dětem na stůl, protože „AI přece umí všechno a skvěle to vypadá“.
grok
Tak třeba v jedné místní kavárně si pan majitel sedl ke stolu, otevřel chatbota a protože mu tam chodí mamky s dětmi, vydal prompt „udělej mi dětskou aktivitu s bludištěm.“ Měl ho dnes. Nádherný obrázek, který vypadá jako labyrint navržený opilým králíkem s Parkinsonem, a řekl si: „Jo, to bude dobrý.“ Žádný východ. Žádná cesta. Jen spleť čar, které vedou do zdi, do sebe nebo do nicoty. A on to vytiskl. Vytiskl to. Na barevném papíře. Pro děti. Zalaminoval. Vzdělávací materiál byl na světě. Společně s klikyháky ale také veřejné přiznání, že už přestal používat vlastní mozek. Nebojte se, však se to děje i v této oblasti i na našem blogu, o tom ale jindy…
Tento případ je jen špičkou ledovce. Online prostor je dnes plný podobných perliček.
- Word search (osmisměrka), ve které není jediné skutečné slovo.
- Connect-the-dots (spojovačka), kde čísla skáčou jako opilé opice a fonty se mění podle nálady generátoru.
- Abeceda bez písmene F, protože LLM (velký jazykový model) má prostě zrovna špatný den.
- Dětské knížky, kde má hlavní hrdina tři nohy, příběh si protiřečí na každé stránce a ilustrace vypadají, jako by je maloval někdo, kdo viděl člověka jen na fotce z dálky a v husté mlze. Nebojte se, tohle najdete i na českých serverech. Bohužel celá řada vzdělávacích materiálů vypadá podobně, protože to prostě nikdo nezkontroloval.
A lidi to kupují. Lidi to tisknou. Lidi to rozdávají. Proč? Protože „je to rychlé“ a „AI to přece zvládne za sekundu“.
Víte, co je na tom nejvíc jedovaté? Ne to, že stroj umí generovat nesmysly. To víme. Generativní AI je v podstatě velmi draze vyškolený papoušek s přístupem k polovině internetu a nulovou schopností ověřit, jestli to, co právě vyplivl, dává jakýkoliv smysl.
Problém není v křemíku. Problém je v člověku. V tom, kdo se na to podívá, nevidí, že je to rozbité, a stejně to pustí dál. V tom, kdo ztratil základní lidskou schopnost říct: „Moment, tohle vypadá jako absolutní bullshit.“
Pozn.: Chtěl jsem tam jiné slovo, ale to by nejspíš přes admina neprošlo.
Intelektuální kapitulace: Nechte to na automatu
Tohle není inovace. Tohle je intelektuální kapitulace převlečená za pokrok.
Lidé, kteří kdysi dokázali nakreslit bludiště tužkou za pět minut na okraj sešitu, teď radši nechají stroj, ať jim to „ulehčí“. A pak se diví, když výsledek nemá východ. Jako by je překvapilo, že automat na kávu neumí uvařit espresso, když do něj nasypete písek.
Vyměňujeme vlastní kognitivní svaly za pohodlnost. Každá dovednost, kterou přestaneme používat, atrofuje. Pokud přestaneme přemýšlet nad strukturou textu, začneme psát jako stroje. Pokud přestaneme ověřovat fakta, staneme se oběťmi prvního halucinujícího algoritmu. O tom dost konkrétně zítra. A pokud přestaneme kontrolovat to, co dáváme svým dětem, vychováme generaci, která už nerozezná realitu od digitálního šumu.
Děti jako testovací subjekty absurdit
A co děti? Ty jsou v tomto experimentu jen nechtěné testovací subjekty.
Dostanou do ruky materiál, který je učí bizarní lekce:
- Že některé problémy nemají řešení, a je to tak v pořádku.
- Že cesty vedou do zdi.
- Že čísla nemusí jít za sebou.
- Že abeceda může mít díry.
A my tomu s úsměvem říkáme „moderní vzdělávání“ a „příprava na budoucnost“.
Takže ano: velká gratulace všem, kdo se na tomhle podílejí. Kavárníkům, kteří tisknou bludiště bez východu. Učitelům, kteří stahují abecedy bez F. Rodičům, kteří kupují AI knížky s příšerami místo příběhů, protože stály o padesát kaček méně než ty od normálního autora. A hlavně těm, kteří pořád věří, že když něco vypadá „dost dobře“ na první zběžný pohled, tak to musí být v pořádku. A taky třeba proto, že mi to zrovna teď vyhovuje.
Ozvěny v prázdném sále
Křemíková plechovka generuje nesmysly, protože nic jiného dělat neumí. Je to její přirozenost: míchá pravděpodobnosti, střílí slova a obrazové body od boku.
Lidský mozek je ale přijímá s otevřenou náručí, protože už dávno zapomněl, k čemu byl vlastně určený. Proměnil se v pohodlnou dekoraci lebky, v pasivní přijímač bludů.
A to je ta opravdová tragédie naší doby. Ne to, že AI umí dělat blbosti. To se dalo čekat. Ale to, že lidé už ani nepoznají, že to jsou blbosti.
Grok Imagine
Příště: taktická amnézie a vždyť je to jen enter…
