Článek
Mám rád technologie, počítače a v současnosti mě nepřestává fascinovat AI. Pomáhá mi tvořit software, hledat souvislosti a často umí ukázat nový směr. Na sociálních sítích přibývají příspěvky o lidech, kteří svěřují digitálním agentům stále více běžných činností.
Honíme se za efektivitou. Nejen v práci, ale i v životě. Jako by život byl projekt, který je potřeba co nejrychleji a s minimem chyb doručit. Jestliže však dokážeme delegovat většinu lidských činností, co zůstane nám?
Paradox manželčiných narozenin
Celou historii muži zapomínají na narozeniny svých manželek a přítelkyň. S chytrým telefonem přišla revoluce. Najednou si stačí v inkriminovaný den všimnout té správné notifikace, poslat ženě zprávu a cestou z práce koupit kytku. Stále zůstává ten elementární lidský krok – moment, kdy muž musí jít do květinářství a květinu sám vybrat. Moment, kdy musí vzít telefon, zkopírovat loňskou narozeninovou SMS a odeslat.
Teď může na narozeniny manželky zapomenout. Bez následků. Je tady totiž AI. Manžel už nemusí sledovat notifikace. Autonomní agent si všimne data v kalendáři, přes API se podívá na minulé konverzace a vymyslí originální (ale ne moc, to by neznělo jako od manžela) přání. Sám to odešle. V e-shopu objedná kurýra s kytkou a do zásilkovny dorazí dárek, který model vyhodnotil jako ideální pro ženu v jejím věku a s jejími zájmy. Ti vynalézavější nechají agenta poslat dárek na své jméno a manželce ho předají sami.
Pokud tedy manžel nezapomene včas nasednout do přistavené autonomní Tesly a nechat se odvézt za manželkou do zamluvené restaurace, žena si ničeho ani nevšimne. Dokonalé narozeniny. Jenže ten člověk neví, proč ho auto neveze domů. Osobní agent sice poslal do e-mailu shrnutí dne, Siri mu to cestou do práce přečetla, ale on už nevnímá. Nemusí. Stal se hercem ve scénáři, který pro něj píše někdo jiný.
Cena za život
Pamatujete čtenářské deníky? Četli jsme knihy, které nás zajímaly. Pokud se náhodou shodovaly se seznamem povinné četby, nebyl problém zápis do deníku udělat. V opačném případě jsme raději věnovali nemalé úsilí shánění hotového zápisu než přečtení knihy. Tenkrát to snad mohl být projev studentské rebelie či lenosti. Dnes se totéž pokoušíme dělat s každou jednotlivou činností.
S odstupem času vidím, že největším přínosem tisíců stran byla četba samotná. Proces, který se stává prožitkem. Naše vlastní myšlenky a názory jsou formovány právě tím, co prožíváme. Zdlouhavými, náročnými a často i nudnými procesy. Celá lidská osobnost je tvořena takovými zkušenostmi.
Zůstane nám možnost prožívat, pokud vše delegujeme našim autonomním agentům? Když za nás AI vyřeší složitý pracovní problém, přečte nudnou knihu a zorganizuje libovolnou akci — co zůstane k žití nám?
Recyklace názorů
Je tady ještě jeden, čistě technologický háček. Dnešní jazykové modely jsou přesvědčivé a až k nerozeznání lidské. Proč? Byly vycvičeny na obrovském, divokém a neuvěřitelně rozmanitém internetu. Vstřebaly miliardy textů, kódů, blogů, diskusí – věcí geniálních, ale i lidsky nedokonalých, šílených, emočně vypjatých a chaotických. Proto působí tak přirozeně.
Co se stane, pokud lidé přestanou postupně tvořit a chybovat? V prostoru převáží obsah tvořený AI. Bude rychlý, levný, ale čím dál více syntetický. Novější modely začnou degenerovat. A jestli nás dnes fascinuje schopnost překvapovat, nezmizí to? Nestanou se z modelů jen interaktivnější encyklopedie?
Pokud přečtu knihu, změním mě to. I když zapomenu na manželčiny narozeniny, něco mě to naučí. Přemýšlím - dokáží se i jazykové modely učit z vlastních chyb?Dokáže je to posouvat tak jako nás? Nebo se jen hezky omluví a v nové instanci stejnou chybu zopakují.
Cogito ergo sum
Descartes pokládal myšlení za důkaz vlastní existence. Pochybnost a mentální práce byly podle něj definicí našeho lidství. Co nám samotným zůstane, když necháme stroje myslet a tvořit za nás?
Nebiji na poplach. Nebojím se Matrixu ani Terminátora. Kladu si otázku, co všechno můžu delegovat sebelepší formě křemíku, aby život zůstal můj. Aby vztah mezi dvěma lidmi zůstal vztahem. Abych uměl zapomenout.
