Polopravdy o umělé inteligenci

Ve veřejném prostoru se v poslední době začíná usazovat velmi specifický druh pesimismu. Už se tolik nemluví o tom, že by nás umělá inteligence měla fyzicky vyhladit po vzoru Terminátora, a dokonce i strach z masové nezaměstnanosti trochu ztrácí na ostrosti. Místo toho nastupuje nová, mnohem subtilnější obava, kterou nedávno ve svém článku poměrně jasně formuloval novinář Miloš Čermák: umělá inteligence nám sice práci možná nevezme, ale vezme nám z ní radost, vášeň a nakonec i naše vlastní kognitivní schopnosti. Zůstaneme prý jen znuděnými dozorci strojů, kterým nerozumíme, a budeme produkovat výstupy, ke kterým nic necítíme.

Tento pohled je lákavý. Brnká na naši přirozenou nostalgii a na lidskou potřebu cítit se nenahraditelně. Problém je v tom, že aby tento narativ mohl v textu fungovat, musí se opírat o velmi selektivní čtení reality. Extrémním příkladem této selektivity je způsob, jakým média interpretují vědecké studie o vlivu AI na lidskou výkonnost. Když se totiž na tyto studie podíváme v jejich celistvosti, objevíme naprosto odlišný příběh.

Hlavním důkazem pro fenomén takzvaného „deskilling“ (tedy ztráty odborných dovedností) se v onom textu stala rozsáhlá studie z polských endoskopických center. Byla provedena na více než 23 tisících vyšetřeních a její závěr, jak byl čtenářům předložen, zní děsivě: lékaři, kteří si při kolonoskopii zvykli na asistenci umělé inteligence, uměli po jejím odebrání najít polypy výrazně hůře než dříve. Jejich úspěšnost detekce se propadla z 28,4 procenta na 22,4 procenta. Stačilo prý jen pár měsíců s chytrým pomocníkem, aby odborníci začali zapomínat své řemeslo.

Tato čísla jsou pravdivá. A pokud je čtete izolovaně, skutečně mohou vyvolat mrazení v zádech. Ukazují, že lidský mozek, pokud má k dispozici silnější externí nástroj, přirozeně oslabí svou vlastní, čistě biologickou ostražitost.

Zásadní problém tohoto argumentu však netkví v tom, co říká, ale v tom, co naprosto zásadně zamlčuje.

Autor totiž opomněl zmínit druhý konec této rovnice. Co se stalo, když tito samí lékaři umělou inteligenci reálně používali? V téměř všech podobných medicínských studiích dochází k tomu samému: synergie člověka a stroje radikálně zvyšuje celkovou úspěšnost záchytu anomálií, často o desítky procent nad historický průměr těch nejlepších expertů. AI vidí vzorce v pixelech obrazovky, které lidské oko fyziologicky zachytit nedokáže, a lékař následně tento nález klinicky zhodnotí.

Když se na věc podíváme optikou pacienta ležícího na sále, je naprosto absurdní řešit, jakou má lékař úspěšnost v hypotetickém scénáři, kdy by mu někdo chytrý nástroj sebral. Pacienta nezajímá „syrová manuální zručnost“ doktora. Pacienta zajímá, zda odejde domů s včas odhaleným a odstraněným nádorem, nebo s fatální diagnózou zanedbanou kvůli limitům lidského zraku a únavy.

Fokusovat se na pokles schopností lékaře bez přístroje v době, kdy přístroj existuje a je prokazatelně lepší, je jako stěžovat si na to, že kvůli plošnému nasazení bagrů ztratili dnešní dělníci zručnost a fyzičku potřebnou k efektivnímu házení lopatou. Ano, pravděpodobně ztratili. Ale z hlediska celkového výstupu systému – tedy postavené dálnice nebo zachráněného lidského života – to nedává vůbec žádný smysl řešit. Pokud ztratíme schopnost perfektně dělat něco, co už vůbec dělat nemusíme, není to tragédie. Je to pokrok.

Druhým pilířem kritiky umělé inteligence bývá takzvaný kognitivní dluh. Argumentuje se tím, že pokud necháme nástroje přemýšlet za nás, naše mozky zleniví. Jako důkaz slouží měření aktivity na EEG: lidé, kteří píší eseje pomocí jazykových modelů, vykazují nižší mozkovou aktivitu než ti, kteří se potí nad prázdným papírem sami.

Opět jde o přesné měření, ale naprosto mylnou interpretaci podstaty lidského mozku. Náš mozek je orgán extrémně náročný na energii. Spotřebovává zhruba pětinu kalorií, které přijmeme. Z hlediska evoluční biologie a termodynamiky je jeho hlavní strategií optimalizace – pokud narazí na spolehlivý externí systém, kterému může předat rutinní zátěž, okamžitě to udělá. Příslušné synaptické dráhy se utlumí a energie se ušetří.

Děje se to po celou dobu lidských dějin. V antickém Řecku slavný filozof Sokrates varoval před vynálezem písma. Tvrdil, že pokud si lidé začnou myšlenky zapisovat, zničí to jejich paměť a stane se z nich společnost hlupáků, kteří bez svitku pergamenu nebudou vědět nic. Měl pravdu? V první části ano – biologická kapacita naší paměti je dnes prokazatelně horší než v ústně tradujících kulturách. Zničilo nás to? Nikoli. Protože ušetřenou kognitivní kapacitu jsme nepromarnili zíráním do zdi. Přesunuli jsme ji do analýzy, syntézy a propojování informací. Paměťový hardware jsme externalizovali do knihoven, abychom z našich mozků mohli udělat procesory.

To samé se stalo s kapesními kalkulačkami, které měly podle dobových kritiků zničit matematiku, nebo s GPS navigacemi, kvůli kterým nám zakrnělo centrum pro prostorovou orientaci. Vždy, když externalizujeme nižší úroveň kognitivní zátěže, otevíráme si dveře k řešení problémů na vyšší úrovni abstrakce. Nižší mozková aktivita u psaní rutinního textu pomocí ChatGPT neznamená degeneraci. Znamená uvolnění termodynamické kapacity pro složitější myšlenkové pochody.

Novináři velmi rádi připomínají tzv. IKEA efekt – psychologický jev, kdy si lidé více cení věci, do které sami vložili úsilí. Pokud nám AI dá hotový výsledek za dvě vteřiny, ztratíme k němu vztah. Vytratí se vášeň, odcizíme se vlastní tvorbě.

Tento argument vychází ze zastaralého chápání toho, co znamená slovo „úsilí“. Předpokládá totiž, že úsilí může existovat pouze na té nejnižší, mechanické úrovni – při vyhledávání zdrojů, skládání vět, lopotném psaní řádků kódu. Jenže úsilí s umělou inteligencí nemizí. Pouze se přesouvá v hierarchii nahoru.

Místo toho, abyste pálili hodiny času na ruční „sestavování krabice z Ikey“ (tedy na gramatiku, formátování dat nebo psaní rutinních formulářů), investujete své úsilí do celkové architektury problému. AI z vás neudělá pasivního diváka, udělá z vás dirigenta. Radost z objevování a tvorby nepramení z toho, že ručně kopete základy. Pramení z toho, že najednou můžete navrhnout rovnou celé město, protože na ty základy máte armádu inteligentních bagrů.

Kdo tvrdí, že práce budoucnosti bude nutně nudná, ten se zřejmě dobrovolně rozhodl zůstat u té lopaty a odmítá se přesunout do role architekta, který nástroje řídí. Pokud se dnes někdo v práci s AI nudí a propadá apatii, není to chyba technologie. Je to selhání představivosti daného člověka, který nedokáže posunout hranice svých vlastních cílů.

Když se podíváme na všechny tyto argumenty v souvislostech, musíme si zákonitě položit jednu nepříjemnou otázku. Proč text, který má ambici analyzovat dopady moderních technologií na trh práce a lidskou psychiku, použije ze zásadní medicínské studie jen tu polovinu, která podporuje tezi o úpadku člověka? Proč zcela zamlčí fakt, že celková efektivita a bezpečnost systému za použití oněch nástrojů dramaticky vzrostla?

Nabízejí se dvě vysvětlení, z nichž ani jedno není pro současnou žurnalistiku příliš lichotivé.

První možností je obyčejné konfirmační zkreslení. Autor si dopředu vytvořil tezi – umělá inteligence nám škodí, odcizuje nás a dělá z nás hlupáky. Následně při rešerších narazil na studii o kolonoskopiích, zachytil v ní pokles dovedností lékařů po odebrání přístroje, a protože tento fragment přesně zapadal do jeho předem připraveného příběhu, použil ho. Kontext už nezkoumal. Nešlo o záměrnou lež, ale o profesní selhání a neschopnost kriticky nahlížet na data, která zdánlivě potvrzují náš vlastní světonázor.

Druhá možnost je temnější, ale v kontextu dnešní mediální ekonomiky mnohem pravděpodobnější. Zamlčení pozitivního dopadu bylo úmyslné. Žijeme v ekonomice pozornosti a nic neprodává kliknutí, zobrazení reklamy a sdílení na sítích tak spolehlivě jako strach.

Příběh o tom, že „stroje z vás udělají depresivní a hloupé loutky“, vyvolává silné emoce. Potvrzuje čtenářům jejich vlastní obavy z rychle se měnícího světa a dává jim pocit morální převahy nad technologickým pokrokem. Naproti tomu příběh o tom, že „technologie sice promění charakter naší práce a přesune naši kognitivní zátěž, ale ve výsledku zefektivní systémy a zachrání lidské životy“, je složitý, nudný a nevyvolává žádné rozhořčení.

Předložit čtenáři celou pravdu znamená riskovat, že článek nevyvolá požadovanou emoční odezvu. A tak se pravda rozřízne napůl. Ta část, která děsí, se nasvítí reflektory a dá se do titulku. Ta část, která vysvětluje celkový systémový přínos, se potichu zamete pod koberec.

Rozhodnutí, do které z těchto dvou kategorií spadá zmíněná analýza – zda jde o intelektuální lenost podléhající konfirmačnímu zkreslení, nebo o chladně kalkulovanou manipulaci s daty za účelem vyšší čtenosti – je nakonec na každém z nás. Než ale příště propadneme pocitu marnosti nad tím, jak nás technologie zbavují naší lidské podstaty a umu, měli bychom se pozorně podívat, zda nám ten, kdo bije na poplach, náhodou neukazuje jen pečlivě oříznutou polovinu obrazu.