Článek
Američtí profesoři ekonomie Gary S. Morson a Julio M. Ottino se v komentáři pro WSJ zamýšlejí nad tím, že jsme opět svědky toho, že je tu nějaká nová myšlenka či nová technologie slibující vyřešit všechny naše problémy. Kolikrát jsme už slyšeli, že stačí předat moc expertům, a ti pak všechno vyřeší: chudobu, útlak, války i nemoci. Nyní se nám zase říká, že máme věřit umělé inteligenci.
Mezinárodní měnový fond například slibuje, že AI posílí demokratické instituce a zajistí, že „hlas občanů bude opravdu slyšet“. Neslibovalo totéž pokrokové hnutí na začátku 20. století? Nestálo stejné myšlení za „vědeckým socialismem“ Sovětského svazu?
Inženýři v Googlu nedávno odhalili „Habermasův stroj“, AI systém, který má pomoci lidem najít kompromis a společnou řeč v polarizujících tématech, jako je brexit nebo klimatická změna. Na co plebiscity, které mohou vést ke špatným odpovědím, či debaty, které všechno jen zatemní? Jürgen Habermas byl, jak známo, německý filozof, který věřil v racionální diskurz. Habermasův stroj předpokládá, že naše nejhlubší konflikty pramení z komunikačních chyb, nikoli z nesouladných hodnot.
Technooptimismus spočívá v tom, že komplexní sociální problémy mohou být vyřešeny algoritmem. Někteří technologičtí lídři podléhají pseudonáboženské víře. Připouštějí sice, že mnohé minulé inovace byly nedokonalé a škodlivé, ale nejlepší lék na špatnou techniku je podle nich zase jen dobrá technika.
Editor časopisu Science píše, že AI generuje prohlášení, která jsou „jasná, logická a informativní“, a přitom „neodrazují názorové menšiny“. Na co tedy potřebujeme centrální banku, kde se v Radě hlasuje třeba 6 ku 3? Na co potřebujeme lidi, aby řešili mír na Blízkém východě? Proč to nenecháme všechno na ChatuGPT?
Entuziasmus odráží nepochopení komplexity. Jde pouze o novou verzi centrálního plánování, tedy víru, že komplexní sociální systémy mohou být optimalizovány skrze technologickou intervenci.
Samozřejmě že technologický pokrok akceleruje. Facebooku trvalo deset měsíců, než dosáhl na milion uživatelů. ChatGPT docílil téhož za pět dní. Naše historie předvídání důsledků zavádění technologií je ale propastně zoufalá. Říkalo se třeba, že internet znemožní autoritářství. Nikdo neodhadl ani to, že internetový dav bude zastrašovat a lynčovat lidi a znemožňovat svobodnou výměnu názorů.
Sovětští plánovači také věřili, že dokážou společnost racionálně organizovat. Místo plýtvání a nezaměstnanosti budou experti alokovat zdroje nesobecky a racionálně. Lenin a jeho následníci neuspěli, protože na rozdíl od F. A. Hayeka nepochopili, že vědomosti jsou decentralizované a rozptýlené skrze celou společnost. Vlastnosti komplexních systémů nemohou být postiženy centralistickým modelem.
Dnešní technologičtí lídři padají do stejné pasti. Předpokládají, že lidské chování a sociální systémy mohou být řízeny jako software. Je to podobné jako víra v predikci a kontrolu pětiletého plánování. To není tak, že se nic nepovede. Sovětům se podařilo za cenu nezměrných obětí a environmentálních škod industrializovat společnost a rozšířit impérium.
Moderní AI systémy jsou také v určitých mezích úspěšné. Velké jazykové modely procesují obrovské objemy informací a vytvářejí iluzi souhrnné znalosti, která může být nebezpečnější než ekonomické modely. Opět jsme sváděni utopickým sliby a podceňujeme komplexitu lidských záležitostí.
Vezměme si třeba konflikty na Blízkém východě, které jsou přesně ten druh problémů, co se brání technologickému řešení. Povstávají z nevraživostí, které trvají staletí, z překryvu etnicit a identit, teologických nároků na svatá místa a víry, že ti druzí nemají právo na existenci. To nikdy nevyřeší Habermasův stroj. Nejde o komunikační problém, který se zvládne nějakým prohlášením AI. Často jde o vnímání světa jako hry s nulovým součtem a vzájemně se vylučující pohledy na svět. Žádný algoritmus nepomůže, když je kompromis chápán jako zrada.
Hayek tomu říkal „fatální domýšlivost“. Víru v to, že centrální autorita může shromáždit a využít všechny dostupné informace. Sovětští plánovači nemohli postihnout distribuovanou vědomost o ekonomických rozhodnutích. Dnešní AI systémy nebudou schopny shromáždit a optimalizovat veškeré sociální vědomosti. Lidské chování je příliš komplexní. A kulturní kontext je příliš důležitý a nemůže být formalizován.
Není to argument proti AI, spíše pro určitou skromnost ohledně uvědomění si jejich limitů. AI funguje nejlépe jako nástroj, který doplňuje, spíše než nahrazuje lidský úsudek. Může pomoci zpracovat informace, identifikovat vzorce chování a generovat možnosti volby. Nemůže ale nahradit lidskou práci, která spočívá v řízení lidské plavby mezi konkurujícími si hodnotami, vybírání si něco za něco (a co za co) a řízení ve světě vzájemné závislosti a života v nejistotě.
Historie naznačuje, že pokusy inženýrsky řídit lidskou komplexitu ji nedokážou eliminovat. Maximálně ji mohou zatlačit do podzemí, kde pak vybuchuje nepředvídatelně a destruktivně.
...
Tolik WSJ. Konečně podnětný článek na tohle téma! Ne nadarmo se říká, že nic není všelék, všeho s mírou. Nicméně třeba rozhodování měnových výborů centrálních bank by se možná mohlo AI přenechat – anebo by to nějaká země mohla alespoň pokusně vyzkoušet. Třeba by AI mohla odstínit politické předsudky a tlaky. Málokterý radní se řídí intuicí, všichni mají podpůrné modely a prognózy. Do rozhodování ve věcech bankovního dohledu bych AI nepouštěl. Blízký východ, ale i mír na Ukrajině, to jsou opravdu zrovna témata, kde AI nic nevymyslí. Ale ani v téhle oblasti není na škodu si s ní hrát.
Mimochodem, zrovna jsem četl, že textovka generálního tajemníka NATO Marka Rutteho Donaldu Trumpovi před začátkem summitu NATO je možná „z pera“ ChatuGPT. „Jak formulovat lichotivý vzkaz Trumpovi, aby zabral…?“
Autor je prezidentem think tanku Strategeo, působí jako visiting fellow společnosti Globsec a je členem sboru externích poradců prezidenta Petra Pavla pro zahraniční politiku.
