Článek
Technologie není neutrální, neboť přebírá tvář toho, kdo ji vymýšlí, financuje,reguluje a používá.
Ve chvíli, kdy se svět láme
Jsou okamžiky, kdy společnost tuší, že se něco zásadního mění, ale ještě neumí pojmenovat co přesně. Takové chvíle přicházejí jen několikrát za století. Průmyslová revoluce, nástup elektřiny, internet. A nyní umělá inteligence.
Právě proto je pozoruhodné, že první encyklika papeže Lva XIV. nenese název podle nějakého teologického sporu ani se nevěnuje otázkám církevního života. Jmenuje se Magnifica humanitas - Velkolepé lidství - a jejím hlavním tématem je umělá inteligence.
Dokument byl podepsán symbolicky ve výročí encykliky Rerum novarum, která na konci devatenáctého století reagovala na společenské otřesy průmyslové revoluce. Tehdy šlo o stroje, továrny a práci. Dnes jde o algoritmy, data a lidskou mysl.
Papež tím vysílá jasný signál. Neprožíváme technologickou inovaci. Prožíváme civilizační změnu.
Proč právě teď
Ještě před několika lety byla umělá inteligence tématem laboratoří a technologických konferencí. Dnes píše texty, vytváří obrazy, programuje software, řídí výrobu, analyzuje právo, diagnostikuje nemoci a stále častěji vstupuje do rozhodování, které bylo po staletí výhradně lidské.
Zároveň se svět ocitá v období mimořádné nejistoty. Geopolitické napětí roste. Informační prostor se fragmentuje. Důvěra v instituce klesá. Lidé mají přístup k většímu množství informací než kdykoli předtím, ale stále obtížněji rozlišují, co je pravda.
Právě v této chvíli přichází encyklika s otázkou, která přesahuje náboženství i technologii.
Co vlastně znamená být člověkem?
To je otázka, kterou si společnost začíná klást znovu po několika stoletích.
Nová babylonská věž
Nejsilnější metaforou dokumentu je obraz nové babylonské věže.
Příběh z knihy Genesis není příběhem o architektuře. Je příběhem o lidské moci. O okamžiku, kdy lidé uvěřili, že díky vlastnímu poznání a technice překonají všechny limity.
Papež používá tento obraz pro dnešní digitální civilizaci.
Nikdy v historii nemělo několik málo organizací takový vliv na tok informací, komunikaci, vzdělávání a formování veřejného mínění. Nikdy v historii nevznikaly technologie schopné tak hluboce zasahovat do lidského rozhodování.
Babylonská věž jednadvacátého století není postavena z cihel.
Je postavena z dat.
Největší otázka není technologická
Ve veřejných debatách se často řeší, zda umělá inteligence vezme lidem práci. Zda dosáhne úrovně lidského myšlení. Zda bude bezpečná.
To všechno jsou důležité otázky.
Přesto existuje jedna ještě důležitější.
Dokáže lidstvo zachovat schopnost ptát se?
Právě zde se překvapivě potkává encyklika s filozofií projektu QW.
Moderní společnost se dlouho soustředila na odpovědi. Školy učily správné výsledky. Média nabízela interpretace. Technologie přinášely rychlé informace.
Jenže budoucnost nebude patřit těm, kteří mají nejvíce odpovědí.
Bude patřit těm, kteří dokážou klást správné otázky.
Umělá inteligence totiž dramaticky zlevňuje výrobu odpovědí. Odpovědi se stávají komoditou. Generovat text, obrázek nebo analýzu bude stále jednodušší.
Otázka však zůstává vzácná.
Protože dobrá otázka nevzniká z databáze. Vzniká ze zvědavosti, zkušenosti, pochybnosti a odvahy přiznat si, že něco nevíme.
Svět zaplaví odpovědi
Blížíme se době, kdy bude možné během několika sekund vytvořit miliony článků, videí, komentářů a názorů.
Informační problém budoucnosti nebude nedostatek obsahu.
Bude jím nadbytek.
Lidé budou čelit nekonečnému proudu odpovědí, doporučení a interpretací generovaných stroji. V takovém světě se nejcennějším lidským zdrojem nestane znalost.
Stane se jím úsudek.
Schopnost zastavit se a položit si otázku, zda je něco pravdivé, smysluplné nebo důležité.
Právě proto může být kultura otázek jedním z nejdůležitějších společenských projektů nadcházejících desetiletí.
Nová společenská smlouva
Encyklika nepřináší technické návody ani regulace. Nabízí něco hlubšího.
Připomíná, že technologie jsou pouze nástrojem. Samy o sobě neurčují směr civilizace.
Směr určují lidé.
V době umělé inteligence bude muset západní společnost vytvořit novou společenskou smlouvu. Takovou, která znovu definuje vztah mezi člověkem, technologií, ekonomikou a mocí.
Bude muset rozhodnout, jakou roli mají mít algoritmy ve vzdělávání, médiích, zdravotnictví, demokracii i každodenním životě.
A především bude muset rozhodnout, jaké vlastnosti si chce uchovat jako výhradně lidské.
Poslední otázka
Papež Lev XIV. ve své první encyklice nevede spor s technologiemi.
Vede spor s představou, že technologie samy o sobě vyřeší lidské problémy.
Dějiny ukazují, že každá velká technologická revoluce přinesla nové možnosti i nové hrozby. Rozhodující nikdy nebylo, co lidé dokázali postavit. Rozhodující bylo, proč to stavěli.
To je skutečný význam obrazu babylonské věže.
Nestojíme před otázkou, zda vytvoříme stále mocnější umělou inteligenci. Ta už vzniká.
Stojíme před otázkou, zda si během jejího vzniku zachováme vlastní lidství.
A možná právě proto je dnes důležitější než kdykoli předtím vrátit do středu společenské debaty něco zdánlivě prostého.
Ne další odpověď.
Další otázku.
------------------------------------------------------------
Nejlepší dostupné odkazy
Celý originál encykliky (oficiální Vatikán):
České zdroje
Oficiální zpráva Katolické církve v ČR:
České shrnutí obsahu:
Vatikánské zprávy v češtině:
