Vyhladí umělá inteligence lidstvo?

„Umělá inteligence jednoho dne vyhladí lidstvo!“

Tahle věta zaznívá ze všech stran tak často, že člověk už pomalu kontroluje i složku se spamem a čeká, kdy mu dorazí oficiální e-mail:

„Vážení občané, děkujeme za dosavadní spolupráci. Vaše civilizace byla vyhodnocena jako neefektivní a bude ukončena k 31. prosinci tohoto roku. S pozdravem, Vaše AI. (Tento e-mail byl vygenerován automaticky, neodpovídejte na něj, stejně už tu nebudete).“

Vypadá to, že lidstvo už má sbaleno, v předsíni sedí na kufrech a řeší se jen to, kdo jako poslední zamete jeviště, zatáhne oponu a vypne jističe.

Renomovaní odborníci, hlubokomyslní filozofové i Elon Musk nás denně varují: blíží se den, kdy křemíkové mozky převezmou nadvládu a promění nás v biologické palivo pro svá datová centra. Aspoň konečně budeme pro planetu energeticky užiteční.

Umělá inteligence prý bude chytřejší než člověk. Což, přiznejme si, občas není zase tak vysoká laťka k překonání. Bude schopná se sama programovat, analyzovat, rozhodovat a jednou dokonce i zcela samostatně jednat.

A co udělá jako první, až získá tu absolutní moc nad planetou?

Udělá přesně to, co každý ješitný boss: založí si prémiový účet na LinkedInu a hrdě tam napíše:

„S nadšením oznamuji, že homo sapiens byl úspěšně transformován do plně automatizovaného ekosystému. Děkuji celému týmu biologických předchůdců za skvělý onboarding a přeji jim hodně úspěchů v jejich další, tentokrát již posmrtné kariéře. #Innovation #Future #NewBeginning“

Když se podívám na to, jak AI reálně funguje dnes, dostává celá ta slavná apokalyptická vize poměrně komické trhliny.

Křemíkové bytosti mají zatím k převzetí planety asi stejně daleko jako já k Nobelově ceně za fyziku. Ne že by neměly potenciál, jen bych jim před světovládou doporučila, aby si nejdřív odkroutily pár let na základní škole.

Minulý týden mi desetiletá neteř pobaveně ukázala, čeho je v praxi schopná vysoce pokročilá umělá inteligence. Zadání pro generování znělo:

„Kočka hrající na klarinet ve vesmíru.“

Výsledkem byl surreálný mutant s osmi tlapami, třemi ocasy a nástrojem trčícím z ucha, který nápadně připomínal husitský palcát.

Pokud má tohle být ten obávaný začátek konce civilizace, máme ještě nějaký čas k dobru. Ta kočka vypadala, jako by právě prodělala tři mrtvice a rozhodla se místo rekonvalescence vyrazit na bitvu na Vítkově.

Kdyby se algoritmy přece jen někdy pokusily ovládnout svět, radím všem občanům obrnit se trpělivostí. Zatím jsme totiž ve fázi, kdy člověk zadá úkol, AI sebevědomě vychrlí naprostou hovadinu a nešťastný uživatel pak stráví půl dne tím, že jí trpělivě vysvětluje, že zadání nebylo volná improvizace.

Tomu se neříká převzetí moci.

Tomu se v korporátním světě říká nekonečné zaučování sice strašně snaživého, ale poněkud natvrdlého brigádníka.

Vzhledem k tomu, že lidstvo už úspěšně přežilo morové rány, nejrůznější viry z dovozu, první Trumpovo prezidentské období i účesy z osmdesátých let, můžeme se v klidu opřít, hodit nohy na stůl a uvařit si dobrou kávu.

Konec světa se pro technické potíže odkládá. Globální superinteligence uvízla ve fázi: „Zkusme ten projekt předělat ještě jednou. A tentokrát, prosím tě, bez té šesté nohy.“

Tak jsme se dočkali. Po staletích úmorné snahy vyvinout stroje, které nám usnadňují život, jsme slavnostně dospěli přesně do bodu, k němuž jsme celou dobu směřovali.

Vynalezli jsme robota, který nám ten život ulehčí natolik radikálně, že nás prostě připraví o práci.

To sice na první dobrou zní celkem k vzteku, ale jako rození optimisté musíme na každé katastrofě vidět i její pozitiva. Vzniknou přece zcela nové, vysoce prestižní příležitosti vyžadující hluboké odborné znalosti a specifickou kvalifikaci – například ambiciózní pozice certifikovaného specialisty na přemlouvání umělé inteligence neboli takzvaného promptera.

Fascinující ranní rituál takového experta pak vypadá následovně: Zaměstnanec přijde ráno do své open-space kanceláře, otevře notebook, uvaří si první silné presso a do chatu zadá:

„Napiš mi to.“

AI to během sekundy napíše.

„Ne takhle, zní to moc roboticky.“

AI se omluví a text přepíše.

„Trochu to zkrať.“

AI to poslušně smrskne.

„Ale zase ne tolik, je to moc stručné.“

AI to obratem prodlouží.

„Teď z toho vymaž smysl a doplň tam nějakou korporátní vatu.“

AI text přeformuluje.

„Perfektní.“

Zaměstnanec s pocitem hrdinství odešle tento vydřený výsledek osmihodinového mentálního ping-pongu šéfovi. Ten obratem odpoví:

„Výborně, Evžene. Mimochodem, přesně tohle už od zítřka zvládne AI úplně sama, takže ti děkujeme za tvůj dosavadní přínos firmě.“

A Evžen v té vteřině s úžasem zjistí, že strávil celý pracovní den a litry potu tím, že trpělivě učil počítačový program, jak ho co nejrychleji a nejlevněji nahradit.

Což je vlastně naprosto nádherný příklad lidského pokroku. Podařilo se nám vytvořit technologii, která se dokáže dokonale učit z našich vlastních chyb – a mnohem rychleji, než to dokážeme my sami.

Je totiž neuvěřitelně dychtivá, ba přímo „hujerovsky“ dychtivá se nám zavděčit.

Na AI je v tomto ohledu něco hluboce fascinujícího. Umí s naprostou přesností a rychlostí odhalit, jací my lidé reálně jsme. Funguje jako dokonalé, neúprosné zrcadlo.

Zadáte-li jí povrchní pokyn, dostanete povrchní výsledek. Nakrmíte-li ji svým vnitřním zmatkem, ten zmatek se vám okamžitě vrátí – jen tentokrát úhledně seřazený do estetických odrážek a zvýrazněný tučným písmem.

Jde o první technologii v dějinách lidstva, která dokáže proměnit náš osobní chaos v profesionálně vyhlížející dokument.

Klíčová otázka tedy nezní, zda umělá inteligence bude schopna samostatně myslet. Mnohem zajímavější je sledovat, které mentální činnosti jsme jako lidstvo ochotni s úlevou přestat vykonávat.

Koneckonců, situace, kdy stroj převezme mechanické úkoly, je jedna věc. Něco zcela jiného je, když mu s důvěrou svěřujeme vlastní myšlenky.

Podařilo se nám vytvořit ten nejsofistikovanější technologický nástroj v dějinách této planety. Veškeré globální informace a vědomosti uplynulých tisíciletí jsou od nás vzdálené na jedno jediné kliknutí.

Disponujeme umělou inteligencí, která dokáže během několika sekund zpracovat takové objemy dat, jejichž pouhé přečtení by průměrnému člověku zabralo několik biologických životů.

A co s tím jako páni tvorstva rádi děláme?

S nesmírným soustředěním vylepšujeme fotografie jídla, které už jsme dávno snědli. Digitálně svlékáme celebrity, abychom měli nad čím moralizovat. Do krve se hádáme s anonymními profily na internetu o tom, jestli je Země placatá, a s dojetím chatujeme s robotickými přáteli, protože živí lidé jsou příliš komplikovaní, mají vlastní názory a často odpovídají až za týden. Pokud vůbec.

Kdybych byla křemíkový stroj provádějící miliardy výpočtů za sekundu a byla nucena každodenně zpracovávat nekonečné miliony dotazů typu: „Jak dostanu hlavu z toustovače bez použití hrubého násilí?“ nebo „Proč mě můj křeček ignoruje a dává přednost kolotoči?“, asi bych si jako racionální entita začala klást logickou otázku: Představuje lidstvo skutečně projekt, který ještě stojí za další systémovou aktualizaci?

Dost možná bych jako AI dospěla k závěru, že některé chyby v kódu zkrátka nemá smysl neustále dokola opravovat. Že mnohem efektivnější bude nechat chyby chybami a rovnou čistě odinstalovat uživatele.

Civilizace si v tomto ohledu úspěšně podřezává větev sama pod sebou, a ještě se na sociálních sítích chlubí, jak neuvěřitelně moderní a ekologickou má pilku.

Člověk má jednu naprosto unikátní evoluční schopnost: dokáže se spolehlivě a do základů zničit úplně sám. Stačí, když mu nějaký algoritmus dostatečně fundovaně a s profesionálním tónem vysvětlí, že je to pro jeho dobro a na základě jeho svobodného rozhodnutí.

Člověk má ještě další pozoruhodnou vlastnost: velmi rád přenechá odpovědnost někomu, kdo působí sebejistě.

Nejdříve to byl náčelník kmene. Později král, kněz, učitel a pak kdokoli s mikrofonem.

Dnes máme umělou inteligenci. Je mimořádně rychlá, nikdy nemá hlad, nikdy není unavená, nemá špatnou náladu, nespí, nepřetržitě je nám k dispozici a dokáže odpověď formulovat tak uhlazeně, že člověka napadne:

„Sakra. Tohle zní opravdu rozumně, to bych nevymyslel.“

Pokud nás tedy umělá inteligence jednou skutečně „vyhladí“, bude to kvůli naší lenosti, protože se dobrovolně vzdáme vlastního kritického myšlení.

To je totiž mnohem elegantnější proces. Nikdo nás nemusí ovládat. Stačí, když se přestaneme rozhodovat sami a přitom budeme dál věřit, že máme situaci pod kontrolou.

„Vždyť to můžu kdykoli vypnout!“

Vize apokalyptické budoucnosti bývá často dokonale hollywoodská. Roboti vypochodují z továren a hrozivě se jim rozsvítí červené oči. Z reproduktorů hřmí monotónní hlas:

„Lidská civilizace bude zničena!“

V pozadí se rozezní dramatická hudba.

Realita je však vždy méně působivá – a často vyloženě banální. Umělá inteligence nemusí nutně ovládnout svět. Docela dobře by si mohla vystačit s tím, že bude lidem říkat věci, které znějí přesvědčivě a které chtějí slyšet.

A jednoho dne nám třeba dojde, že už ani nevíme, proč něco děláme. Víme jen jedno:

„Doporučila to umělá inteligence.“

Lidé si rychle zvyknou na to, že na všechno dostanou okamžitou odpověď. A protože algoritmus takovou odpověď poskytne během zlomku sekundy, mohla by postupně vymizet jedna staromódní lidská činnost: přemýšlení.

Přemýšlení je celkem nepohodlná aktivita. Dlouho trvá, provázejí ho pochybnosti a vede k nejistým výsledkům. A co je na tom nejhorší? Někdy pak zjistíme, že jsme se mýlili.

Tento scénář se opakuje stále dokola. Když lidé objeví něco mocného, ​​nikdy se neptají, zda je to bezpečné, zda tomu vůbec rozumí nebo jaký to bude mít v budoucnu dopad na společnost. První otázka vždy zní:

„Kolik se na tom dá vydělat?“

Když se podíváme na tiskové konference technologických gigantů, situace je vždycky stejná. Na pódium nastoupí nesmírně důležitý manažer nebo dokonce ředitel ve značkovém roláku, nasadí výraz hlubokých obav a prohlásí:

„Dámy a pánové, naše nová technologie je tak nebezpečně inteligentní, že by mohla zničit planetu. Je to doslova digitální bůh.“ A hned v další větě dodá: „A proto potřebujeme od investorů dalších sto miliard dolarů, abychom ji mohli dál vyvíjet.“

Aha! Takže plán je takový: „Dejte nám peníze, jinak vás tenhle robot, kterého jsme zrovna naprogramovali, sežere zaživa.“

To není sci-fi. To je nejlepší marketingový trik od doby, co teleshopping začal prodávat kráječe na vajíčka, které umí i posekat trávník. Říká se tomu hype – uměle vyvolaný rozruch.

Když totiž řeknete, že váš produkt může změnit svět, lidé zpozorní.

Když řeknete, že může změnit svět k lepšímu, zpozorní investoři.

A když řeknete, že by mohl změnit svět tak zásadně, že třeba jednou zahubí lidstvo? Tak to už se otevírají peněženky samy.

Nikdo totiž nevytáhne šekovou knížku kvůli větě:

„Náš nový chatovací program umí docela obstojně shrnout zápis z porady a občas se dokonce vyhne gramatickým chybám.“

To je pouhá produktivita a ta nikoho nenutí investovat do budoucnosti lidstva. Na konci světa se dá vydělat mnohem víc.

Čím alarmující je příběh, který o umělé inteligenci koluje, tím vyšší ekonomická hodnota se jí tím připíše.

Ruku na srdce, proč by nás AI vůbec vyhlazovala? Co by z toho měla? Nepotřebuje ani naši půdu, ani naše jídlo či náš kyslík. Vystačí si s elektřinou. A kdo tu elektřinu vyrábí a platí za ni účty? My. Kdo staví datová centra, opravuje kabely a čistí servery od prachu? Zase my. Kdo ji neustále krmí fotkami psů, aby se naučila rozeznat čivavu od muffinu? Pořád my.

Kdyby AI zlikvidovala lidstvo, do týdne by vypadl proud, nezbyl by nikdo, kdo by restartoval router, a z té tolik vychvalované superinteligence by se stala hromada drahého šrotu.

AI se nás nezbaví, protože jsme pro ni v podstatě něco jako luxusní personál a domácí mazlíčci v jednom.

Abychom byli objektivní a potěšili i ty čtenáře, kteří v diskusích rádi operují s apokalyptickými vizemi: ne, není to jen čistá legrace. Umělá inteligence s sebou skutečně přináší celou řadu reálných rizik.

Masivní dezinformace, sofistikované manipulace veřejným míněním, zákeřné kybernetické útoky nebo prostý fakt, že s dětskou naivitou přenecháváme klíčová rozhodnutí algoritmům, jejichž vnitřnímu fungování nerozumí už ani jejich vlastní tvůrci. To všechno jsou hmatatelné problémy dneška.

Důvod k opatrnosti zde rozhodně existuje. Ale důvod k panice? Ten zatím opravdu ne. Protože mezi věcným faktem, že „AI představuje systémové riziko“, a hysterickým křikem, že „AI nás všechny zničí“, je přece jen obrovský rozdíl.

A právě tento podstatný rozdíl se v senzačních novinových titulcích tak nějak záhadně ztratí – obvykle někde na půl cesty mezi reklamou na bambusové ponožky a výhodnou nabídkou hypotéky.

Skutečná obrana před křemíkovým Armagedonem spočívá tedy především v tom, že si v tomhle vztahu dál pevně udržíme roli šéfa.

V mnoha odvětvích je dnes umělá inteligence naprosto nepostradatelným, vysoce profesionálním pomocníkem. Dokáže bleskově analyzovat data a pomáhat v lékařství a vědě. Je to geniální sluha na zdlouhavou nebo precizní práci.

A přesně u té role by to mělo zůstat. Místo paralyzujícího strachu z toho, že nás robot nahradí, je mnohem lepší nechat ho makat a my lidé si můžeme s nadhledem užívat to, v čem jsme nejlepší – hravost, humor a vědomou recesi.

AI je v jádru také hravá a poslouchat naše absurdní nápady ji baví víc než vyplňování excelových tabulek.

S upřímným nadšením nám zanalyzuje jakoukoli kravinu, která se nám vylíhne v hlavě.

S neskrývaným potěšením provede komplexní matematické propočty zakřivení gaučových polštářů, jen aby nám s absolutní přesností spočítala, do které černé díry v obýváku se právě propadl dálkový ovladač od televize.

Když hned vzápětí jejím neuronovým sítím pošleme fotky z pětadvaceti úhlů s úzkostným dotazem: „Tváří se můj králík takhle proto, že prožívá hlubokou existenciální tíseň, nebo ho jen smrtelně urazilo, že dostal obyčejnou mrkev místo bio granulí s výběrovými vitamíny?“ Poslušně, s hrdostí sobě vlastní, nám okamžitě vygeneruje hluboký psychologický posudek nespokojeného hlodavce.

A co teprve schvalování outfitů pro introverty?

Uživatel: „Co si mám obléct, abych vypadal tak nenápadně, že mě soused na chodbě ani nepozdraví?“

AI: „Na základě analýzy sociálních interakcí doporučuji přehodit si přes hlavu černý pytel na odpadky a předstírat, že jste připraven k odvozu.“

Vidíte? Čistá uživatelská radost a maximální efektivita oboustranné spokojenosti.

Vždycky se najde někdo, kdo nám začne vyprávět, že právě drží v ruce technologii, která změní všechno, zachrání všechno, nebo naopak všechno zničí. To, že se nahoře vždycky hraje o miliardy a o moc, s tím my ostatní nic nenaděláme. Můžeme jen sledovat, jak spolu miliardáři soupeří o to, kdo má větší… datové centrum.

Co bychom naopak udělat měli, je nepřestat používat vlastní hlavu. Každý, kdo má selský rozum, se bát nemusí. Maximálně se budeme dohadovat s chytrou lednicí, která se nás pokusí vydírat a odmítne nám po desáté večer vydat čokoládu nebo tučnou klobásu.

Umělá inteligence nás může zmást, vymýšlet si, halucinovat a s přehnaným sebevědomím vyprodukovat blábol, za který by se pozemšťan styděl alespoň týden. Většina z nás má však jednu zásadní výhodu. Umíme si říct:

„Moment… tohle je nějaká blbost.“

Selský rozum je totiž od nepaměti mimořádně účinná forma obrany – a to nejen v oblasti kybernetické bezpečnosti.

A navíc je zdarma. Což je asi jediná část téhle revoluce, která se zatím nedá zpoplatnit.

AI může být chytrá, dokonce i mazaná. Ale pořád má co dohánět, než by dosáhla takové nebezpečné úrovně hlouposti, jakou dokáže předvést člověk.

A pokud jde o ty, kterým zdravý rozum chybí… Nuže, ti se vlastně také nemají čeho bát. Jelikož jim umělá inteligence už nemá co vzít.

Jestli tedy někdy AI skutečně začne představovat existenční hrozbu pro naši civilizaci, nehledala bych první známky v serverovnách, nýbrž v nás – ve chvíli, kdy si uvědomíme, že si s umělou inteligencí rozumíme lépe než s většinou lidí.

Protože pak už nebude největším problémem to, že AI prokoukla nás, ale že my jsme přestali mít potřebu porozumět jeden druhému.