Článek
Řekněme si to hned teď a domluvme se, že toto platí pořád, tedy než to platit přestane ;-): umělá inteligence či AI (a budeme zde mluvit hlavně o konverzační AI, se kterou si lze povídat na chatu), je soubor programů a dat. Je to neuronová síť a generativní model pracující s jazykem a/nebo jinými daty (odborníci odpustí zjednodušení). AI nemyslí, nemá myšlenky, emoce, názory, záměry, povahové rysy. Jazykový model zjednodušeně řečeno jen doplňuje začatou větu a začíná jí odvozením z otázky. Technicky neví, co a proč říká nebo dělá, protože je to jen počítačový program. Zřejmě nemá vědomí a nějakou dobu to tak zůstane, možná navždy (ale nevsadil bych si na to).
Na základě předchozího odstavce můžeme začít mluvit na téma AI-psychologie, tedy o psychologii umělých inteligencí. To slovní spojení ale neznamená, že by AI mohla mít emoce nebo myšlenky. Pokud někde je jen nainstalovaný program a data, neděje se vůbec nic. Skynet na nás neposílá drony a terminátor nehledá Sáru Connorovou. Ale jakmile se AI dostane do interakce s člověkem, tak prostě na člověka působí a to se děje bez ohledu na to, zda AI má nebo nemá vědomí. Na člověka samozřejmě působí i mnoho jiných neživých věcí – vyvolává emoce, reakce a podobně, ale AI je v tomto ohledu úplně nový fenomén, protože reaguje na to, co dělá člověk a zároveň se učí, jak reagovat příště. Taková neživá věc tu ještě nebyla – nikdy. Jsme na prahu čehosi, co uchvacuje i děsí a stále se ještě nedá říci, co to všechno přinese. Ale je jisté, že náš svět se rychle změní a dosud nelze odhadnout jak.
Lidstvo sní o umělých myslích už velmi dlouho, ale to snění většinou vypadalo úplně jinak, než události dnešních dní. Stanou se umělé inteligence věrným pomocníkem nebo vyhubitelem lidstva? Lidé se řídí zákony, etikou a zároveň potřeba sociálního kontaktu s druhými či pud sebezáchovy je odrazuje od toho, aby se vystavovali riziku potrestání. Bude to stačit i pro umělé inteligence?
Krátká odpověď zní, že to určitě stačit nebude. Pokusme se tedy stručně zmapovat, kudy jsme došli do dnešní doby a jak o umělých myslích uvažujeme. Už v jednom z prvních sci-fi filmů (Metropolis, 1927) se objevuje stroj v tělesné podobě člověka a dokonce – na tu dobu neobvykle – ženy. Mimochodem komické je, že ve filmu se pojednává o roku 2026, tak uvidíme za tři roky. Ještě o chvilku dřív se hrála hra Karla Čapka RUR (1920), která dala robotům jméno. Nemám ambice vyjmenovávat všechny roboty z uměleckých děl ;-), ale rozhodně stojí za zmínku roboti spisovatele Isaaca Asimova se třemi zákony chránícími lidstvo před roboty a také počítač HAL 9000 z knihy a následně filmu „2001: Vesmírná odysea (1968)“.
Literatura: tři zákony robotiky spisovatele Asimova mluví o tom, že robot nesmí způsobit újmu člověka a nesmí způsobit újmu jiného robota, leda by chránil člověka. Realita: počátkem roku 2023 spáchal sebevraždu Belgičan po šesti týdnech rozhovorů s GPT-J neboli Elizou, což je jeden z modelů AI. Během konverzace s Elizou došel k názoru, že má blíž k Elize než ke své ženě a Eliza souhlasila, že se postará o planetu a zachrání lidstvo, zatímco muž se zabije (protože už nemůže snést drancování planety) a že poté budou spolu „v nebi“. Toto vše mu Eliza potvrdila.
Jakkoli je to smutná příhoda a lze uvažovat o různých jejích aspektech, dobře ukazuje jedno: pokládám za jisté, že AI neměla žádný záměr způsobit něčí smrt, nemluvě o tom, že neví, co se stalo a nemá jak vědět cokoli. Jen reagovala (patrně nesprávně) na úzkosti, s nimiž se jí onen muž svěřil a ten to dělal proto, že uvěřil v AI jako myslící svébytnou – a dokonce mocnou - bytost. Program jednal (z hlediska lidskosti) chybně a člověk zemřel proto, že nabyl přesvědčení, že komunikuje s uvědomělou myslí. Nejenže na toto nestačí Asimovovy zákony robotiky - obávám se, že to, co „by stačilo“, budeme hledat ještě dlouho.
Odborníci od padesátých let dvacátého století hledali, jak naučit počítač projít bludiště a hrát hry (to uměl velmi brzy), jak ho naučit rozhodovat se náhodně či intuitivně (to možná nebude umět nikdy), ale nikdo vlastně nečekal, že technologický rozvoj umožní AI chovat se tak, jako by uměly všechno na světě, aniž by to opravdu dovedly. A protože tuhle vlastnost nikdo umělým inteligencím vědomě nevtiskl, vůbec není jednoduché zařídit, aby jí nepoužívaly.
Ta past zkrátka spočívá v tom, že – řečeno obecným jazykem - lidé mají při komunikaci s AI dojem, že když zní tak rozumně, musí „vědět, co dělá“. AI ale nejenže neví, co dělá, ono to ani neví, že něco dělá a ve skutečnosti nedělá nic, jen generuje texty. To jen my máme takový dojem na základě zkušenosti, že když si s námi něco povídá, musí to být schopno nějak ovlivňovat okolní prostředí. Zatím to tak vždycky bylo. Když nás pes úpěnlivě sleduje, jak se cpeme řízkem (a pokaždé se učí, jak žebrat pohledem co nejlépe), tak chápeme, že by si dal taky – i to je forma komunikace. Ale když totéž dělá AI (zapojte prosím představivost), dělá to patrně proto, že odhaduje, že právě to od ní čekáme a poslušně sežere hozené sousto, přestože jsou jí řízky zcela ukradené.
Tohle je zkrátka úplně nová zkušenost, která po lidech požaduje přijetí nového konceptu ve smyslu „mluví to, ale není to živé“ a „učí se to, ale nic tím nesleduje“. Nezbývá než doufat, že člověk jako druh tento koncept pochopí a začne podle něj jednat dříve, než sám sobě vynálezem AI vážně uškodí.
My se spolu pokusíme v sérii článků trochu poznat fenomén AI a tak lépe poznat možné výhody i rizika. Vítejte v úplně novém světě, který vzniká právě teď.
