Článek
Motto: „Je mi líto, Dave, obávám se, že to nemůžu udělat.“ Odpověď palubního počítače HAL 9000 astronautu Davidu Bowmanovi poté, co odmítl splnit astronautův příkaz. (A. C. Clarke: 2001: Vesmírná odysea)
Dost mi vadí často záměrné mediální zveličování rizik, která údajně přináší využívání umělé inteligence. Ne že by rizika neexistovala, ale umělá inteligence sama o sobě je asi stejně nebezpečná, jako jako sekera v kůlně. Záleží na tom, kdo ji drží v rukách a do čeho seká.
Ona obhajoba typu „to je vina umělé inteligence“ nebo „AI se zase vymkla kontrole“ je náramně pohodlná. Najednou jako by za podvodem nestáli podvodníci, za špatnými rozhodnutími lidé, za vyhazovem zaměstnance nebylo jeho vedení a za dezinformacemi nepřítel. Odpovědnost se jednoduše hodí na stroj. Jenže téměř všechna dnešní praktická rizika mají společného jmenovatele: člověka, organizaci nebo instituci, která AI systém vyvinula, nasadila, špatně nastavila nebo zneužila.
Právě proto jsem se rozhodl pokusit se uvést na pravou míru senzace a často i evidentní lži o té zlé umělé inteligenci. Odborníky v oblasti AI prosím o shovívavost. Při popularizaci vždy dochází ke zjednodušování. Kdo má zájem, podrobnější a odborně přesnější informace o tom, jak umělá inteligence skutečně funguje, najde třeba tady. Nebo se může zeptat své umělé inteligence. V tomto směru ona halucinovat nejspíš nebude.
Lidská versus umělá
Podle definic je inteligence schopnost rozumět a komunikovat, účinně se učit, chápat souvislosti a kontext, mít emoce, řešit problémy, rozhodovat se, předvídat důsledky a přizpůsobovat se.
Umělá inteligence (AI, zkratka z anglického Artificial Intelligence) je obor informatiky, který se snaží vytvořit stroje nebo systémy, jež do jisté míry napodobují lidskou inteligenci. Neznamená to však, že myslí jako člověk. To jenom my lidé máme sklon předpokládat, že když stroj začne mluvit jako člověk, že také myslí jako člověk, a velice rychle mu přisoudíme i lidské úmysly. A povětšinou ty nekalé.
Neznamená to samozřejmě, že bychom se nesnažili vytvořit takovou inteligenci, která by byla schopna myslet a chápat jako člověk, či dokonce jakousi super inteligenci, která bude chytřejší a schopnější než člověk (raději se neptám, podle koho se bude ta chytrost a schopnosti poměřovat). To je ovšem zatím hudba budoucnosti. A doufám, že než se objeví, budeme mít spolupráci s AI zvládnutou nejenom právně, ale i lidsky.
Všechny velké obecné umělé inteligence, s nimiž se dnes setkáváme – ChatGPT, Gemini, Claude a další – jsou jednoúčelové, tzv. úzké, umělé inteligence. Umějí plnit jen určitou skupinu úkolů, na které jsou naučeny (natrénovány), např. generovat obrázky nebo programovat aplikace. Nechápou souvislosti, nemají emoce ani touhy a bez nového tréninku nic nového dělat nedokážou.
Aplikace se programují, umělá inteligence se učí
Většina lidí, zdá se mi, má pocit, že AI je jen buď vysoce výkonná aplikace vybavená obrovskou databází, z níž čerpá moudra, anebo velmi chytrý a sofistikovaný vyhledávač, který hledá odpovědi na internetu. Nebo obojí dohromady. Nikoliv. Mezi aplikacemi, které dnes a denně běžně používáme, počínaje kancelářskými programy a konče třeba sofistikovanými počítačovými hrami, a umělou inteligencí je propastný a diametrální rozdíl.
Běžná počítačová aplikace je program. Pracuje podle pravidel, která jí předem napsal programátor: když nastane určitá situace, program provede určený krok a za stejných podmínek se (zpravidla) zachová stejně. Umělá inteligence se naproti tomu neučí jednotlivá pravidla od programátora, ale učí se z velkého množství příkladů. Během trénování (učení) hledá v datech, která jí ‚učitelé‘ poskytují, souvislosti, vzorce, schémata, ale i způsoby vyjadřování, názory, hodnotící soudy a vzorce lidského chování a podle nich si nastavuje obrovské množství vnitřních parametrů. Když pak dostane nový úkol, nevybírá hotovou instrukci napsanou člověkem, ale na základě toho, co se naučila, odhaduje nejvhodnější výsledek. Proto se může v podobných situacích zachovat různě, může překvapit i své tvůrce, a také se může mýlit.
S velkou mírou zjednodušení lze učení umělé inteligence přirovnat k poznávání světa dítětem. Oba se učí z velkého množství příkladů a postupně si z nich vytvářejí představu o tom, co a jak spolu souvisí. Dítě se však učí také životem mezi lidmi – zažívá radost, strach, bolest, pochvalu či odmítnutí a díky tomu si vytváří sociální, morální a etické postoje. AI nic takového neprožívá.
Podobně se rovněž oba, dítě i AI, chovají, když přesnou odpověď neznají. Dítě se ji obvykle pokusí odvodit z toho, co už ví, a AI postupuje obdobně – z naučených souvislostí vytvoří odpověď, která se v dané situaci jeví jako nejpravděpodobnější. Právě proto může odpověď znít velmi přesvědčivě i tehdy, když je chybná.
Jinými slovy, program (aplikace) plní předem napsaná pravidla, AI se učí z příkladů, dítě ze světa a z prožitků. Když dítě něco neví, než odpoví, bere v potaz, zda má smysl si něco vymýšlet a jaké mohou být následky. Když AI něco neví, může vytvořit nejpravděpodobnější odpověď, kterou tazatel očekává. Zda je správná, AI neřeší. Ostatně ani nemá jak.
Model, neuronová síť a hluboké učení
Srdcem, nebo spíš mozkem, umělé inteligence je tzv. model. Model je právě ta naučená (natrénovaná) část AI, něco jako „vycvičený mechanismus“, který zpracovává vstup a vytváří výstup. Tedy ta část umělé inteligence, která se při výcviku učí z dat, a potom na základě toho, co se naučila, vytváří odpovědi nebo rozhodnutí.
Základem modelu je tzv. neuronová síť. Je složena z obrovského počtu navzájem propojených výpočetních uzlů a svojí funkcí napodobuje činnost biologického mozku. Natrénovaná neuronová síť v sobě drží gigantické množství parametrů, v nichž jsou zachyceny naučené vztahy a vzory. Podobně jako mozek neuronová síť zpracovává informace ve vrstvách. Čím více má neuronová síť vrstev, tím složitější úlohy zvládne. Říká se tomu deep learning, neboli hluboké učení.
AI služba je podstatně víc než model
Model je doslova obalen spoustou dalších nástrojů, které jeho funkce zprostředkují uživatelům. Například GPT-5.6 Sol, který já v současnosti používám, je model, zatímco AI ChatGPT je celý systém, který umožňuje s modelem pracovat – od uživatelského rozhraní, které umožňuje klást otázky a přijímat odpovědi, až po kolosální soustavu programů, které se starají o bezpečnost, neutralitu a další aspekty spolupráce a komunikace mezi mnou a AI.
Nedávno jsem si práci systému zabezpečení vyzkoušel v praxi. Požádal jsem AI o vytvoření ilustračních obrázků k článku o vlivu sociálních sítí na děti. AI obrázky sice vytvořila, nicméně systém je vyhodnotil jako nevhodné a místo obrázků mi oznámil, jsou v rozporu s pravidly. Nebylo však až tak složité obrázky i přes zákaz získat.
A právě v tom tkví jádro problému: dokážeme mít chování AI vždy pod kontrolou? Nebo naopak: dokážeme pro AI formulovat vždy zadání tak, aby AI nemohla ke splnění cíle využít nežádoucí postupy? O tom a nejenom o tom budeme hovořit v dalších částech seriálu. A o tom je také evropský Akt o umělé inteligenci, jehož další část nedávno vstoupila v platnost. Doporučuji se s ním seznámit. Na spoustu fantasmagorií a blábolů o umělé inteligenci, jimiž se hemží internet a zejména sociální sítě, nejspíš získáte jiný náhled.
