AI změni(la) svět, ale má i obrovská rizika: první dotek

(Pokud vás nezajímají technikálie, klidně přeskočte k dalšímu nadpisu.)

Nejprve si pojďme říct, co budeme chápat pod pojmem AI (artificial intelligence). Pro tento článek pod touto zkratkou budeme rozumět chování sítě postavené z perceptronů (zjednodušený model neuronu). Každý takový neuron dokáže vzít čísla na vstupu, nějak je transformovat (vynásobit vahami, sečíst, případně přidat bias – nějaké pevné číslo – a prohnat nelineární funkcí) a vzniklé číslo poslat na výstup.

Taková síť má nějakou vstupní vrstvu – tedy sadu neuronů, do kterých nasypeme čísla (obraz, text, nebo zvuk lze převést na čísla). Tato vstupní vrstva je propojená s další vrstvou neuronů, ta s další vrstvou, a tak dále až do poslední, výstupní vrstvy. Ta na výstupu vrací také čísla, která pak můžeme interpretovat jako obrázek, text nebo jinou informaci.

Učení na datech probíhá tak, že máme data, u kterých známe požadovaný výstup, a taková data nasypeme na vstup. Následně upravujeme váhy v každém neuronu tak, abychom dosáhli známého výstupu. K tomu existuje efektivní metoda backpropagation, která to umí dělat rychle.

Tohle je jednoduchá dopředná perceptronová síť. Podle toho, jak jsou jednotlivé neurony propojené (topologie sítě), se liší vlastnosti sítě.

Dnes se často používají složitější sítě, jako třeba transformery, ale jejich učení je jen o něco složitější a funguje trochu jinak. Základem je dnes tzv. reinforcement learning, které používá právě tyto sítě místo tabulek.

...snad jsem na nic důležitého nezapomněl.

1) AI je k ničemu, jen to říká věci, co do toho někdo nasypal.
V téhle větě jsou dvě chyby:

a) AI rozhodně není jen nedokonalý kecálek
AI se dnes používá například ve zdravotnictví. Na velmi dobré úrovni dokáže z rentgenu určit diagnózu. Pokud nemáte k dispozici výborného radiologa, AI může být velmi užitečnou alternativou. Podobně při kolonoskopii umí AI detekovat polypy, které by lékař mohl přehlédnout. Na urgentním příjmu navrhuje postupy, které zvyšují pravděpodobnost přežití pacienta. Tohle všechno už funguje.

AI také zvládá luštit ručně psané texty, provádí překlady mezi mnoha jazyky, a dokonce řídí autonomní taxíky (např. Waymo v San Franciscu). Díky AI se rychleji hledají nové léky. Všechny tyto úkoly byly řešeny už před příchodem AI, ale použití sítí svými výsledky deklasovalo do té doby použité metody a někde i schopnosti člověka. A to se AI zatím používá jen na zlomku míst, kde je to představitelné.

b) AI nedělá jen to, co do ní někdo nasypal
Jednoduchý příklad: představme si, že máme dvě skupiny dat – každá modrá tečka je obrázek psa převedený na dvourozměrné číslo a každá červená tečka je obrázek kočky. AI dokáže rozdělit prostor na „modrý“ a „červený“, takže když příště zadáme číslo, které v učící fázi nebylo, dokáže říct, zda je to pes nebo kočka. Dokáže tedy „odvozovat“.

Asi nejznámějším českým vědcem v oblasti AI je Tomáš Mikolov, který pracoval pro Google, Facebook i Microsoft. Proslavil se vytvořením jazykového modelu, který dokázal na základě několika předchozích slov předpovídat to následující (podobně jako ChatGPT, jen daleko jednodušeji).

Zjistil například, že jednoduchá neuronová síť si dokáže vytvořit svou vlastní strukturu znalostí. Pokud by bylo každé slovo reprezentováno jako bod v 2D prostoru, zjistili bychom například, že:
Česká republika – Praha = Slovenská republika – Bratislava = Polsko – Varšava.

Tato reprezentace je logicky správná, a síť se ji naučila sama při predikci textů.

Osobně považuji schopnost neuronové sítě vybudovat si vlastní reprezentaci světa během učení za její největší možný přínos. V této reprezentaci mohou vzniknout propojení – nebo z ní mohou být odhalena propojení – která žádný smrtelník nikdy neviděl, protože nikdo nedokáže obsáhnout takové množství informací. To může vést k nevídaným pokrokům. A taky nemusí. :-)

A to je prozatím vše. Na první pohled se zdá, že je vše zalité sluncem – AI udělá svět lepší, jednodušší a pohodlnější… zkrátka dokonalý. Jenže tak to není. O tom si povíme v další kapitole. Tedy pokud mezitím nedojde ke vzpouře robotů a já neskončím na jejich black-listu.

O mě:

Neuronovými sítěmi se zabývám od roku 95, kdy jsem napsal hru, která proti vám hrála piškvorky a uměla se plus mínus něco naučit. V roce 2006 jsem napsal komerční segmentátor založený na dopředné perceptronové síti s resilent backpropagation. Současné sítě jsem dělal také komerčně za využití caffe a kerasu, kde jsem dělal denoising, super resolution a GAN sítě. Dnes už jen z dálky pozoruji ten frmol, jak to jde rychle kupředu z první sedačky výrobce zdravotnických prostředků.

zdroje:

- přednášky na matfyzu