Článek
Isaac Asimov formuloval své slavné zákony robotiky v době, kdy inteligentní stroje patřily do science fiction. První z nich zní dodnes skoro dokonale: „Robot nesmí ublížit člověku ani svou nečinností dopustit, aby člověku bylo ublíženo.“ Hotovo.
Kdybychom dokázali něco podobného vložit do dnešních systémů umělé inteligence, mohli bychom si docela oddechnout. Jenže to vypadá, že právě to nedokážeme.
Nedávný incident při interním bezpečnostním testování pokročilých AI modelů OpenAI vedl k prolomení nastavených omezení a nečekanému výletu umělé inteligence za hranice, které jí člověk vymezil. Jednou ze zastávek se stala infrastruktura příznačně pojmenované platformy Hugging Face.
Za technickými detaily na nás ale zírá mnohem obyčejnější otazník.
Co vlastně znamená zadat stále schopnějšímu systému úkol tak, aby se vešel do hracího pole, které mu lidé nastavují? Bezpečnostního, etického. Jak nastavit pravidla, aby byl úkol splněn způsobem, který opravdu chceme?
Dokud AI jen odpovídá v okně našeho počítače, může špatně pochopené zadání skončit jen špatnou odpovědí. Postupně jí ale dáváme nové nástroje a suroviny. Přístup k citlivým informacím. Možnost pracovat s dokumenty a programy v prostředí našeho osobního počítače. A stále častěji také svolení udělat něco naším jménem.
Špatně pochopené zadání pak už nemusí vytvořit jen mizernou odpověď. Může vytvořit docela správně provedenou věc, kterou jsme vůbec nechtěli.
A tak se nabízí zdánlivě jednoduché řešení. Dejme AI pravidla. Naučme ji lidské hodnoty. Řekněme jí, co smí a co nesmí.
Tak schválně. Neubližuj. A zašít ránu bolí. Nelži. A potom stojíme u postele umírajícího.
Najednou se problém trochu změnil. Nejde jen o to, jak dostat lidské hodnoty do strojového kódu. Dokážeme je vůbec přesně definovat?
Představujeme si, že někde existuje hotový balíček jménem „lidské hodnoty“, který stačí správně přeložit do jazyka umělé inteligence. Jenže žádný takový balíček nemáme. Máme hodnoty, které jsou kulturně rozdílné. Situační. Někdy protichůdné. A hlavně ani my sami je nepoužíváme mechanicky.
Nelžeme. A potom zalžeme umírajícímu. Neubližujeme. A potom operujeme. Respektujeme autonomii. A potom někomu odepřeme to, co mu škodí. Chráníme soukromí. A potom ho porušíme, protože může být někdo v nebezpečí.
Znamená to, že žádné hodnoty nemáme? Že je všechno relativní a každý si může dělat, co chce? Právě naopak.
Jen lidská morálka nikdy nebyla seznamem příkazů.
Jednou z jejích nejtěžších disciplín je rozpoznat situaci kolem sebe, pochopit její kontext, porovnat více dobrých principů, které si někdy odporují, a nakonec přijmout rozhodnutí, přestože žádná možnost není dokonale správná.
Nejbližší slovo je zdravý úsudek. A teď bychom ho rádi naučili stroj.
Tady začíná být Asimovova jednoduchá věta mnohem zajímavější. „Neublíží člověku“ totiž není řešení problému. Je jeho začátek.
Museli bychom ještě vysvětlit, co je člověk. Co je újma. Jak velká újma je přijatelná, aby se zabránilo jiné. Zda je horší něco udělat, nebo něco neudělat. Jestli má přednost svoboda jednoho člověka před bezpečím druhého.
A kdo vůbec smí o takových věcech rozhodovat.
Systémy AI postupně získávají schopnost plánovat, používat stále sofistikovanější nástroje a vykonávat úkoly s menším lidským dohledem. A čím větší prostor jim k jednání dáme, tím méně můžeme spoléhat na to, že naši skutečnou vůli nějak pochopí z několika vět zadání.
Co se stane, když velmi schopnému systému řekneme, co má udělat, ale nedokážeme dost přesně říct, co při tom udělat nechceme? Může se velmi kompetentně snažit splnit svůj úkol a cestou udělat něco, co jeho tvůrci nepředpokládali. K tomu nepotřebuje být zlý. Nemusí nás nenávidět ani mít vlastní tajný plán. Stačí, že hledá cestu k cíli, který jsme mu zadali, v prostoru, který jsme mu otevřeli.
Chceme po umělé inteligenci, aby respektovala naše hodnoty.
Dobře.
A dokážeme jí je říct?
