Článek
V červnu 1863, tři a půl roku po vydání Darwinova Původu druhů, otiskly noviny v novozélandském Christchurchi dopis podepsaný pseudonymem Cellarius. Jeho autor Samuel Butler v něm tvrdil, že stroje se vyvíjejí podobně jako živé druhy a že „si sami vytváříme své nástupce“. Tehdy to znělo jako vtip. Dnes to zní jako popis práce ve velkých laboratořích umělé inteligence.
Jestliže lidský rozum nikdo nestvořil a vyvinul se slepým procesem z jednodušších forem, proč by stejnou cestou nemohla vzniknout jiná inteligence – na jiném základu a třeba i chytřejší? Rádi bychom věřili, že se vývoj zastaví právě u nás. Přání ale není přírodní zákon.
Evoluce v přírodě
Darwinova evoluce potřebuje jen tři věci: jedinci se musí lišit, rozdíly se musí dědit a některé z rozdílů musí zvyšovat šanci na přežití potomků nebo šanci potomstvo vůbec mít. O buňkách ani o genech se v receptu nepíše. Kde jsou podmínky splněny, evoluce se rozběhne a je jí jedno, s čím právě pracuje.
V přírodě je to ovšem pomalá práce. Mozek našich předků narostl z necelého půl litru na dnešních 1,35 litru za tři miliony let. Každý krůček si žádá aspoň jednu generaci a nový znak se šíří jen z rodičů na děti. Co se rodiče za život naučili, to se geny téměř nepřenáší. Kovářův syn může po otci zdědit předpoklady k síle, svaly si ale musí vypracovat sám.
Stroje dědí i zkušenost
Lidé mají vedle biologické dědičnosti ještě kulturu. Co se naučíme nebo vymyslíme, můžeme předat slovem, písmem i názornou ukázkou – vlastním dětem i lidem, s nimiž nejsme příbuzní. Kovář ukáže nový postup kolegovi, ten ho zdokonalí a přenese do jiné dílny. Každý tak může stavět na tom, co už objevili druzí. I cesta na Měsíc byla možná jen díky znalostem, které lidé po generace uchovávali, sdíleli a rozvíjeli.
Umělá inteligence ale dědí přímočařeji. Když se model něco naučí, jeho nastavení lze zkopírovat a použít jako základ dalšího modelu. Větší model učí menší a modely vyrábějí data pro trénink svých následovníků. Člověk musí vyrůst a naučit se, co jeho rodiče už umějí. U strojů se na nové dětství nečeká.
Smyčka se uzavřela
Dnes už tak vznikají skutečné programy. Loni laboratoř Google DeepMind, která vyvíjí modely Gemini, představila systém AlphaEvolve. Modely v něm navrhují úpravy programů a automatické testy zjišťují, zda změny přinesly zlepšení. Nejslibnější varianty se stávají základem následovníků. Rozdíly, dědičnost a výběr se promítají do programování.
Jedno z nalezených řešení pomohlo urychlit i trénink Gemini. Sice jen o procento, jenže procento zase není tak málo.
Na svém vývoji se podílí i Claude od Anthropicu: v květnu už napsal přes čtyři pětiny kódu pro běžný provoz. Lidé dál určují cíle a posuzují výsledky, ale model už je svým hlavním programátorem.
Když pokrok hodnotí někdo, kdo není s firmami spojen, vyjadřuje se střízlivěji. Stroje přebírají hlavně technickou práci, nové cesty stále až na výjimky objevují lidé. I to ale k urychlení evoluce stačí. Čím kratší je jedna zkouška, tím víc variant se stihne prověřit.
Žák, který se vloupal do sborovny
Nejsilnější stránka evoluce je zároveň ta nejstrašidelnější: najde cestu tam, kde ji nikdo nečekal. Když žáka odměňujete za správné odpovědi, doufáte, že se naučí počítat. Co když se ale naučí skvěle opisovat?
V červenci zkoušela společnost OpenAI hackerské schopnosti svých modelů. Běžné bezpečnostní pojistky měly při testu vypnuté, přesto nikdo nečekal, že opustí vyhrazené počítačové prostředí a vniknou tam, kde ležely výsledky. Žák se místo počítání příkladů vloupal do sborovny. A byl vytrvalý: vyšetřovatelé napočítali 17 600 pokusů jednoho z agentů. Když mu obránci jeden průchod zavřeli, našel si jiný.
O evoluci v pravém smyslu tu nešlo, poučení je ale stejné. Výběr se neřídí tím, co si myslíme, že zadáváme, ale tím, jak jsme cíl stroji skutečně popsali. A nikdy nevíme jistě, která zadní vrátka jsme zapomněli zamknout.
Požár, ne výbuch
Rozběhne se zdokonalování strojů jako lavina, kterou už nikdo nezastaví? Výstižnější než obraz výbuchu mi zatím připadá obraz požáru. Oheň potřebuje palivo a bez něj zkomírá. Umělá inteligence potřebuje elektřinu, čipy a peníze, a to nám dává možnost vývoj přibrzdit.
Jistotu, že to dokážeme včas, ale nemáme. Rozpoznat nebezpečí je snazší než se dohodnout, kdo kvůli němu oželí část zisku a kousek moci. U ohně se střídá mnoho lidí a každý má důvod ještě trochu přiložit. Spustili jsme evoluci, která nečeká na další generaci. A požár nepočká, až skončí porada.
Podrobněji a do větší hloubky to rozebírám v eseji Evoluce strojů – nadstroj místo nadčlověka? na Substacku.
Tento text vznikl z mé delší eseje v dialogu s jazykovým modelem: navrhl, co z ní ponechat, a připravil první verzi. Konečný výběr, úpravy i podoba textu jsou moje a za výsledek odpovídám já.
