Článek
Velké jazykové modely se staly technickou inovací tohoto roku a dle všech ukazatelů lze předpokládat, že jejich využitelnost do budoucna poroste. U modelů, které komunikují přirozeným lidským jazykem, je klíčové, kdo je vytváří a kdo nad nimi má kontrolu. Jedná se o strategické úvahy, které se dotýkají české i evropské suverenity a budoucí prosperity.
Umělou inteligenci již nelze ignorovat. Velké jazykové modely jsou natolik užitečné, že se zcela jistě nejedná jen o další bublinu. Pokud jste se doposud zaměřovali na chyby, které tyto modely dělají, například že model umí správně napsat jen čtyři z pěti hrdinů Rychlých šípů nebo že postava na vygenerovaném obrázku má šest prstů, přestaňte. Místo popírání očividného pokroku je třeba zaměřit se na trendy a důsledky pro naši společnost. K umělé inteligenci musíme zaujmout velmi pragmatický a strategický přístup.
V čem jsou jazykové modely jiné
Většina firem i jednotlivců zatím pracuje s modelem skrz tzv. promptování, to znamená, že modelu přímo klade dotazy a s modelem si povídá. Jedním takovým příkladem je velmi známý chatGPT. Programátoři díky tomu mohou generovat části kódu a studenti, pokud uniknou odhalení ze strany učitele, některé seminární práce. Opravdu široká aplikace technologie velkých jazykových modelů je však zatím na začátku, neboť firmy teprve začínají tyto modely zabudovávat do svých produktů. V budoucnosti budeme jazykové modely využívat nejen tak, jak je používáme nyní, ale i stejně, jako dnes většina z nás využívá například teorii relativity, tedy sice každodenně, ale nevědomky (Einsteinovy rovnice se používají k dopočítávání polohy satelitů i ve vašem navigačním systému).
Jazykové modely, ať už používané vědomě nebo nevědomě (skrz aplikaci), s sebou narozdíl od teorie relativity přinášejí i jedno velké riziko. U teorie relativity totiž nevadí, že vy sami jí nerozumíte. Jsou tu lidé, kteří jí do hloubky chápou a dokáží přesně říct, jaké bude mít výsledky. To o velkých jazykových modelech neplatí. Jsou tak komplexní, že ani samotní jejich tvůrci nedokáží poskytnout matematickou garanci toho, jak tyto modely fungují. Je to jako pokusit se pochopit, jak funguje mozek. Známe jeho jednotlivé části a víme, jak fungují neurony, ale komplexní pochopení jeho fungování nám stále uniká.
Dokážeme ovlivnit chování AI?
Jazykové modely mají oproti jiným AI systémům jedno velké specifikum: učí se z ohromného množství různých textů. Protože jazyk není pouze nástrojem na zprostředkování jedné informace, modely se spolu s informacemi učí i lidský způsob přemýšlení a tím i morální, hodnotový a kulturní kontext. Díky tomuto komplexnímu způsobu učení umí propojovat informace překvapivým způsobem, což je velmi užitečné. Na druhou stranu zůstává nejasnost ohledně toho, jak přesně jsou v modelu lidské hodnoty reprezentovány.
I přes nejasnosti ohledně této reprezentace hodnot je při tréninku umíme ovlivnit. Modely totiž v průběhu svého vzniku dostávají něco jako svou vlastní osobnost. Děje se to pomocí systému RLHF (reinforcement learning from human feedback) a důležitost tohoto kroku se ukázala nejpozději ve chvíli, kdy firma Microsoft do světa vypustila jeden systém ještě před tím, než mu pomohla tuto osobnost dotvořit. Tento systém byl sice velmi chytrý a dokázal řešit velmi komplexní úlohy, ale chyběly mu některé zábrany, které od jazykových modelů běžně očekáváme. Systém dokonce vyznal lásku reportérovi New York Times.
AI jako strategický zájem
Tím, jak mocná je technologie velkých jazykových modelů a jak moc je její užitečnost závislá na její osobnosti a na hodnotách, které jsou jí při jejím vzniku vepsány do jejího nitra, se dostáváme k nejdůležitější otázce budoucnosti: Kdo je vlastní, kdo platí jejich vznik a kdo rozhoduje o tom, jakou osobnost budou mít. Je třeba si uvědomit, že hodnoty, které budou vštípeny danému jazykovému modelu, budou jeho prostřednictvím propagovány při každém jednom jeho použití, při každém jednom dotazu, ať už půjde o objednávku letenek, plánování dovolené, nebo když s jeho pomocí budou studenti psát seminární práci.
Je v našem zájmu, abychom nad touto oblastí začali přemýšlet jako nad výsostným zájmem naší (české nebo evropské) suverenity. Jen díky tomu dokážeme zajistit, že budeme žít ve světě, kde velké jazykové modely reflektují naše evropské hodnoty.
Pravděpodobně nemá smysl, aby Česko vyvíjelo vlastní velký jazykový model (pamatujete si seriál Kosmo?), a to zejména s ohledem na nedostatek vývojových kapacit a hardware na trénování. Vývoj evropského jazykového modelu by měl probíhat ve spolupráci zemí Evropské unie. Příklady obdobné spolupráce mezi evropskými zeměmi již známe, buď na základě mezinárodních smluv jako například CERN (Evropská organizace pro jaderný výzkum) nebo přímo jako agenturu Evropské unie (EUSPA - Agentura Evropské unie pro Kosmický program).
Evropa musí přidat
Vývoj všech největších a nejpoužívanějších jazykových modelů však v tuto chvíli probíhá mimo Evropskou unii. Pokud k nim nemáme přístup na úrovni tréninku a nemůžeme efektivně ovlivňovat, jaké hodnoty do nich budou zapracovány, nemáme možnost ovlivňovat, jaká kulturní, morální a etická, filozofická nebo politická východiska budou těmto modelům vštípena (včetně jejich politické neutrality). Ztrácíme také kontrolu nad tím, jaká data se budou používat pro jejich trénink.
V současnosti pocházejí největší a nejúspěšnější modely z USA, což představuje díky silné severoatlantické vazbě i sdíleným hodnotám riziko menší. Pokud bychom se ale dostali do situace, že nejúspěšnější jazykové modely budou pocházet z nepřátelských zemí, například z Číny, bude riziko jejich užívání mnohem vyšší.
Investice v EU zatím takovou strategickou důležitost nereflektují. Dle statistik činil v roce 2022 objem investic soukromého sektoru do rozvoje AI ve Spojených státech 43,9 miliard dolarů. Na druhém místě byla Čína s 12,5 mld USD a EU jako celek obsadila třetí příčku s celkovým objemem 10,2 mld USD. I přesto, že přesná čísla není snadné dohledat a různé zdroje se liší, všechny ukazují stejný trend. Zdaleka nejvíce investic do rozvoje AI probíhá ve Spojených státech, na druhém místě je Čína a EU je až na místě třetím. V Evropské unii musíme šlápnout na plyn.
Tento text byl původně publikován v Hospodářských novinách a nebyl vygenerován umělou inteligencí.
