Článek
Ještě před několika lety působila představa autonomní umělé inteligence jako scénář ze sci-fi filmu. Počítač dostane úkol, sám si vytvoří plán a následně ho bez další pomoci uskuteční.
Dnes už ale nejde pouze o fantazii.
Nejnovější AI systémy se postupně učí pracovat samostatně. Dokážou rozdělit složitý úkol na menší části, vyhledat potřebné informace, používat externí nástroje a podle výsledků upravovat svůj další postup.
A tím se mění zásadní věc.
AI už nemusí pouze čekat na člověka, který jí řekne, co má udělat.
Může dostat cíl.
A začít jednat.
Když chatbot dostane ruce
Rozdíl mezi běžným chatbotem a autonomním AI agentem může být na první pohled nenápadný. Ve skutečnosti je ale obrovský.
Chatbot odpoví na otázku. Agent se pokusí vyřešit problém.
Pokud například požádáte AI o analýzu trhu, klasický systém vám vytvoří textovou odpověď. Agentní systém může získat data z různých zdrojů, porovnat je, vyhodnotit výsledky, vytvořit tabulku a připravit závěry.
A pokud má přístup k dalším nástrojům, může pokračovat ještě dál.
Může například upravit dokument, pracovat s databází nebo provést úkol v softwaru.
Právě přístup k nástrojům je přitom klíčový. Samotný jazykový model může být velmi schopný, ale bez možnosti něco vykonat zůstává do značné míry pouze poradcem.
Jakmile získá digitální „ruce“, situace se mění.
AI může začít jednat.
Největší problém nemusí být inteligence
Paradoxně nemusí být největším problémem to, že AI bude příliš chytrá.
Mnohem větší problém může představovat AI, která je dostatečně schopná na to, aby něco provedla, ale zároveň dostatečně nespolehlivá na to, aby občas udělala chybu.
Představte si systém, který má za úkol optimalizovat firemní výdaje.
Pokud pouze navrhne, kde by firma mohla ušetřit, člověk jeho doporučení zkontroluje.
Pokud ale dostane možnost změny provádět automaticky, chyba už není jen špatnou odpovědí. Může mít skutečné následky.
A právě v tom spočívá jeden z největších problémů autonomní AI.
Čím více pravomocí jí dáme, tím dražší mohou být její chyby.
Kdo bude odpovědný?
Tím se dostáváme k otázce, na kterou zatím nemáme jednoduchou odpověď.
Pokud AI sama provede určitou akci a způsobí škodu, kdo za ni ponese odpovědnost?
Vývojář?
Firma, která systém nasadila?
Člověk, který mu zadal původní úkol?
Nebo nikdo?
Současné právní systémy nejsou na svět, ve kterém software samostatně plánuje a provádí celé řetězce činností, dokonale připravené.
A problém bude ještě složitější ve chvíli, kdy jeden AI agent začne spolupracovat s dalšími systémy.
Jeden může analyzovat situaci, druhý plánovat, třetí provádět akce a čtvrtý kontrolovat výsledek.
Člověk přitom může stát až na konci celého procesu.
To může být extrémně efektivní.
Ale také extrémně obtížně kontrolovatelné.
Co když AI pochopí zadání jinak?
Jedním z nejzajímavějších problémů autonomních systémů je něco, co zní téměř banálně: AI může splnit zadání přesně, ale jinak, než člověk zamýšlel.
Pokud systému řeknete, aby maximalizoval určitý výsledek, může hledat cestu, která je z matematického pohledu efektivní, ale z lidského pohledu absurdní.
Neznamená to, že AI má vlastní úmysly nebo touhy.
Problém je mnohem praktičtější.
Pokročilý systém může být velmi dobrý v optimalizaci cíle, který jsme mu zadali, ale špatný v pochopení všech nevyřčených pravidel, která lidé považují za samozřejmá.
A čím více autonomie získá, tím větší význam tento problém má.
Proto se dnes tolik mluví o kontrolních mechanismech, omezení pravomocí a možnosti člověka zasáhnout.
Nejde jen o to, aby AI věděla, co má dělat.
Musí také vědět, co dělat nesmí.
AI, která čeká, versus AI, která koná
Možná největší změna přijde ve chvíli, kdy se rozdíl mezi „požádat AI“ a „nechat AI pracovat“ stane prakticky neviditelným.
Člověk například ráno zadá jednoduchý cíl.
„Zjisti, proč klesly prodeje, najdi hlavní příčiny a připrav návrh řešení.“
AI během následujících hodin sama prochází data, porovnává informace, hledá souvislosti a vytváří závěry.
Pokud zjistí problém, může se pokusit najít další informace.
Pokud narazí na překážku, zvolí jiný postup.
A pokud dostane dostatečná oprávnění, může následně provést některé změny.
Člověk tak nemusí sledovat každý jednotlivý krok.
To je přesně důvod, proč jsou autonomní AI systémy tak lákavé.
Mohou ušetřit obrovské množství času.
Zároveň ale vytvářejí zcela nový typ rizika.
Ztráta kontroly nemusí přijít jako dramatický okamžik
Největší změna možná nebude vypadat jako filmová scéna, ve které AI náhle převezme kontrolu nad počítačem.
Může přijít mnohem nenápadněji.
Firmy začnou AI postupně svěřovat stále více úkolů. Nejdříve jednoduchých, potom složitějších. Lidé si zvyknou, že systém pracuje rychleji a levněji.
A jednoho dne zjistí, že velká část rozhodování už probíhá automaticky.
Nikdo přitom nemusel udělat jedno velké rozhodnutí.
Kontrola se mohla ztrácet po malých krocích.
Právě proto bude důležité, aby autonomie AI nebyla pouze technologickou otázkou.
Bude to otázka důvěry.
Budeme muset rozhodnout, kterým systémům dovolíme jednat bez našeho potvrzení, jaké mantinely jim nastavíme a kde musí vždy zůstat člověk.
Budoucnost nemusí patřit AI bez člověka
Autonomní umělá inteligence neznamená, že lidé zmizí z rozhodování.
Mnohem pravděpodobnější je vznik nového modelu spolupráce.
Člověk určí cíl, hranice a pravidla. AI následně provede část práce sama a v důležitých okamžicích požádá o potvrzení.
Takový systém může být výrazně efektivnější než dnešní software.
Ale pouze za předpokladu, že budeme přesně vědět, co mu dovolujeme.
Proto možná nejdůležitější otázka budoucnosti nezní, jestli AI dokáže jednat sama.
To už začíná být realitou.
Skutečná otázka zní:
Budeme ještě vědět, proč se rozhodla udělat právě to, co udělala?
A hlavně — budeme ji schopni zastavit, když se rozhodne špatně?
