AI revoluce v dohledné době nebude. Aneb proč Vám AI nebude dělat šéfa

O umělé inteligenci se dnes mluví tak, jako kdybychom stáli těsně před koncem lidské práce. Za chvíli prý nebude potřeba právník, účetní, personalista, analytik, úředník, novinář, manažer ani kdokoliv, kdo sedí u počítače a neživí se rukama. AI všechno přečte, vyhodnotí, napíše, rozhodne a člověk bude možná maximálně dohlížet, jestli se stroj dobře vyspal.

Myslím, že tohle je z velké části marketingová mlha. Ne proto, že by AI nebyla užitečná. Je užitečná velmi. Umí zrychlit rešerši, navrhnout text, shrnout dokument, najít chyby, pomoct s analýzou, srovnat data nebo připravit první verzi něčeho, nad čím by člověk jinak strávil hodiny. Kdo tvrdí, že AI nic nemění, ten podle mě zavírá oči.

Jenže zrychlit práci není totéž jako převzít odpovědnost za práci. A právě tady podle mě končí velká část řečí o revoluci.

Práce totiž není jen výkon. Práce je také odpovědnost za výsledek. Když právník pokazí smlouvu, klient ví, za kým jít. Když lékař udělá chybu, řeší se odpovědnost zdravotnického zařízení, pojištění, odborný postup. Když účetní špatně spočítá daň, někdo musí vysvětlit, proč se to stalo. Když manažer rozhodne špatně, firma může řešit škodu, interní odpovědnost, pojištění, někdy i osobní následky. Není to vždy jednoduché, spravedlivé ani rychlé, ale existuje alespoň základní odpovědnostní řetězec.

U AI je tenhle řetězec mnohem méně sexy než říkají marketingové prezentace. Vývojáři mluví o svých AI modelech jako o superinteligenci chytřejší než člověk. Ale dosud nikdo z nich ani neuvažoval, že za její výstupy převezme odpověnost.

Ba právě naopak - člověk se musí prvně prokousat všemožnými varováními, že AI poskytovatel nenese odpovědnost a za nic neručí.

Představme si firmu, která svěří umělé inteligenci důležitou část rozhodování. AI bude třídit životopisy, hodnotit zaměstnance, navrhovat, komu schválit úvěr, komu dát výpověď, jakou smlouvu podepsat, co říct zákazníkovi, zda uznat reklamaci nebo jak vyhodnotit zdravotní dokumentaci.

Dokud všechno běží dobře, bude to vypadat skvěle. Firma ušetří čas, peníze, lidi a v prezentaci investorům si napíše, že je moderní, digitální a „AI-first“. Pak ale přijde chyba. AI odmítne vhodného kandidáta kvůli vadnému vzorci v datech. Doporučí špatný právní postup. Vytvoří smlouvu s drahou chybou. Vyhodnotí klienta jako rizikového, ačkoli neměla. Nebo naopak pustí něco, co mělo být zastaveno.

A v tu chvíli se ukáže jednoduchý problém: AI nepřijde k soudu, nevytáhne peněženku, nezaplatí náhradu škody, nepřijde o licenci, nedostane výpověď a nebude mít zkaženou profesní pověst. AI není osoba v právním smyslu. Nemá majetek, svědomí, pojištění ani profesní komoru. Nemůžete ji posadit na židli a říct: „Tak teď vysvětlete, proč jste klientovi způsobila škodu za tři miliony.“

Někdo namítne, že za chybu může odpovídat výrobce, poskytovatel nebo firma, která AI nasadila. Ano, a přesně to je pointa. Odpovědnost se stejně vrací k lidem a právnickým osobám kolem systému. Ne k umělé inteligenci samotné.

Jak jsem však vysvětlil výše - od okamžiku, kdy se někdo odhodlá skutečně převzít za výstupy AI odpovědnost, jsme ještě bolestně daleko.

Na AI je zajímavý rozpor mezi tím, jak se prodává, a tím, jak se reguluje. Marketing často mluví jazykem autonomie. AI rozhodne, AI vyřeší, AI nahradí, AI povede, AI bude váš nový zaměstnanec, asistent, analytik nebo manažer.

Právo je mnohem střízlivější. Evropský AI Act nestaví umělou inteligenci na úroveň nového elektronického občana. Neříká, že AI bude odpovědná osoba. Naopak pracuje s tím, že povinnosti mají poskytovatelé, zavádějící subjekty, provozovatelé a další lidé či firmy kolem systému. U vysoce rizikových AI systémů se řeší řízení rizik, kvalita dat, dokumentace, transparentnost, robustnost, kyberbezpečnost a lidský dohled.

To je docela výmluvné. Kdybychom opravdu věřili, že AI může samostatně převzít klíčové lidské role, nepotřebovali bychom kolem ní tolik lidské odpovědnosti, dokumentace a dozoru. Jenže zákonodárce zjevně chápe, že čím závažnější dopad může systém mít, tím víc potřebujeme vědět, kdo ho vytvořil, kdo ho nasadil, kdo mu rozumí, kdo ho hlídá a kdo odpoví, když něco selže.

Jinými slovy: reklama říká „nechte rozhodovat AI“. Právo se ptá „který člověk nebo firma za to ponese následky?“

A to není technický detail. To je podstata problému. Pokud mluvíme o tom, že AI nahradí většinu profesí, pak může způsobit právní problémy za miliardy (jako AI právník), zničit zdraví lidí (jako AI doktor) nebo položit na kolena celé firmy (jako AI manažer).

Kladivo může postavit dům nebo někoho zranit jako středověká zbraň. Auto může zachránit čas nebo způsobit nehodu. Software může zjednodušit práci nebo zničit data. U všech těchto věcí jsme si zvykli rozlišovat mezi nástrojem a odpovědným člověkem.

U AI se na to někdy zapomíná, protože působí jako partner v rozhovoru. Odpovídá, vysvětluje, omlouvá se, navrhuje, opravuje, někdy dokonce působí přesvědčivěji než člověk. Jenže právně ani společensky nestačí, že systém umí hezky mluvit. Rozhodující je, zda může nést následky svého rozhodnutí.

A tady je podle mě hranice, kterou žádné demo na konferenci neodstraní. Můžeme mít lepší modely, rychlejší modely, přesnější modely, modely napojené na firemní data, modely s pamětí, modely s hlasem, modely v kanceláři, autě i telefonu. Ale pokud udělají chybu, stále budeme hledat člověka nebo firmu, kteří za jejich použití odpovídají.

To neznamená, že AI nebude důležitá. Bude. Jen nebude tak snadno samostatným náhradníkem za odpovědné profese, jak se dnes rádo tvrdí. V mnoha oborech bude spíš velmi silným nástrojem v rukou člověka, který musí vědět, kdy mu věřit, kdy ho zkontrolovat a kdy ho vypnout.

Myslím, že skutečný test AI revoluce nepřijde ve chvíli, kdy systém poprvé napíše hezký e-mail nebo složí zkoušku z práva. Přijde ve chvíli, kdy automatizované rozhodnutí způsobí velkou škodu a poškozený se začne ptát, kdo za to zaplatí.

Firma se možná bude bránit, že jen použila běžný nástroj. Dodavatel řekne, že systém byl nasazen mimo doporučený účel. Vývojář řekne, že model negarantuje stoprocentní výstupy. Manažer řekne, že rozhodnutí jen vycházelo z doporučení. Zaměstnanec řekne, že mu firma nařídila AI používat. A poškozený člověk bude stát uprostřed a poslouchat, jak si všichni přehazují odpovědnost jako horký brambor.

Evropa se to snaží řešit. AI Act nastavuje pravidla pro rizikové systémy. Nová pravidla produktové odpovědnosti výslovně počítají se softwarem a AI systémy. To je důležité a správné. Jenže pořád to neznamená, že odpovědnost ponese AI. Znamená to, že se budeme snažit najít odpovědný subjekt v lidském a firemním světě kolem AI.

A to je přesně důvod, proč bych byl opatrný s tvrzením, že AI prostě nahradí celé profese. U některých dílčích činností možná časem ano. U rutinní práce ano. U prvních verzí textů, rešerší, shrnutí, třídění a návrhů často ano. Ale u rolí, kde nejde jen o výstup, nýbrž i o odpovědnost, to bude mnohem složitější.

Možná nakonec nebude hlavní otázka znít, zda AI nahradí člověka. Možná bude znít, který člověk bude nově odpovídat za práci, kterou AI připravila.

Právník možná nebude psát každou první verzi smlouvy ručně. Ale bude muset vědět, zda je správná. Lékař možná dostane rychlejší analýzu dat. Ale bude muset rozhodnout, co s pacientem. Personalista možná použije nástroj na třídění životopisů. Ale firma ponese odpovědnost, pokud nástroj bude diskriminovat. Manažer možná dostane doporučení z dat. Ale rozhodnutí pořád podepíše on nebo společnost, kterou zastupuje.

Tohle není maličkost. Je to možná nejdůležitější praktický limit celé AI horečky. Lidé totiž nechodí do práce jen proto, aby produkovali texty, tabulky a rozhodnutí. Chodí tam také proto, aby někdo nesl odpovědnost za to, že ty texty, tabulky a rozhodnutí dávají smysl.

A dokud AI neumí odpovídat za škodu, dokud ji nelze žalovat jako skutečný subjekt, dokud nemá majetek, licenci, pojištění, pověst a právní existenci, zůstane v mnoha klíčových rolích spíš nástrojem než náhradou člověka.

Silným nástrojem. Někdy převratným nástrojem. Ale pořád nástrojem.

Nechci tvrdit, že AI je bublina bez významu. To by byl nesmysl. AI už dnes mění způsob práce a bude ho měnit dál. Mnoho lidí bude muset pracovat jinak. Některá místa zmizí. Jiná se promění. Některé firmy opravdu ušetří spoustu času i peněz.

Ale nevěřím na jednoduchou pohádku, že AI za chvíli sama převezme svět práce a lidé budou jen překážet. V reálném světě totiž nestačí něco spočítat, sepsat nebo doporučit. V reálném světě se také musí vědět, kdo za výsledek ručí.

A právě tady se ukazuje rozdíl mezi technologickým nadšením a právní realitou. Marketing miluje větu, že AI bude rozhodovat sama. Právo tu větu slyší a okamžitě se ptá: dobře, a kdo zaplatí škodu, až se rozhodne špatně?

Dokud na tu otázku nebude existovat přesvědčivá odpověď, nebude AI plnohodnotnou náhradou odpovědného člověka. Bude jen dalším nástrojem, za který nakonec zase někdo lidský ponese odpovědnost.

A to je možná méně futuristické než sliby o revoluci. Ale o dost blíž skutečnému světu.