Vodítko s mašlí: když se sledování zaměstnanců prodává jako péče

Někteří z nich na pódiích nabízejí i AI nástroje pro prevenci vyhoření. Od té doby mi vrtá hlavou, proč se o umělé inteligenci tolik mluví jako o hrozbě pro lidstvo a tak málo jako o vodítku pro zaměstnance.

Příspěvek mi LinkedIn podstrčil koncem října, někde mezi gratulacemi k novým pozicím a reklamou na kurz promptování. Autor měl jasno: éra před AI skončila, kanceláře jsou plné lidí, kteří jen přeposílají e-maily a schvalují už schválené, a kdo se nepřeučí, toho vlak přejede. Pak přišel odstavec, u kterého jsem přestal scrollovat. Až těm lidem vezmou kancelář, status a jistotu výplaty, začnou pít, rozpadnou se jim rodiny a přijde vlna depresí a sebevražd. Za tou větou nebyla lítost ani statistika. Bylo tam emoji se slunečními brýlemi.

Takových textů je na sítích dost a proč se jim tak daří, jsme už rozebrali na AI Founders. Mě zarazilo něco jiného. Když jsem otevřel seznam lajků, našel jsem v něm lidi z HR technologií, kteří během Měsíce AI, kterého jsem se účastnil, mluvili o péči o psychiku zaměstnanců, wellbeingu a prevenci vyhoření.

Autor příspěvku aspoň nepředstírá. Čůrá na hroby a nikoho nepřesvědčuje, že zalévá kytičky. Ti pod ním dělají totéž, jen se u toho usilovně křižují.

Na jedné z těch akcí, věnované budoucnosti práce, jsem seděl začátkem října. Celé odpoledne se mluvilo o rolích, kapacitách a nástrojích. Jen jedna přednáška ukázala tvrdá data a za tu jsem byl mimochodem nejvděčnější. Co mi ale chybělo, byl pohled etický a pohled právní. Nebudu tvrdit, že nezazněly vůbec. Objevily se okrajově, mezi řečí nebo v doplňujících otázkách z publika. Na přednáškách, které jsem viděl, ale nedostaly víc než pár vět. O tom, co celá transformace udělá s „kapacitami“, a o tom, že evropské právo už na tohle téma dávno nemlčí, toho bylo zoufale málo.

Od 2. února 2025 zakazuje AI Act používat na pracovišti umělou inteligenci, která z hlasu nebo výrazu tváře usuzuje, jak se zaměstnanci cítí. Výjimka platí jen pro zdraví a bezpečnost a Evropská komise ve výkladu výslovně dodává, že wellbeing do ní nespadá. Odhalovat tímto způsobem u lidí vyhoření je tedy zakázané. Přesně tím slovem, kterým se takové nástroje prodávají.

Systémy pro nábor, hodnocení a sledování zaměstnanců řadí AI Act mezi vysoce rizikové a od prosince 2027 pro ně budou platit přísná pravidla. Evropský parlament loni v prosinci drtivou většinou chtěl ještě víc: samostatnou směrnici, která by zpracování emočních a psychických stavů zaměstnanců zakázala úplně. Zákonodárci mají v tom, co je dohled, jasněji než marketing. A nejde o budoucnost. Podle Eurofoundu už dnes zažívá nějakou formu algoritmického řízení zhruba každý čtvrtý člověk v práci. O výběru kandidátů prostřednictvím AI nástrojů ani nemluvě. To, že zavádění AI s sebou do jisté míry ponese vlnu propouštění, je dnes už více než jisté.

Marketing tomu říká wellbeing, perfect matching nebo restrukturalizace.

Ekonomové jsou přitom klidnější než LinkedIn. Henderson Institute poradenské firmy BCG letos v dubnu spočítal, že umělá inteligence během pěti let zruší 10 až 15 procent amerických pracovních míst. To není málo, ale ani konec bílých límečků. Mnohem víc míst, zhruba polovinu, AI během dvou až tří let promění. Změní se náplň práce, ne to, jestli práce bude. Na AI Founders jsme report rozebrali podrobně.

Podobně čte data Andrej Karpathy, spoluzakladatel OpenAI. Na svém webu zveřejnil vizualizaci 342 profesí amerického trhu práce podle toho, jak moc jsou vystavené AI. Sám ji označuje za vývojářský nástroj, ne za ekonomickou studii. Upozorňuje ale, že vysoké skóre neznamená zánik profese. Většina takových prací se podle něj přestaví, ne nahradí.

Obě analýzy mají jeden společný předpoklad: že se budeme chovat racionálně. Že firmy budou lidi přeučovat, místo aby je vyhazovaly. Jenže ani v BCG si tím nejsou jistí. Jeden z jejích ředitelů Matthew Kropp označil v rozhovoru pro CBS News bezhlavé propouštění kvůli AI za krok, který škodí společnosti. Kdyby se to nedělo, nemusel by před tím varovat. A podle odhadu Goldman Sachs už dnes AI v USA měsíčně nahradí zhruba 25 tisíc pracovních míst, zatímco posílí jen 9 tisíc.

Jenže racionalita v debatě na sociálních sítích chybí. A nejde jen o lidskou slabost. Vzpomeňte si na Stanfordský vězeňský experiment z roku 1971. Philip Zimbardo v něm rozdělil studenty na dozorce a vězně a dozorci začali své spolužáky ponižovat. Učebnice z toho desítky let vyvozovaly, že v každém z nás dřímá dozorce. Historik Thibault Le Texier ale prošel archivy a zjistil, že dozorce k ponižování navedli sami výzkumníci. Krutost tam nevznikla sama od sebe. Někdo ji navrhl a povzbuzoval.

S propouštěním je to podobné. Když vedení slyší, že AI nahradí lidi, a akcionáři chtějí vidět úspory hned, firmy budou škrtat, i když jim to podle vlastních čísel nevyjde. A ten příspěvek se slunečními brýlemi není výkřik jednoho cynika. Je to dozorce, kterého feed naučil, že za pohrdání dostane dosah. Ekonomický model počítá s racionálním aktérem. Feed, akcionář a dashboard ho ale vychovávají k opaku.

Otázka tedy nezní jen, co AI umí, ale kdo ji drží v ruce. Pět dní po akci o budoucnosti práce o tom mluvil v Praze Yuval Noah Harari. Na konferenci think tanku Solvo neříkal, že nás stroje vyhubí. Popsal, jak dřívější impéria nedokázala soustředit moc do jednoho místa, kdežto umělá inteligence to dokáže. Kdo vlastní algoritmus, který o lidech ví víc než oni sami, má nad nimi moc, jakou dřív nikdo neměl.

Josef Šlerka mluvil na jedné z akcí Měsíce AI v Praze o umělé inteligenci jako o příliš dobré matce, která nás rozmazlí. Chápu, kam míří, a ve škole má nejspíš pravdu. Kdo ale strávil noc vibe debuggingem, ví, že AI zas až tak dobrá matka není. Je to sebevědomý juniorní kolega, který ohlásí hotovo, a je mu úplně jedno, že při posledním bezpečnostním updatu změnil heslo do SQL databáze. Hlavně mi ale přijde, že ta metafora hledá riziko ve vztahu stroje a jednotlivce, zatímco Harari ho hledá ve vztahu moci a lidí. Já mám blíž k Hararimu, jen v menším měřítku. Impérium se nemusí rozkládat přes kontinenty. Vejde se do dashboardu v open spacu.

Ostatně ani v Silicon Valley, kde jsem byl loni v únoru, se lidé, kteří AI staví, nebáli hlavně vzpoury strojů. Častěji mluvili o AI totalitě, bosswaru a nesmyslném propouštění. Tehdy to znělo jako americká starost. Dnes to čtu v českém feedu. I se slunečními brýlemi.

Českému čtenáři, který kalifornské debaty nesleduje, dlužím vysvětlení, jak se tam na AI dívají. Nejsou to akademické školy, spíš názorové kmeny, které spolu vedou války na sociálních sítích i v radách firem.

Efektivní akceleracionisté, zkráceně e/acc, se zformovali kolem roku 2022 na Twitteru kolem pseudonymu Beff Jezos, za kterým se podle Forbesu skrývá fyzik Guillaume Verdon. Jejich manifestem se stal Techno-Optimist Manifesto, který v říjnu 2023 zveřejnil investor Marc Andreessen. Věří, že technologický pokrok je motorem blahobytu, řídit ho má trh a regulace ho jen brzdí. Existenční riziko AI považují za malé.

Doomeři, česky by se dalo říct katastrofisté, jsou jejich zrcadlový obraz. Nejznámější tváří je Eliezer Yudkowsky, který s Natem Soaresem loni vydal knihu s výmluvným názvem If Anyone Builds It, Everyone Dies, tedy Když to někdo postaví, všichni zemřeme. Tvrdí, že superinteligence postavená dnešními metodami lidstvo vyhubí, a chtějí její vývoj zastavit. Mají blízko k hnutí efektivního altruismu a ke komunitě takzvaných racionalistů.

Pragmatici berou AI jako mocnou, ale normální technologii. Nejlépe to vystihli informatici z Princetonu Arvind Narayanan a Sayash Kapoor v eseji AI as Normal Technology z dubna 2025. Umělá inteligence je podle nich obecně použitelná technologie jako elektřina nebo internet, její dopady se budou rozvíjet desítky let a kontrolu nad ní mají mít lidé a instituce. Pragmatika proto méně zajímá, jestli nás jednou vyhubí superinteligence, a víc, co s AI dělají firmy a státy dnes.

A právě tady je bossware nepříjemný. Akceleracionistům připadá jako drobná daň za pokrok, doomerům jako banalita vedle zániku lidstva. Zbývá to na pragmaticích.

Mezi pragmatiky patřím i já . Sám v oblasti AI podnikám a pořádám AI kurzy, mimo jiné i pro lidi, kteří kvůli ní přišli o práci. Firmám pomáhám AI nasazovat a vydělávám na tom. Google AI Overviews mě podle mých článků řadí mezi učebnicové pragmatiky na sto procent. Sám bych řekl osmdesát. Sedmnáct procent je ve mně filosofický doomer, který temné scénáře nebere na lehkou váhu, a tři procenta akceleracionista, ale jen v oblasti zdravotnictví a longevity. Tam ať se zrychluje, co to dá, protože jinak se nám náš zdravotní systém zhroutí na hlavu.

Poctivý kapitalista je aspoň čitelný. Když vám řeknu, že nástroj zavádím kvůli marži, víte, na čem jste, a můžete se bránit. Když vám někdo připne vodítko a řekne, že je to pro vaše dobro, vzal vám z úst i tu obranu. Proti péči se argumentuje špatně.

Jako každého podnikatele mě motivuje zisk. Jen vnímám rozdíl mezi tím, co je optimalizovatelné díky technologii, a tím, co má zůstat lidské. Je to plot mezi tím, kam umělá inteligence patří, a tím, co má zůstat lidské: jak se člověk cítí, proč se mu zrovna nedaří, jestli ještě patří do týmu. Venku ať si AI počítá, třídí a zrychluje, co chce. Uvnitř plotu se o lidech nerozhoduje za jejich zády.

Na příští akci o AI a práci bych rád slyšel jedinou přednášku navíc. O tom, kudy ten plot vede.