Stroj na neodpovědnost, část 1: Černé díry na odpovědnost

V roce 1954 odstoupil Sir Thomas Dugdale z britské vlády kvůli tomu, co se později stalo známým jako „aféra Crichel Down“ (poměrně drobné pochybení týkající se zemědělské půdy, která byla zabrána během druhé světové války). Nebylo jasné, zda se na rozhodnutí skutečně podílel, ale v tehdejším klimatu byla jeho pozice neudržitelná – jako ministr odpovědný za danou oblast nesl odpovědnost za to, co se stalo. Tento malý, ale čestný čin zajistil, že Dugdaleovo jméno bude žít dál navěky; on i malá oblast v hrabství Dorset, která vedla k jeho pádu, jsou zmiňováni pokaždé, když se moderní britský politik vyhýbá odpovědnosti.

Na druhé straně Atlantiku měl prezident Harry S. Truman v roce 1953 na svém stole ceduli „The Buck Stops Here“ (pozn. překladatele: tento idiom nemá v češtině ekvivalent, ale volně přeloženo to znamená něco ve smyslu: horký brambor končí tady). O šestašedesát let později prezident Donald Trump poznamenal, že „the buck stops with everybody“ (odpovědnost je na všech), když byl dotázán, kdo nese odpovědnost za uzavření vlády.

Je důležité si ujasnit, co přesně jsou černé díry na odpovědnost a jak se vytváří. Nejde jen o to, že pracovní síla placená hodinově funguje jako lidský štít. Aby byla černá díra účinná, je třeba kombinace dvou aspektů: daný člověk a zároveň směrnice, která znemožňuje odvolání se k vyššímu vedení (i kdyby se vám povedlo získat číslo na generálního ředitele, narazili byste na to, že směrnice mu zakazuje rozhodnout v této věci osobně).

Klíčovým mechanismem je delegování rozhodnutí na směrnici, čímž se z procesu odstraňuje lidský prvek a přerušuje se vazba nutná pro smysluplnou odpovědnost. Z tohoto by dokonce bylo možné formulovat jakýsi princip:

Základní zákon odpovědnosti: Míra, v jaké jste schopni změnit rozhodnutí, je přesně měrou, v jaké za něj můžete nést odpovědnost, a obráceně.

Konstrukce černých děr na odpovědnost má dopad na tok informací. Aby díra fungovala, musí jej přerušit; musí zabránit tomu, aby zpětná vazba osoby dotčené rozhodnutím ovlivnila fungování systému. Rozhodnutí musí být plně určeno směrnicí, což znamená, že nemůže být změněno žádnou informací, která nebyla předem předpokládána. Pokud někdo může černou díru obejít a změnit směrnici, která vede k nějakému absurdnímu nebo nehezkému výsledku, pak je tento člověk za něj potenciálně odpovědný.

Rozhodne-li se organizace vytvořit černou díru na odpovědnost, podstupuje tím riziko. Každé pravidlo je implicitně modelem světa – podobně jako model vyjadřuje vztah mezi příčinami a následky. Protože však nemůže zachytit celý svět, musí zjednodušovat a vycházet z předpokladů o typech situací, které mohou nastat. Například nápis „PERSONÁL NEMÁ PŘÍSTUP DO TREZORU“ implikuje představu o situaci, kdy by někdo mohl požadovat jeho otevření. Naproti tomu nápis „ŽÁDNÉ VRACENÍ PENĚZ – BEZ VÝJIMEK“ předpokládá, že nikdy nenastane situace, kdy by zákazník měl na vrácení peněz za koupené zboží oprávněný nárok.

Když nastane nepředvídaná situace – ať už proto, že se stalo něco neobvyklého, nebo proto, že systém byl špatně navržen – vzniká nesoulad mezi vstupem, který systém očekával, a tím, co skutečně nastalo. A protože byl systém navržen jako černá díra na odpovědnost, může být výsledkem něco absurdního nebo odpudivého. Podívejme se třeba na příbeh aerolinek a několika stovek chlupáčů.

V 90. letech bývali sysli oblíbenými domácími mazlíčky, ale jejich popularita náhle skončila po incidentu na letišti Schiphol u Amsterdamu. V dubnu 1999 dorazila zásilka 440 těchto zvířat letem KLM z Pekingu bez potřebných dovozních dokumentů. Kvůli tomu nemohla být zásilka doručena zákazníkovi v Aténách. Zároveň ji však nebylo možné ani poslat zpět. Otázka zněla: co s nimi?

Zdá se téměř neuvěřitelné, že by neexistovalo lepší řešení než to, které bylo nakonec zvoleno. S vidinou lopoty, kterou by představovalo vyřízení potřebných papírů, vhodil personál letiště všechny sysly do průmyslového drtiče, s výjimkou několika jedinců, kterým se podařilo uniknout. Později vyšlo najevo, že toto zařízení bylo původně určeno k likvidaci nepotřebných kuřat v drůbežářství. Ještě před zveřejněním případu bylo podobným způsobem zlikvidováno dalších 200 syslů, desítky želv a menší hejno papoušků.

Ukázalo se, že příkaz k usmrcení zvířat vydalo nizozemské ministerstvo zemědělství. S vědomím dalšího vývoje společnost KLM později uvedla, že tento příkaz byl „neetický“. Zaměstnanci sice jednali „formálně správně“, protože postupovali podle instrukcí, nicméně šlo o „chybu úsudku“. Vedení společnosti vyjádřilo k celé situaci upřímnou lítost.

Co se tedy pokazilo – a kdo byl odpovědný? Odpověď na první otázku je snazší než na tu druhou. Společnost KLM nastavila systém, v němž byla rozhodnutí o zvířatech s nesprávnou dovozní dokumentací ponechána na někom na ministerstvu zemědělství. Tím všichni zúčastnění fakticky přijali, že určitá nízká základní míra likvidace zvířat je tolerovatelná – i proto byl pořízen drtič drůbeže. Pokud lze zpětně rekonstruovat uvažování, předpokládalo se, že k usmrcování živých tvorů bude docházet jen výjimečně a bude sloužit spíše jako nástroj k odstrašení, který má lidi motivovat k pečlivosti při vyřizování dokumentů, než jako k něčemu, co by se skutečně dělo ve stovkách případů u výrazně větších savců, než jsou čerstvě vylíhlá kuřata, pro něž byl drtič původně určen.

Označení rozhodnutí zaměstnanců jako „chyba úsudku“ je však všeříkající; zpětně vzato byla jedinou pojistkou v systému vágní představa, že lidé pověření likvidací zvířat by se mohli rozhodnout neposlechnout přímé pokyny, pokud by důsledky jejich dodržení působily dostatečně zrůdně. Je však otázkou, zda jim vůbec někdy bylo sděleno, že by měli své instrukce přehodnocovat z etických důvodů; lidé pracující v provozních halách obvykle nedostávají pravomoc přehlasovat vládu. V každém případě není ani psychologicky věrohodné, ani manažersky realistické očekávat, že někdo bude v 99% případů poslouchat příkazy a ve stém náhle jednat zcela samostatně.

Na druhé straně byli úředníci ministerstva zemědělství značně vzdáleni pracovníkům, kteří museli jejich pokyny vykonávat. Nesli odpovědnost za ochranu biologické bezpečnosti Nizozemska a za uplatňování příslušných evropských předpisů, které vyžadovaly zdravotní kontrolu dovážených syslů. Směrnice stanovující, že „komerční dovoz domácích zvířat musí být doložen veterinární dokumentací, jinak budou zvířata vrácena do přístavu původu, nebo utracena na náklady dovozce“, působí sama o sobě rozumně a pokrývá naprostou většinu případů. Jakmile je však taková směrnice zavedena, každé jednotlivé rozhodnutí o likvidaci zvířecí zásilky se redukuje na pouhé dodržení této směrnice.

To je ostatně smyslem vytváření směrnic – snížit množství času a úsilí vynakládaného na rozhodování v jednotlivých konkrétních případech. Zároveň je to však i kořen tohoto typu problémů. Jakmile nastavíte obecnou směrnici, musíte buď zabudovat mechanismus pro udělování výjimek (a zajistit, že se skutečně používá), nebo si být jisti, že všechny důsledky jejího uplatňování budou přijatelné. V případě směrnice týkající se dovozu hlodavců tomu tak nebylo; incident na Schipholu vedl k mimořádné debatě v nizozemském parlamentu. Vrcholové vedení KLM bylo ve skutečnosti natolik zděšeno, že během několika měsíců letecká společnost zavedla novou směrnici odmítající přepravu jakýchkoli exotických zvířat – zatímco letiště Schiphol se ocitlo na pokraji ztráty certifikace jako dovozního centra, protože společnost provozující tamní „zvířecí hotel“ zkrachovala.

Přestože je celý případ podán s poněkud černým humorem, kauza se sysly u KLM ilustruje několik potenciálně důležitých aspektů základní reality řízení a práce s informacemi. Rozhodnutí bez skutečného „vlastníka“ vzniklo jako výsledek procesu. Tento proces fungoval dobře, dokud se neobjevilo něco nepředvídaného (móda chovu syslů jako domácích mazlíčků), načež začal produkovat katastrofální výsledky. Neexistoval účinný způsob, jak by se informace mohla vracet zpět k těm, kdo měli možnost změnit směrnici, takže rozhodnutí se postupně zhoršovala. A pak, když došlo k něčemu natolik pobuřujícímu, že to už nešlo udržet mimo novinové titulky, nebyl nikdo, koho by bylo možné obvinit.

Tato vlastnost, že „není koho obvinit“, je definicí toho, co tvoří černou díru na odpovědnost. Není přitom zřejmé, co měla společnost KLM udělat, když čelila zásilce čtyř set syslů od chovatele, který odmítl dodržet dovozní předpisy. Nejlepším řešením by bylo odmítnout zásilku už v Pekingu naložit, jenže letadlo už bylo na cestě. Tragicky vzato mohlo být rozhodnutí zvířata utratit a nést následné veřejné pohoršení dokonce správné. Přesto by pro manažery odpovědné za tvorbu směrnic bylo psychologicky mnohem hůře snesitelné učinit konkrétní rozhodnutí o usmrcení syslů než jednoduše vytvořit systém, který zajistí, že budou rozemleti, pokud nějaký níže postavený pracovník neporuší konkrétní příkaz. V jistém smyslu lze katastrofu typu „schipholských syslů“ chápat jako naplnění jedné z funkcí tohoto mechanismu směrnic – fungování podobné deformační zóně automobilu, která chrání jednotlivé manažery před následky rozhodnutí s katastrofálními důsledky.

Existuje celá řada důvodů, proč lidé vytvářejí černé díry na odpovědnost. Ten nejzákladnější spočívá v tom, že nést odpovědnost je nepříjemné. Hlavní „privilegium“ manažera by přece mělo spočívat v tom, že má status manažera, a nikoli někoho, kdo je řízen. To, že jsou jeho rozhodnutí zpochybňována a že je na něj vyvíjen tlak, aby je měnil – což je, pokud platí výše uvedený základní zákon, samotná podstata odpovědnosti – je ponižující a nepříjemné. Kromě toho v rozsáhlých organizacích může být typ konfliktu, který je implicitně přítomen v systému, kde jednotlivci činí rozhodnutí, potenciálně destruktivní pro důvěru a mezilidské vztahy.

Černá díra na odpovědnost neslouží jen k rozptýlení frustrace a žárlivosti – pokud je správně použita, může také chránit organizace před právní odpovědností a podobnými riziky.

Název: The Unaccountability Machine: Why Big Systems Make Terrible Decisions–And How the World Lost Its Mind

Autor: Dan Davies

Vydavatel: University of Chicago Press, 2025

ISBN 0226843084, 9780226843087