Článek
Každý z nás tuší, že i tak propracované systémy, jako jsou softwary moderních počítačů, mohou někdy selhat. Technické parametry počítačů před přelomem tisíciletí pochopitelně ani zdaleka nedosahovaly dnešních standardů a fatálních selhání se dopouštěly s vyšší frekvencí, než na kterou jsme zvyklí dnes. Chybné vyhodnocení sofwaru poslalo raketu Mariner 1 místo na Venuši někam úplně jinam, způsobilo krach na newyorské burze a během studené války poslalo Sovětům falešnou zprávu o tom, že na Moskvu míří americké hlavice.
Všechny tyto omyly stály lidské vývojáře miliony a miliardy. K zdaleka nejhorším chybám počítačových systémů ale patří ty, které si místo peněz vyžádaly lidské životy. Mezi zařízeními, z nichž splašený software nedopatřením udělal smrtonosné pasti, se zvlášť vyjímá kanadský přístroj Therac-25, který se jako varovný příklad dodnes objevuje v učebnicích medicínské informatiky.
Stroj, který zachraňuje životy
Therac-25 byl do provozu uveden roku 1983. Nejde o zařízení, které by kdokoliv z nás toužil zažít na vlastní kůži: používal se při radioterapii, která je dodnes funkčním nástrojem při léčbě některých typů rakoviny. Therac-25 měl rozměry malé místnosti a fungoval na podobném principu, jako urychlovač částic s člověkem coby cílem: pomocí rentgenových paprsků nebo paprsků elektronů zabíjel rakovinnou tkáň, mnohdy ukrytou hluboko v těle.
Snímek před začátkem radioterapie. V době ošetření je v místnosti pouze pacient (2007)
Už v počátcích moderní fototerapie se vědělo, že rentgenové paprsky nepřinášejí člověku jen užitek, ale že stejně, jako likvidují rakovinné buňky, dokážou zlikvidovat i zdravou tkáň. Radioterapie se dávkuje tak, aby benefity převažovaly nad ztrátami. Téměř dva roky fungoval Therac-25 dle očekávání a za tu dobu obsloužil několik tisíc pacientů s rakovinou; řadě z nich zachránil život. V letech 1985 a 1986 ale došlo k několika incidentům, které mělo pro pacienty fatální důsledky. Mezi nimi byl i muž jménem Voyne Ray Cox.
Rutinní procedura skončila katastrofou
Voyne Ray Cox oslavil v roce 1986 třiatřicáté narozeniny. Jeho rodina a přátelé, kterých měl nespočet, mu neřekli jinak než „Ray“. Ray pocházel z Texasu, pracoval jako těžař v ropném poli a vedl klidný a spokojený rodinný život, dokud si nevšiml podivné bulky, která mu vyrostla v horní části zad mezi páteří a ramenem. Nejprve ji považoval za absces a nevěnoval jí zvláštní pozornost, bulka se ale zlověstně zvětšovala a lékaři Rayovi následně sdělili, že jde o zhoubný nádor. Měl rakovinu. Když mu onkolog vysvětloval, co bude obnášet jeho léčba, Ray se otřásl předtuchou nevyhnutelného konce a děsem z bolestivé procedury. Strach však netrval dlouho - byl to zdravý, silný muž a byl zvyklý na to, že když chce v životě něčeho dosáhnout, bude ho to stát pot a slzy. Proč by zrovna on neměl rakovinu přežít?
Optimistické nastavení mysli Raye provázelo celým léčebným procesem. 21. března 1986 se zdálo, že nad zákeřným nepřítelem vyhrál. Po odstranění nádoru ze zad nastoupil na radioterapii a toho dne ho čekalo už deváté ozařování radiovými vlnami na tehdy moderním přístroji Therac-25. Rakovina byla na ústupu, Ray se uzdravoval a těšil se na to, že dostane zpět svůj život. Když osudného dne dorazil do Centra pro léčbu rakoviny v texaském městě Tyler, ujala se ho radiologická asistentka Mary Beth, profesionálka, která na přístroji za dva roky jeho provozu v centru ošetřila několik set pacientů. Ray se s Mary Beth přátelsky pozdravil a začal se svlékat. Jako vždy ulehl na břicho na stůl a čekal, až za asistentkou zaklapnou dveře. Nemusela u něj být - možnost ovládání na dálku byla klíčovou a převratnou vlastností Theracu-25. Ray se nebál: radioterapie pro něj už byla jen rutina.
Stabilizační maska používaná při dnešní radioterapii (2019)
Ošetřovna byla videokamerou a interkomem propojena s počítačovou konzolí v místnosti, odkud asistentka přístroj ovládala. Toho dne však byl interkom rozbitý a videomonitoring byl odpojen. Asistentka zadala do konzole údaje o předepsané dávce radiace a téměř okamžitě si všimla, že udělala chybu - místo zadání pokynu „e“, které se používalo pro elektrony, zadala „x“, což bylo označení rentgenových paprsků. Přejela kurzorem po obrazovce a změnila příkaz „x“ na „e“, jak měl předepsáno Ray. Znovu zkontrolovala, že je vše nastaveno správně, a spustila terapii. Překvapilo ji, že se stroj na okamžik zastavil a na obrazovce se objevila hláška „Porucha 54“, která nebyla zmíněna ani v uživatelské příručce. Therac-25 ale vydával přibližně 4 chybové zprávy denně, a tak ji záhadná zpráva nepřiměla terapii ukončit.
Ray mezitím na ošetřovně utržil šok. Ucítil, jak ho něco přirazilo ke stolu, a po zádech se mu rozlilo mravenčení a podivné teplo. Byl zvyklý, že terapie je zcela bezbolestná, a věděl, že tohle se nemělo stát. Pokusil se vstát, ale kvůli vadě videokamery a interkomu o tom nikdo nevěděl. Technička zvyklá na chybovost softwaru zmáčkla na počítači klávesu „P“, což znamenalo „pokračovat“(rutinní postup pro řešení těchto chybových hlášek), a další rádiová vlna zatlačila Raye zpátky do stolu. Procedura skončila až tehdy, když se mu podařilo doklopýtat ke dveřím ošetřovny a zabouchat na dveře.
Věděli, že přístroj může ublížit
Ray měl předepsánu dávku o síle 180 radů. Místo ní obdržel během terapie dávku odpovídající maximální kapacitě přístroje, která čítala asi 18 tisíc radů - to je více, než kolik zasáhlo likvidátory škod po havárii jaderné elektrárny Černobyl. Ray byl lékaři propuštěn domů s ujištěním, že předávkování nemůže způsobit žádné zdravotní komplikace a že ani z dřívějších nehod nejsou evidovány žádné negativní dopady na zdraví pacienta. Ray odešel domů, ale za pět týdnů se do nemocnice vrátil. Plival krev. Postupně mu ochrnula levá ruka, obě nohy, levá hlasivka a bránice. V krutých bolestech zemřel pět měsíců po nehodě.
Těžko říct, jestli se Ray někdy dozvěděl, že se lékaři nespletli, ale lhali. O předchozích incidentech dobře věděli a věděli o nich i inženýři ze společnosti Atomic Energy of Canada Limited, kteří ho uvedli do provozu, na stížnosti ale téměř nereagovali. Už v roce 1985 byly evidovány tři případy nadměrného ozáření v důsledku selhání softwaru Theracu-25; žádný z těchto pacientů na následky nehody nezemřel, všichni si ale odnesli trvalé poškození. V dubnu 1986 však v důsledku selhání stejného kusu, který zabil Raye, podlehl nadměrnému ozáření pacient léčící se s rakovinou ucha. Uslyšel prý sykot, jako když se smaží vajíčka, a měl pocit, jako by mu hořel obličej. Zemřel tři týdny po terapii. Po poslední smrtelné nehodě z roku 1987 byl přístroj Therac-25 stažen.
Každý počítačem řízený přístroj má nějakou toleranci chyb. Chybovost při používání stolního počítače má ale jiné důsledky, než chybovost přístroje, který uvolňuje do těla pacientů rentgenové paprsky. Selhání zařízení s názvem Therac-25 je považováno za extrémní případ, ve kterém přílišné sebevědomí inženýrů při počátečním vývoji a nebraní ohledu na tvrzení koncových uživatelů vedlo k drastickým následkům.
ZDROJE:
Casey, Steven: „Set Phasers on Stun and Other True Tales of Design, Technology and Human Error“ (1993). e-kniha. ISBN 0-9639178-7-7 (hc). Čteno 18.1.2024
Fabio, Adam: „Killed By A Machine: The Therac-25“ (26.10.2015). hackaday.com. Čteno 18.1.2024
Wayde Rose, Barbara: „Fatal Dose“ (červen 1994). ccnr.org. Čteno 18.1.2024
„Set Phasers On Stun“ Review: Set Phasers On Stun (5.9.2006). Livejournal.com. Čteno 18.1.2024
