Článek
Umělá inteligence si nevymyslela básničku ani školní sloh. Vymyslela soudní rozsudky.
A právník je podepsal.
Na tom by sama o sobě stála docela dobrá historka o tom, jak nebezpečně sebevědomě dnes dokáže AI lhát. Jenže tahle historka má ještě lepší pokračování. Když se tentýž právník později chtěl zapojit do citlivé kauzy proti Harvardu, soudce mu řekl ne.
Ne proto, že použil umělou inteligenci. Ale proto, že podle soudu nedokázal ukázat, že chápe jednoduchou věc: za dokument podaný k soudu odpovídá člověk, ne program.
Harvard, márnice a soudní spor
Příběh se odehrává na pozadí dost temné kauzy kolem Harvard Medical School. Rodiny dárců těl žalují Harvard kvůli skandálu s částmi lidských ostatků, které měly být kradeny a prodávány. Bývalý manažer harvardské márnice Cedric Lodge byl v souvislosti s kauzou odsouzen k osmi letům vězení. Harvard jeho jednání odsoudil, ale v civilních žalobách odpovědnost odmítá.
Do tohoto sporu se chtěl zapojit právník T. Michael Morgan z velké americké kanceláře Morgan & Morgan. Jenže soudce Kenneth Salinger z Massachusetts Superior Court jeho žádost 18. května 2026 zamítl.
A důvod je pro dobu umělé inteligence skoro učebnicový.
Rozsudky, které neexistovaly
Morgan měl za sebou starší problém z Wyomingu. V jiné kauze, tentokrát proti Walmartu, se v soudním podání objevily citace rozsudků, které nikdy neexistovaly. Podle soudu je vytvořil interní AI nástroj právní kanceláře Morgan & Morgan.
V dokumentu bylo devět citovaných případů. Osm z nich bylo falešných.
To není drobný překlep. To je jako kdyby advokát přišel k soudu a opřel argumentaci o knihy, které nikdy nikdo nenapsal.
Soud ve Wyomingu tehdy právníky pokutoval. Morgan dostal pokutu 1 000 dolarů. Podstatné ale není číslo. Podstatné je sdělení: právník má povinnost ověřit, že to, co podepisuje, je skutečné.
A právě to ho doběhlo v kauze Harvardu.
„Já to nepsal“ nestačí
Morgan podle rozhodnutí nebyl tím, kdo původní text připravoval. Návrhy měl sepsat jeho kolega s pomocí interní AI platformy. Jenže Morgan se pod nimi objevil jako podepsaný právník.
Soudce v Massachusetts to vzal jednoduše. Starší právníci odpovídají za práci svých týmů. Pokud podají soudu dokument, mají vědět, co v něm je.
To je možná staromódní pravidlo. Ale právě v době AI je důležitější než kdy dřív.
Protože jinak bychom si mohli otevřít krásnou alibistickou budoucnost. Právník pošle vymyšlené rozsudky a řekne: „To ne já, to AI.“ Úředník vydá špatné rozhodnutí a řekne: „To doporučil systém.“ Novinář publikuje neexistující zdroj a řekne: „To našel chatbot.“
Jenže takhle odpovědnost fungovat nemůže.
Problém není AI. Problém je víra v její sebevědomí
Generativní AI je zrádná hlavně tím, že se často nemýlí pokorně. Ona si nevymyslí nesmysl a nepřidá k němu červený vykřičník.
Naopak. Napíše ho plynule, odborně, klidně i s citací. Vypadá to dobře. Má to správný tón. Člověk, který spěchá, může snadno podlehnout dojmu, že když něco zní právnicky, bude to asi právo.
Jenže soudní rozsudek buď existuje, nebo neexistuje.
A tady osm neexistovalo.
Soudce Salinger navíc Morganovi vytkl, že v nové žádosti neukázal, jak se z předchozí aféry poučil. Neuvedl konkrétní kroky, které by měly zabránit tomu, aby se podobná chyba opakovala. A aby toho nebylo málo, podle soudu udělal chyby i při samotné žádosti v Massachusetts — mimo jiné ji nepodal správným způsobem a doložil nesprávný poplatek.
Výsledek? Soud mu nevěřil natolik, aby ho do kauzy pustil.
Malá kauza s velkým varováním
Na první pohled je to americká právní historka. Harvard, márnice, advokáti, procesní pravidla.
Ve skutečnosti je to ale varování pro všechny, kdo dnes AI používají v odborné práci. A to jsme, přiznejme si, čím dál častěji skoro všichni.
AI může pomoct. Může zrychlit rešerši, navrhnout strukturu, shrnout dokument, najít souvislosti. Ale nesmí se z ní stát náhradní svědomí ani náhradní odpovědnost.
Protože když si AI něco vymyslí, je to technická chyba.
Když to člověk bez kontroly podepíše, je to lidské selhání.
A právě v tom je celý případ právníka, kterého soud nepustil do kauzy Harvardu, tak zajímavý. Nejde jen o to, že umělá inteligence halucinovala. To dnes nikoho, kdo s ní pracuje, zase tolik nepřekvapí.
Důležitější je, že soud řekl: výmluva na AI nestačí.
Rozsudek si může vymyslet stroj.
Ale podpis pod něj dá pořád člověk.
Zdroje:
Reuters: Lawyer barred from Harvard morgue scandal case over fake AI citations
Rozhodnutí Massachusetts Superior Court ze dne 18. května 2026 ve věci Wilder v. President & Fellows of Harvard College
Reuters: Lawyers in Walmart lawsuit admit AI ‚hallucinated‘ case citations
Reuters: Judge fines lawyers in Walmart lawsuit over fake, AI-generated cases
