Článek
Umělá inteligence se stala běžnou součástí odborné praxe. Zároveň ale platí doporučení: běžný uživatel by jí neměl bezvýhradně věřit. Takže odborník se na ni může spolehnout, ale veřejnost ne?! To zní jako naprostý rozpor…
Algoritmy pro čtení rentgenů a CT snímků dosahují v některých úlohách srovnatelné úspěšnosti s radiology. Lékař ale výsledek interpretuje v klinickém kontextu. Laik, který použije veřejný chatbot pro vlastní diagnózu, dostává text vytvořený z pravděpodobností bez ověření. Odborník rozumí limitům modelu. Pacient ne.
AI třídí spisy a vyhledává judikaturu. Advokát však pozná (nebo by měl poznat!), kdy je precedent použitelný a kdy zavádějící. Laik, který nechá model „napsat smlouvu“, nerozpozná právní nuance. AI neumí sama odlišit podobnost formulace od platnosti argumentu.
Banky používají AI pro odhalování podvodů v reálném čase. Modely pouze označí riziko. Finální rozhodnutí dělá analytik. Pokud se ale laik ptá veřejného modelu, kam investovat, dostává odpověď bez odpovědnosti a často i bez zdrojů.
Autonomní řízení se vyvíjí v přísně kontrolovaném režimu simulací, testovacích tratí a auditů. Testovací verze se k veřejnosti nedostávají, dokud nejsou splněny bezpečnostní požadavky. I nejpokročilejší systémy Tesly či Waymo stále vyžadují lidský dohled.
Odborníci totiž pracují s úzkými modely, které jsou certifikované a auditované. Veřejnost však pracuje s obecnými modely bez regulace. Ty mohou být jazykově přesvědčivé, ale statisticky nejisté. EU AI Act zařadil medicínu, dopravu a justici do oblasti vysokého rizika. Obory mohou zatím fungovat jen pod lidským dohledem. Mezinárodní standardy zdůrazňují, že odpovědnost zůstává na člověku.
Paradox důvěry v umělou inteligenci není ve skutečnosti rozpor. V rukou odborníka je AI přesný nástroj s limity. V rukou laika se mění v autoritu bez odpovědnosti. Proto odborné systémy slouží lékařům, právníkům a inženýrům, zatímco veřejnost má AI používat jen jako doplněk – nikoli jako zdroj jistoty.
https://builtin.com/artificial-intelligence/risks-of-artificial-intelligence; https://www.theguardian.com/books/2025/aug/31/the-big-idea-why-we-should-embrace-ai-doctors; https://research-and-innovation.ec.europa.eu/research-area/industrial-research-and-innovation/artificial-intelligence-ai-science_en
