Článek
Umělá inteligence se během krátké doby přesunula z experimentální fáze do každodenního fungování firem. Pomáhá s analýzou dat, přípravou dokumentů, komunikací se zákazníky, náborem zaměstnanců a stále častěji také ovlivňuje samotné rozhodování.
S jejím rostoucím využitím se ale mění i otázky, které by si mělo klást vedení firem. Už nejde jen o to, co AI dokáže, ale také kdo nese odpovědnost, když její výstup vede ke špatnému rozhodnutí.
Právě zde se AI přestává týkat pouze IT a stává se tématem řízení rizik na úrovni celé společnosti.
Největším rizikem nemusí být samotná AI
Systém může technicky fungovat přesně tak, jak má, a přesto vést ke špatnému výsledku. Stačí, aby pracoval s nevhodnými daty, byl použit pro nesprávný účel nebo aby se firma na jeho doporučení spoléhala bez dostatečné lidské kontroly.
S využíváním AI proto vznikají nová nebo zesílená rizika: nepřesné výstupy, zkreslení a zaujatost, porušení regulatorních povinností, problémy s duševním vlastnictvím nebo chybná provozní a obchodní rozhodnutí.
Pro management je proto důležité znát odpovědi na několik základních otázek:
- Kde v organizaci AI skutečně používáme?
- S jakými daty pracuje?
- Která rozhodnutí ovlivňuje?
- Kdo její výstupy kontroluje?
- Kdy musí mít konečné slovo člověk?
Právě schopnost na tyto otázky odpovědět ukazuje, zda má firma využívání AI skutečně pod kontrolou.
Nestačí mít člověka, který klikne na „schválit“
Základní princip zůstává jednoduchý: odpovědnost by měla zůstat na lidech. AI může analyzovat informace, hledat souvislosti a doporučovat další postup, ale neměla by člověka zbavovat odpovědnosti za podstatná rozhodnutí.
Samotná lidská kontrola však nestačí, pokud je pouze formální. Jestliže zaměstnanec nebo manažer automaticky přijímá doporučení AI, aniž by rozuměl jeho základům, dokázal zpochybnit jeho předpoklady nebo znal omezení použitého systému, skutečný dohled mizí.
Důležité proto není jen to, zda AI udělala chybu, ale také to, zda měla organizace nastavený přiměřený a doložitelný systém kontroly odpovídající významu daného rozhodnutí.
A stejná pravidla nemusejí platit pro všechny aplikace. Nástroj pomáhající s běžnou administrativou představuje jinou úroveň rizika než systém ovlivňující nábor, doporučení zákazníkům nebo finanční rozhodování.
Shadow AI: riziko, které firma nemusí ani vidět
Jedním z nejpraktičtějších problémů je„shadow AI“, tedy používání nástrojů mimo oficiálně schválené prostředí firmy.
Zaměstnanci mohou externí AI nástroje využívat například k analýze interních dokumentů, přípravě smluv, prezentací nebo odborných stanovisek. Tím se ale mohou dostat mimo nastavené bezpečnostní, právní, datové a compliance kontroly.
Pouhý zákaz nemusí problém vyřešit. Naopak může používání AI přesunout ještě více do pozadí. Efektivnější je získat reálný přehled o tom, jak zaměstnanci AI používají, jaké informace do jednotlivých systémů zadávají a pro která rozhodnutí jejich výstupy využívají.
Dobře nastavený governance rámec by proto měl zahrnovat přehled používaných AI nástrojů a případů použití, klasifikaci jejich rizikovosti, jasné odpovědnosti a pravidla lidského dohledu.
Zkušenost z kybernetických rizik se může opakovat
Podobný vývoj už firmy zažily u kybernetické bezpečnosti. Také ta byla dlouho vnímána především jako technické téma. Až velké incidenty ukázaly jejich finanční, právní, provozní a reputační dopady a přenesly kybernetické riziko až na úroveň představenstev a vrcholového managementu.
U AI nemusí firmy čekat na stejný scénář.
Čím větší vliv má AI na fungování společnosti a její rozhodování, tím důležitější bude schopnost managementu prokázat, že kontrolní mechanismy odpovídají skutečné úrovni rizika.
Řízení AI může začít zajímat i pojistitele
Kvalita AI governance nemusí být jen interní nebo regulatorní otázkou. Do budoucna může ovlivňovat také pohled pojistitelů na rizikový profil společnosti.
Podobně jako dnes pojistitelé v oblasti kybernetických rizik posuzují bezpečnostní kontroly nebo řízení incidentů, mohou stále více sledovat také způsob, jakým společnost řídí využívání AI.
Relevantní mohou být například dohled vedení, přehled používaných AI systémů, posouzení rizik významných případů použití, lidská kontrola klíčových rozhodnutí, proces eskalace incidentů nebo školení zaměstnanců.
Otázka při sjednávání pojištění tak časem nemusí znít pouze:
„Používá vaše společnost AI?“
ale spíše:
„Dokážete prokázat, že máte pod kontrolou rozhodnutí, která AI ovlivňuje?“
Výhodu nemusí mít ten, kdo AI zavede nejrychleji
AI governance by proto firmy neměly vnímat jako brzdu inovací. Dobře nastavená pravidla mohou naopak umožnit AI využívat ve větším měřítku a zároveň udržet její rizika pod kontrolou.
Pro vedení společnosti to znamená především vědět, kde AI ovlivňuje rozhodování, určit jasné hranice jejího využití a zachovat lidem skutečnou pravomoc její výstupy zpochybnit.
Konkurenční výhodu tak nemusí získat firma, která AI zavede nejrychleji, ale ta, která dokáže inovace spojit s důvěrou, kontrolou a jasnou odpovědností.
Některé úkoly lze delegovat na AI. Odpovědnost ale nikoli.



