Článek
A právě tady začíná otázka, kterou si firmy často kladou až ve chvíli, kdy je pozdě: Kdo u nás kontroluje výstupy AI, než se dostanou k zákazníkům, zaměstnancům nebo veřejnosti?
AI může napsat text. Nemůže převzít odpovědnost.
Představme si jednoduchou situaci. Zákazník se zeptá firemního chatbota na podmínky reklamace. Dostane sebejistou odpověď, která ale neodpovídá skutečným pravidlům firmy. Zákazník se podle ní zařídí a následně zjistí, že všechno je jinak.
Nebo firma zveřejní na sociálních sítích text vytvořený AI, ve kterém se objeví nepřesné tvrzení o produktu, konkurenci či vlastních výsledcích. Příspěvek může během chvíle někdo sdílet, okomentovat nebo uložit jako důkaz, že firma klame.
AI přitom nemusí mít úmysl kohokoli poškodit. Může pracovat s neúplnými podklady, špatně pochopit zadání nebo vytvořit přesvědčivě znějící, ale chybnou informaci.
To, že text vytvořila umělá inteligence, ale nezbavuje firmu odpovědnosti za to, co zveřejní nebo sdělí svým jménem.
Kontrola nesmí být jen formalita
Řešením není zakázat zaměstnancům používat AI ani posílat každou větu ke schválení vedení. Takový postup by byl pomalý a v praxi často neudržitelný. Firma ale musí vědět, kde AI používá, jaká rizika jsou s tím spojená a kdo má pravomoc její výstup zkontrolovat nebo zastavit.
U interního shrnutí schůzky může být kontrola jednoduchá. U odpovědi zákazníkovi, veřejného prohlášení, pracovního inzerátu nebo krizové komunikace je potřeba mnohem větší pozornost. Záleží na tom, komu je sdělení určeno, jaké následky může mít a zda obsahuje právní, obchodní nebo reputačně citlivé informace.
Lidská kontrola přitom neznamená jen přečíst text a opravit překlepy. Znamená ověřit fakta, posoudit kontext, zkontrolovat tón komunikace a položit si otázku, zda firma skutečně chce toto sdělení vyslat do světa.
Kdo má mít poslední slovo?
Odpověď nemusí být stejná pro každou organizaci. Technický tým může odpovídat za nastavení nástroje, marketing za obsah kampaně, zákaznická péče za správnost odpovědí a vedení za zásadní veřejná stanoviska. Důležité je, aby odpovědnost nezůstala někde mezi odděleními.
Každá firma by měla znát odpovědi alespoň na čtyři otázky:
- Kde AI komunikuje naším jménem? Například na webu, v e-mailech, na sociálních sítích nebo v zákaznické podpoře.
- Kdo ověřuje správnost jejích výstupů? Nejen jazyk, ale i fakta, sliby a soulad s tím, co firma skutečně nabízí.
- Které výstupy musí schválit člověk před zveřejněním? Zvláštní režim by měla mít citlivá, veřejná a krizová komunikace.
- Kdo zasáhne, když AI způsobí problém? Kdo může obsah stáhnout, opravit chybu, informovat dotčené osoby a koordinovat další postup?
Nejde o administrativu pro administrativu. Jde o to, aby firma dokázala jednat rychle, když se něco pokazí.
Jedna chyba může žít vlastním životem
Ve veřejné komunikaci nestačí chybný příspěvek smazat. Někdo jej mohl mezitím vyfotit, sdílet nebo citovat. Nesprávná informace se může dostat do médií a později se objevit i v odpovědích AI, pokud ji další systémy převezmou z dostupných zdrojů. Riziko tedy nekončí okamžikem, kdy firma chybu opraví. Někdy teprve tehdy začíná práce na obnovení důvěry.
Proto by kontrola AI neměla řešit pouze kvalitu jednotlivých textů. Měla by být součástí celého systému řízení reputačních rizik: od prevence přes monitoring až po reakci na problém.
Člověk musí zůstat součástí rozhodování
AI může firmám ušetřit čas, pomoci s analýzou informací a připravit první návrh komunikace.
Nemůže ale sama rozhodnout, jaké reputační riziko je pro firmu přijatelné, kdy je nutné přiznat chybu nebo jakou cenu může mít ztráta důvěry zákazníků. To vyžaduje znalost kontextu, odpovědnost a úsudek. A někdy také odvahu říct: tento výstup nezveřejníme. Firmy by proto neměly řešit jen to, jak AI zavést. Měly by stejně vážně řešit, kdo její práci kontroluje, kdo za výsledek odpovídá a jak poznají, že se z technologické chyby stává reputační problém.
