Konec tiché AI. Evropa chce, aby bylo poznat, co vytvořil člověk a co stroj

AI Act se dlouho tvářil jako vzdálená regulace pro právníky, korporace a vývojáře velkých modelů. Jenže rok 2026 je moment, kdy se tahle debata začíná posouvat z papíru do běžného provozu. Nejde jen o to, že firmy budou muset vyplnit další dokumenty. Podstatnější změna je jiná: Evropa chce, aby lidé poznali, kdy mluví se strojem, kdy sledují uměle vytvořený obsah a kdy AI zasahuje do rozhodnutí, která pro ně mohou mít skutečný dopad.

To je poměrně zásadní rozdíl. AI už totiž není jen hračka pro generování obrázků nebo rychlé shrnutí e-mailu. Ve firmách se používá pro zákaznickou podporu, nábor, vyhodnocování textů, interní asistenty, reporting, marketing, tvorbu obsahu a někdy i pro rozhodování, které může ovlivnit práci, vzdělání nebo přístup ke službám. A právě tam začíná být otázka regulace mnohem konkrétnější.

Jedna z nejviditelnějších změn se týká označování AI. Pokud člověk komunikuje s chatbotem nebo jiným AI systémem, neměl by být klamán, že mluví s člověkem. Pokud vznikne deepfake nebo jiný syntetický obsah, má být jasněji poznat, že nejde o autentický záznam reality. Tohle se může zdát jako detail, ale v praxi půjde o velkou změnu. Firmy budou muset řešit nejen to, že AI používají, ale i to, jak to komunikují směrem ven.

Typický příklad je zákaznický chatbot na webu. Dnes se často tváří jako „asistent“, někdy má jméno, avatar a lidský tón. Nová logika říká, že uživatel má vědět, že komunikuje se strojem. Ne nutně dramaticky, ne nutně varováním přes půl obrazovky, ale srozumitelně. Podobné to bude u AI obrázků, videí, hlasů nebo textů, které informují veřejnost. Nestačí, že obsah „vypadá dobře“. Bude potřeba řešit jeho původ.

Druhá silná část změn se týká deepfake obsahu a tzv. nudifier aplikací. To jsou nástroje, které z fotky člověka vytvoří intimní nebo sexuálně explicitní obraz bez jeho souhlasu. Tady už nejde o abstraktní debatu o inovacích. Jde o zneužití identity, lidské důstojnosti a soukromí.

Evropský přístup se v tomhle směru zpřísňuje. Umělá inteligence, která dokáže během pár sekund vytvořit falešný intimní obsah konkrétní osoby, není jen „kreativní nástroj“. Je to technologie s velmi konkrétním rizikem zneužití. A to je důležité i pro běžné tvůrce obsahu, agentury nebo firmy. Nestačí říct, že obrázek je „jen vygenerovaný“. Pokud připomíná konkrétní osobu, používá její podobu nebo vytváří dojem reálného člověka bez souhlasu, dostává se projekt do mnohem rizikovější zóny.

Zajímavé je, že část pravidel pro vysoce rizikové AI systémy se odkládá. Týká se to oblastí, jako je biometrie, kritická infrastruktura, vzdělávání, zaměstnávání, migrace nebo hranice. U části těchto systémů se počítá s pozdějším náběhem povinností. Na první pohled by to mohlo působit jako úleva. Firmy dostaly čas. Jenže ten čas není omluvenka.

Ve skutečnosti to spíš znamená, že se bude víc řešit klasifikace AI systémů. Tedy jednoduchá, ale nepříjemná otázka: k čemu přesně danou AI používáme? Jiný režim bude mít AI, která pomáhá shrnout zápis z porady. Jiný režim může mít systém, který pomáhá filtrovat kandidáty do zaměstnání. A úplně jiná debata začne ve chvíli, kdy AI zasahuje do přístupu ke vzdělání, půjčce, dávce, práci nebo jiné důležité životní situaci. Problém tedy není samotná technologie, ale způsob jejího nasazení.

Většina menších firem dnes AI používá neformálně. Někdo si pomáhá ChatGPT při psaní e-mailů. Někdo generuje texty na web. Někdo si nechává shrnovat dokumenty. Někdo testuje interního chatbota. To samo o sobě nemusí být problém. Problém vzniká ve chvíli, kdy firma neví, co přesně zaměstnanci používají, jaká data do nástrojů posílají a kdo odpovídá za výstupy.

AI Act tímhle nepřímo tlačí firmy k základní disciplíně. Ne nutně k obřím auditům a právnickým manuálům, ale k jednoduchému pořádku. Firma by měla vědět, jaké AI nástroje používá, k čemu je používá, jaká data do nich posílá, kdo za daný proces odpovídá, kdy musí být výstup zkontrolován člověkem a kdy musí být AI obsah označen. Tohle není byrokracie pro byrokracii. Je to provozní hygiena.

Mnoho firem bude mít tendenci AI Act odložit. Řeknou si, že se jich to netýká, protože nevyvíjejí vlastní model. Jenže to je slabý předpoklad. Regulace se netýká jen těch, kdo AI vyrábějí. Týká se i těch, kdo ji používají v konkrétních procesech. A právě tam bude v praxi největší chaos.

Malá firma nemusí stavět vlastní právní oddělení. Měla by si ale udělat jednoduchý AI inventář. Kde AI používáme? Co z toho jde ven k zákazníkům? Co ovlivňuje lidi? Kde vzniká riziko omylu, klamání nebo neoprávněného zásahu do soukromí? Tahle mapa bude do budoucna důležitější než další nadšený experiment s novým nástrojem.

AI Act není stopka pro používání umělé inteligence. Je to spíš signál, že éra „nějak to zkusíme a uvidíme“ končí. Firmy, které budou mít v AI pořádek, získají výhodu. Budou schopné rychleji nasazovat nové nástroje, lépe vysvětlit klientům, co dělají, a snížit riziko průšvihu.

Firmy, které AI používají chaoticky, budou časem narážet. Ne proto, že by AI byla špatná. Ale proto, že bez pravidel se z užitečného nástroje snadno stane další vrstva nepořádku. Nejlepší první krok přitom není složitý: sepsat, kde firma AI používá, jaká data do ní posílá a kdo výstupy kontroluje.

AI nebude méně důležitá. Bude důležitější. Jen už nebude stačit, aby fungovala technicky. Bude muset fungovat i procesně, právně a lidsky.