Článek
Od léta 2024, kdy vstoupilo v platnost evropské nařízení o umělé inteligenci známé jako AI Act, se regulace postupně rozbíhá. První zákazy začaly platit v roce 2025 a další klíčové povinnosti se aktivují právě během let 2026 a 2027. O dopadech těchto kroků informoval mimo jiné server subscriber.politicopro.com, který upozornil na napětí kolem používání některých nástrojů v evropských institucích a na rostoucí obavy o kybernetickou bezpečnost a ochranu soukromí.
Podle zveřejněných informací portálu Euractiv členské státy daly zelenou vůbec první komplexní regulaci umělé inteligence na světě. Evropská unie tak nastavila právní rámec, který má vyvážit podporu inovací s ochranou základních práv. Nejde o zákaz AI jako technologie, ale o vytvoření systému pravidel podle míry rizika.
AI Act pracuje s rozdělením systémů podle jejich potenciálního dopadu. Čím větší zásah do práv lidí nebo do fungování společnosti, tím přísnější požadavky. To je základní princip, který bude mít praktické důsledky i v Česku.
Co je nově zakázáno
Od roku 2025 jsou v Evropské unii zakázány některé konkrétní praktiky.
Patří mezi ně například sociální skórování občanů podle jejich chování nebo plošné biometrické sledování osob v reálném čase na veřejných místech, s výjimkou úzce vymezených bezpečnostních situací.
Zakázány jsou také systémy využívající podprahové techniky, které by mohly manipulovat chování lidí způsobem vedoucím k vážné újmě. Regulace tím reaguje na obavy, že bez jasných pravidel by umělá inteligence mohla být zneužívána k netransparentnímu ovlivňování nebo masovému dohledu. Pro české subjekty to znamená nutnost přehodnotit některé projekty. Pokud by používaný systém spadal do zakázané kategorie, nelze jej na trhu EU dále provozovat bez zásadních úprav.
Vysoké riziko: banky, HR i státní správa
Největší praktický dopad budou mít pravidla pro takzvané vysoce rizikové systémy. Sem patří například nástroje používané při přijímání zaměstnanců, při hodnocení studentů, při poskytování úvěrů nebo v oblasti zdravotnických prostředků. Poskytovatelé těchto systémů budou muset zavést řízení rizik, zajistit kvalitu a reprezentativnost dat, vést detailní technickou dokumentaci a umožnit lidský dohled nad rozhodováním algoritmu. Bez splnění těchto požadavků nebude možné systém legálně uvést na trh EU. Pro české firmy to znamená nové compliance procesy. Velké korporace mají zkušenosti s regulacemi typu GDPR, menší technologické společnosti však mohou čelit výrazné administrativní zátěži. Současně ale platí, že jednotná evropská pravidla mohou zvýšit důvěru zákazníků v AI řešení vyvíjená na území EU.
Generativní AI pod drobnohledem
Zvláštní kapitolu tvoří modely obecného určení, tedy například velké jazykové modely využívané pro generativní AI. Poskytovatelé těchto modelů mají nové povinnosti v oblasti transparentnosti, včetně zveřejňování informací o použitých datech a respektování autorských práv.
U nejpokročilejších modelů s potenciálně systémovým dopadem se zavádí přísnější dohled.
Patří sem povinnost provádět testování, vyhodnocovat rizika a zavádět opatření proti zneužití. Tato pravidla míří zejména na globální technologické hráče, ale mohou se dotknout i českých vývojářů, pokud jejich nástroje dosáhnou určité úrovně rozšíření.
Pro běžné uživatele v Česku to neznamená automatický zákaz oblíbených nástrojů. Znamená to však, že jejich provozovatelé budou muset splnit jasně definované podmínky. V opačném případě hrozí pokuty, které mohou dosáhnout až několika procent celosvětového ročního obratu firmy podle závažnosti porušení.
Co musí udělat Česko
Každý členský stát musí určit dozorový orgán, který bude kontrolovat dodržování pravidel. V České republice se diskutuje, zda tuto roli převezme existující instituce, nebo vznikne specializovaný úřad.
Bude také nutné sladit některé vnitrostátní předpisy s evropským nařízením. To se týká například ochrany osobních údajů, veřejných zakázek nebo používání bezpečnostních technologií. Česká státní správa bude muset prověřit, jaké algoritmy využívá a zda splňují požadavky na transparentnost a lidský dohled.
Jak upozornil český server Euractiv.cz, debata se už nevede jen o inovacích, ale i o ochraně digitálních práv a o tom, zda případné zjednodušování pravidel nepovede k oslabení ochrany občanů. Regulace AI se tak stává politickým i právním tématem, které bude mít dopad na podnikání i veřejnou správu.
Brzda, nebo pojistka?
Kritici tvrdí, že přísná regulace může zpomalit evropský technologický rozvoj. Zastánci naopak argumentují, že bez jasných pravidel by právní nejistota a ztráta důvěry veřejnosti byly ještě větší překážkou.
Pro Česko bude klíčové, jak rychle se firmy a instituce adaptují. Rok 2026 je prvním obdobím, kdy se z obecné debaty o umělé inteligenci stává konkrétní právní realita s měřitelnými povinnostmi a sankcemi.
Jedno je jisté: umělá inteligence už není jen technologickým trendem. Stává se regulovanou součástí evropského práva, která ovlivní způsob, jakým firmy vyvíjejí produkty, jak úřady pracují s daty a jak se rozhoduje o lidech pomocí algoritmů. Pro české prostředí to znamená novou éru odpovědnosti i příležitostí.
Rok, kdy se z debat stává realita
Rok 2026 bude pro české prostředí zlomový především tím, že se diskuse o umělé inteligenci přesune z konferenčních sálů do právní praxe. Firmy, které dosud experimentovaly s algoritmy v oblasti náboru, scoringu klientů nebo analýzy dat, budou muset své systémy detailně zmapovat, zdokumentovat a obhájit jejich fungování před dozorovými orgány. Nestačí už tvrdit, že technologie „funguje“. Bude nutné doložit, jak byla trénována, jaká data používá a jak je zajištěna kontrola člověkem. Právě tento posun od marketingových slibů k regulatorní odpovědnosti může pro část trhu znamenat zásadní přeskupení sil.
Zároveň ale nejde jen o administrativní zátěž. Evropská pravidla mohou vytvořit prostředí, kde bude jasně stanoveno, co je přijatelné a co už překračuje hranici ochrany práv jednotlivce. Pro české podniky to znamená nutnost rychlé adaptace, ale také možnost budovat důvěru na jednotném evropském trhu. Pokud se podaří nové požadavky uchopit jako standard kvality, nikoli jen jako povinnost, může se regulace stát spíše pojistkou než brzdou. V každém případě platí, že éra neregulovaného experimentování končí a umělá inteligence vstupuje do fáze, kdy bude muset obstát nejen technicky, ale i právně.
_______________________
Použité zdroje: subscriber.politicopro.com, euractiv.com, euractiv.cz, europarl.europa.eu
