Článek
„Regulace musí být přiměřená rizikům,“ vysvětluje princip nové legislativy eurokomisařka Margrethe Vestager. „Zatímco některé aplikace AI mohou představovat nepřijatelné riziko pro naše základní práva, jiné jsou prospěšné a bezpečné.“
Nejvyšší příčku v hierarchii rizik zaujímají systémy s nepřijatelným rizikem, které budou v EU zcela zakázány. Mezi ně patří například technologie, které dokáží manipulovat lidské chování pomocí podprahových technik, nebo systémy sociálního skórování podobné těm, které známe z Číny. Zakázány budou také systémy, které by mohly zneužívat zranitelnosti specifických skupin obyvatel nebo provádět biometrickou kategorizaci založenou na citlivých osobních charakteristikách.
Druhou kategorii tvoří takzvané vysoce rizikové systémy. Ty sice nebudou zakázány, ale jejich provozovatelé budou muset splnit přísné požadavky. „Představte si například systém AI, který rozhoduje o přidělení hypotéky nebo vybírá kandidáty na pracovní pozici,“ říká expert na umělou inteligenci Martin Krček. „Takové systémy mohou významně ovlivnit životy lidí, proto musí podléhat důkladné kontrole.“
Provozovatelé vysoce rizikových systémů budou muset mimo jiné provést posouzení shody, registrovat své systémy v evropské databázi a zajistit jejich průběžný monitoring. Důraz je kladen také na transparentnost - uživatelé musí vědět, že komunikují s AI systémem, a musí rozumět tomu, jak systém dospívá ke svým rozhodnutím.
Méně přísná pravidla platí pro systémy s omezeným rizikem, které musí splňovat pouze základní informační povinnosti. Do této kategorie spadají například chatboti nebo systémy pro úpravu obrazu. Nejnižší úroveň regulace se týká systémů s minimálním rizikem, které tvoří většinu AI aplikací na trhu. Ty mohou být provozovány prakticky bez omezení.
„AI Act představuje zlatou střední cestu mezi naprostou deregulací a přehnaně restriktivním přístupem,“ hodnotí novou legislativu Google Developer Expert Martin Krček. „Evropa tím dává jasně najevo, že chce být lídrem v oblasti etické a důvěryhodné umělé inteligence.“
Část nařízení vstoupí v platnost v únoru 2025, přičemž firmy budou mít určitý čas na přizpůsobení se novým pravidlům. Experti se shodují, že úspěch regulace bude záviset především na její praktické implementaci a schopnosti držet krok s rychlým vývojem AI technologií.
Pro evropské firmy to znamená, že budou muset pečlivě vyhodnotit, do které kategorie jejich AI systémy spadají, a přizpůsobit se příslušným požadavkům. Zatímco pro některé to může představovat významnou administrativní zátěž, pro jiné to může být příležitost k získání konkurenční výhody na základě důvěryhodnosti jejich AI řešení.
AI Act tak představuje významný milník v regulaci umělé inteligence a zvýšení bezpečnosti, který může sloužit jako vzor pro další země a regiony. Zda se podaří najít správnou rovnováhu mezi inovacemi a ochranou práv občanů, ukáže až čas.
