Automatické rozpoznávání tváří v Česku. Směřujeme k čínskému modelu?

Návrh z pera Ministerstva vnitra je reakcí na nová pravidla pro fungování kamerových systémů umožňujících rozpoznání tváří. Tyto pravidla nastoluje čerstvé evropské Nařízení o umělé inteligenci - tzv. AI Act.

Jak jsme upozornili, Ministerstvo vnitra se v návrhu snažilo obejít některé z kontrolních mechanismů, které Nařízení přináší. A přestože se návrh týkal primárně kamer na mezinárodních letištích, v důvodové zprávě jsme se také mohli dočíst o tom, že by se kontroverzní systémy mohly do budoucna rozšířit i na další místa.

Vláda ve středu návrh sice schválila, ale uložila Ministerstvu vnitra zapracovat připomínky vlády a předsedy její Legislativní rady. Jak bude tedy návrh zaslaný Poslanecké sněmovně nakonec vypadat a zda Vnitro odstraní alespoň některé nejen námi kritizované nedostatky, se teprve dozvíme.

Jedno je však jisté: automatické rozpoznávání tváří, které například v Číně umožňuje sledování ujgurské menšiny a v Rusku slouží k potlačení opozice, si pomalu ale jistě razí cestu i do Evropy.

A Česko není výjimkou.

Problematika rozpoznávání tváří, tedy tzv. biometrického dohledu, úzce souvisí s právem a s technologiemi. Naše organizace se na téma zaměřuje už několik let.

Již v únoru 2021 jsme vydali studii Využití biometriky při sledování veřejného prostoru v České republice. Vyplynulo z ní například, že provoz kamerového systému na Letišti v Praze, který právě rozpoznávání tváří umožňuje, je provozován nelegálně.

V prosinci 2023 následovala studie Český Minority Report: Využití umělé inteligence Policií České republiky. V té jsme se zaměřili třeba na systém Digitální podoba osob, v rámci kterého česká policie shromažďuje 20 milionů fotek z občanek a pasů.

Díky systému DPO sice nelze odhalit osoby pomocí kamer v reálném čase, to ale na jeho využitelnosti moc nemění: umožňuje odhalit třeba identitu lidí z fotek ze sociálních sítí. A vzhledem k současné kvalitě obrazu normálních kamer jím lze hravě odhalovat i identitu osob na kamerových záznamech (třeba z demonstrací), vyřízne-li se z obrazu dostatečně kvalitní záznam obličeje.

Všechna naše zásadní zjištění z posledních let nyní prezentujeme stravitelnou formou kvízu na interaktivním webu Česko není čínsko: seznámit se zde můžete také s tím, jak naše tváře zaznamenávají stovky kamer podél silnic.

Kampaň Česko není čínsko je osvětová, zároveň nám však slouží jako nástroj pro získání finančních prostředků, díky kterým můžeme potřebný dohled nad biometrickým dohledem provádět.

Budeme rádi, když naše právní a analytické aktivity podpoříte. A přispějete tak k tomu, že to v Česku výhledově nedopadne právě jako v Číně či v Rusku. Takové obavy ostatně vyjádřil i Úřad pro ochranu osobních údajů či zmocněnkyně pro lidská práva.

Věříme, že vhodnou cestou je právě důsledné hlídání legislativy - je totiž zásadní rozdíl, budou-li se kamery na rozpoznávání tváří využívat jen na mezinárodních letištích, či zda se postupně normalizují a zakousnou dále do veřejného prostoru.

Podpořte nás zde, téměř třetinu prostředků již máme vybranou.