Článek
Úvěrové skórování může zpřesnit odhad rizika, výsledek ale závisí na datech, prahu a lidské kontrole. Proxy proměnné mohou vytvářet rozdíly mezi skupinami, i když zakázané znaky model nevidí.
Dvousekundové rozhodnutí o úvěru spojuje několik úloh: ověření dat, odhad rizika, právní posouzení úvěruschopnosti a sdělení výsledku žadateli. Přesný model může pracovat s chybným vstupem a nízký podíl nesplácených úvěrů nic neříká o lidech, které systém předem odmítl. Model není spravedlnost, skóre není charakter a rychlost není důkaz, že rozhodnutí obstojí.
Verdikt vzniká v řetězci
- Data: registry, účet, formulář, v některých systémech i zařízení, poloha nebo Open Banking.
- Model: predikce pravděpodobnosti nesplácení.
- Práh a obchodní politika: od kterého skóre se půjčuje a za jakou sazbu.
- Oprávnění: co systém smí vidět a komu co ukázat.
- Správa: audit, lidský přezkum, odůvodnění a oprava údajů.
Věta „algoritmus zamítl“ je proto začátek diagnózy. Nevýhodnou sazbu lze změnit refinancováním, neodůvodněné zamítnutí ale žadatele vyřadí a zároveň ho skryje ze statistiky klientů. NIST upozorňuje, že zkreslení se může objevit v datech, v cíli, v prahu i v tom, koho systém vůbec změří.
Co podíl nesplácených úvěrů neukáže
Podle ČNB dosáhl objem úvěrů domácnostem v červnu 2026 2 713 miliard Kč a nevýkonné úvěry tvořily 1,2 %. To je stav bankovního sektoru, ne audit férovosti modelů. Portfolio vidí ty, kdo úvěr dostali, ne odmítnuté.
Zákaz znaku není zákaz informace
Antidiskriminační zákon zakazuje rozdílné zacházení z vyjmenovaných důvodů. Model ale může odvodit podobnou informaci z jiných dat: PSČ může korelovat se sociálním statusem, stejně jako druh nákupů nebo typ úvazku.
Barocas a Selbst ukázali, že diskriminační výsledek nemusí vzniknout ze zlého úmyslu, stačí učení z dat, která nerovnost už obsahují. Fuster a spoluautoři zjistili, že přechod ke strojovému učení může zvýšit predikční sílu a zároveň zvětšit rozdíly mezi skupinami. Pomáhá srovnat šance lidí se stejným příjmem a historií, zkusit model bez podezřelých proměnných a ověřit, zda je nenahradila jiná. Večerní podání žádosti může souviset se směnnou prací stejně jako s finanční tísní.
Registry CBCB, NRKI a Solus snižují informační nerovnováhu, jsou ale pamětí smluv, ne lidí. Kdo si nikdy nepůjčil, má tenkou stopu, která se čte jako riziko. Jeden chybný zápis se navíc může šířit do více modelů.
Podobné žádosti mohou dopadnout různě podle dat, která model vidí.
GDPR, SCHUFA a AI Act
Článek 22 GDPR dává právo nebýt předmětem rozhodnutí založeného výhradně na automatizovaném zpracování. Soudní dvůr EU ve věci SCHUFA (C-634/21) dovodil, že již výpočet skóre může být takovým rozhodnutím, pokud mu třetí strana přisuzuje určující roli. Stačí, aby pracovník skóre jen přepisoval. Věta „interní scoring“ přitom obvykle neumožní zpochybnit vstup ani rozhodný faktor.
AI Act řadí hodnocení úvěruschopnosti mezi vysoce rizikové systémy s povinností řízení rizik, dokumentace, logování a lidského dohledu. Klasifikace je ale mapa povinností, ne hotová spravedlnost. Banka může mít dokumentaci, a přesto trestat PSČ.
Neviditelné zamítnutí
Nesplácení je vidět ve statistikách, falešné zamítnutí ne. Pokud se model učí jen z dříve schválených klientů, hrozí výběrové zkreslení. Rozhodující je, kterou chybu uvidíme včas, kdo ji může přezkoumat a kdo ponese cenu neviditelného zamítnutí.
Zdroje
- Barocas, S., & Selbst, A. D. (2016). Big Data's Disparate Impact. California Law Review, 104.
- Fuster, A., et al. (2022). Predictably Unequal? The Effects of Machine Learning on Credit Markets. The Journal of Finance, 77(1).
- Soudní dvůr EU (2023). Rozsudek ve věci C-634/21 (SCHUFA Holding).
- Česká národní banka (2026). Bankovní statistika — úvěry rezidentským domácnostem.
- Nařízení (EU) 2024/1689 (AI Act), příloha III; NIST AI RMF 1.0.
Původně publikováno na jinykontext.cz: https://jinykontext.cz/clanek/algoritmus-rozhoduje-o-pujcce
