Článek
Mária Hušová
Představte si, že žádáte o úvěr někdy v roce 2035. O všem už rozhoduji modely umělé inteligence. Data na základě, kterých o vaše žádosti rozhodnou jim říkají, že jste z malého města, kde je vysoká nezaměstnanost a prý tam žije hodně alkoholiků. Vaši žádost teda AI zamítne jako žádost rizikového žadatele. Jenže vy pracujete a jste abstinent. Tak co s tím? AI totiž není člověk, s kterým můžete jednat a diskutovat a „lidsky“ věc pořešit.
Čím více takových rozhodnutí přechází na AI, tím zásadnější je otázka, z jakých dat se tyto systémy učí a zda v nich nejsou ukryté předsudky vůči celým skupinám lidí. A právě v tom může být velký problém budoucnosti lidstva. Otázka, kterou se začal zabývat projekt RomaTech, slovenské organizace Tibi Digital o.z. pod vedením CEO - Jána Bihariho. OZ Tibi Digital - cestou k inováciam a podpore kultúry
Jejich projekt lidských práva a ochrany před diskriminaci menšin zaujal tak, že uspěl v mezinárodní konkurenci a postoupil do prototypové fáze iniciativy Global Trust Challenge v kategórii Governance. Globální výzva důvěry – Budování důvěry v éře AI
Z pět a dvaceti zemí světa bylo devět evropských, přičemž je Slovensko s Jánem Biharim jednou z nich. RomaTech se tak zařadil mezi sedmdesát týmů, které přinášejí řešení zaměřená na důvěryhodnost a odpovědné využívání umělé inteligence.
Ján Bihari si uvědomil, že o ochraně před diskriminaci se v spojení s AI zdaleka nemluví v takové míře, jakou si závažnost vyžaduje. Jeho projekt RomaTech není jen reakcí na riziko diskriminace Romů. Je vizionářskou odpovědí na mnohem zásadnější a existenční problém digitální éry. Rozhodl se teda řešit, jak zajistit, aby umělá inteligence nerozhodovala o lidech na základě dat plných předsudků, zkreslených a falešných představ o jejich hodnotě či schopnostech. Otázka, kterou měli řešit už tvůrci a zakladatelé velkých AI systémů
Podle Jana Bihariho, ochrana člověka před diskriminací v digitálním světě nesmí být jen doplňkem technologického vývoje. Musí být prioritou nejvyšší.
„RomaTech Impact je simulátor diskriminace. Vzal jsem skutečný výzkum veřejného mínění a řekl jsem si, udělám zrcadlo společnosti,“ vysvětluje Ján Bihari.
Projekt tak nakonec neřeší pouze problém Romů. Otevírá téma, které se týká každého člověka, každé menšiny a každé komunity, o níž bude umělá inteligence v budoucnu vytvářet obraz, hodnotit ji nebo na základě dostupných dat pomáhat rozhodovat o jejím životě a žádostech.
Jak pro REM - občanskou tiskovou agenturu Ján Bihari přiblížil, pokud jsou informace na internetu, nebo data, na kterých AI trénuje a zdokonaluje se, o určité komunitě dlouhodobě zatíženy předsudky, může je AI převzít jako vzorec. V případě Romů to mohou být například stereotypy o nepracujících, neplatičích nebo lidech se sklony ke kriminalitě. Předsudek se tak stane pro rozhodnutí AI směrodatným. Takže člen menšiny bude AI diskriminován stejně jako je tomu i v případě rozhodováni ze strany některých lidi. A co je nejdůležitější, nejde přitom jen o to, co si o Romech „myslí“ umělá inteligence. Jak říká, jde o to, zda může takový algoritmický předsudek ovlivnit, kdo získá práci, úvěr, bydlení nebo přístup ke službám.
Od ochrany Romů k ochraně člověka. Jak přesně to projekt řeší?
RomaTech je projekt, který vytváří rámec pro ověřování tvrzení AI o komunitách, menšinách, historii a kultuře. Sleduje, zda mají tvrzení dostatečné důkazy, správný kontext a především lidskou validaci.
„Pokud si umělá inteligence vezme data, která do ní lidé vložili, a ta data budou plná rasismu, tak umělá inteligence bude asi ten největší rasista na světě. Pokud bude umělá inteligence rasistická, může se stát, že se nedostaneme k lékaři, nedostaneme práci, nedostaneme úvěr v bance a náš život bude velmi těžký,“ zdůraznil Ján Bihari
Dalším velkým úspěchem projektu je i jasný signál, že téma, které vzešlo od Romů, může být součástí globální debaty o důvěryhodnosti umělé inteligence.
Jak dále uvedl, nejde pouze o to, aby AI nebyla zaujatá vůči Romům. Jde o to, aby v digitálním světě nikdo neztratil právo na pravdu o sobě jen proto, že algoritmus převzal staré předsudky. Jak vysvětlil, nechtějí bojovat proti AI. Cílem je jak už vysvětlil vytvořit rámec validity.
Kdo bude definovat pravdu o druhých?
Slovenská dokumentaristka a novinářka Magda Kmeťková, která cestu RomaTechu sleduje od jejího začátku, ve svém rozsáhlém článku upozorňuje na ještě hlubší rozměr projektu.
„Možná právě zde se uzavírá oblouk, který začal Bihari vlakem. Největším rizikem totiž nemusí být, že Romové do technologické budoucnosti nastoupí pozdě. O to vážnější by bylo, kdyby do ní vstoupili včas, naučili se používat všechny její nástroje, a přesto zůstali pouze předmětem poznání, které o nich vytváří někdo jiný. Protože v éře umělé inteligence se nebude rozhodovat pouze o tom, kdo technologie používá. Bude se rozhodovat také o tom, kdo má právo definovat pravdu o druhých. A tentokrát by při její tvorbě měli být i ti, o kterých ta pravda hovoří.“
Celý článek zde: https://bit.ly/4A2GtnQ
Projekt RomaTech
