Článek
Těžko si lze představit, zda Karel Čapek s prvním použitím slova robot očekával, že jeho divadelní drama dalece přesáhne samo sebe a stane se inspirací jak literárního světa, tak vývoje civilizace, která je dnes na robotické technologii ještě závislejší, než sám Čapek v roce 1920 dokázal predikovat. Etické otázky a problémy, které už před mnoha lety vyzdvihl, ovšem zůstávají aktuálními dodnes. A jsou ještě palčivější, jelikož Čapek se jimi zabýval v hypotetické rovině, zatímco my je prožíváme v technologiemi formované každodennosti.
Shodou okolností jsme se tím tématem zabývali se studenty psychologie v kurzu etiky ještě před zkouškovým obdobím, které probíhá. Shodli jsme se na tom, že etická umělá inteligence (AI) je jediná možná cesta pro AI. AI má potenciál velmi výrazně zvýšit kvalitu života naší společnosti, nebo při zneužití této technologie být její poslední kapitolou.
Hlavní výhody umělé inteligence jsou tyto:
• Zvýšená efektivita a produktivita
• Snížení lidských chyb
• Automatizace rutinních úkolů
• Cenově výhodné
• Digitální asistence
• Rozhodování na základě dat
• 24/7 dostupnost
Hlavní nevýhody umělé inteligence pak lze spatřovat v těchto problematikách:
• Nedostatek emoční inteligence a kreativity
• Závislost na technologii
• Ztráta pracovních míst
• Problémy s ochranou soukromí
• Etické otázky
Některé z hlavních etických problémů spojených s umělou inteligencí:
1. Diskriminace a bias: AI systémy mohou zdědit bias (chyby v předsudcích) z tréninkových dat, což může vést k nespravedlivým a diskriminačním rozhodnutím. Například systém pro posuzování úvěrové spolehlivosti může upřednostňovat určité skupiny lidí na základě pohlaví, rasy nebo jiných charakteristik.
2. Ochrana soukromí: AI může být využívána k masovému sběru a analýze osobních dat, což může ohrozit soukromí jednotlivců. Jak se s tímto problémem zacházet a jak zajistit, aby osobní data byla chráněna?
3. Autonomní zbraně: Rozvoj autonomních vojenských systémů, které mohou rozhodovat o životě a smrti bez lidského zásahu, vyvolává otázky ohledně etiky válečného konfliktu a lidské kontroly nad zbraněmi.
4. Práce a automatizace: Zavádění AI a robotiky do pracovního prostředí může mít významné důsledky pro zaměstnanost a sociální stabilitu. Jak se můžeme postarat o lidi, kteří ztratí práci kvůli automatizaci?
5. Transparentnost a odpovědnost: Jak zajistit, aby AI systémy byly transparentní a že za svá rozhodnutí jsou odpovědné? Kdo bude nést odpovědnost za chyby nebo neetické chování AI?
6. Morální rozhodování: Jak by měly AI systémy řešit morální dilemata a rozhodovat v situacích, kde není jasná odpověď? Jakým způsobem by měly být programovány, aby respektovaly etické normy?
7. Využívání AI v oblasti zdravotnictví: Použití AI v diagnostice a léčbě nemocí přináší výzvy týkající se spolehlivosti diagnóz a zajištění etické péče o pacienty.
8. Dopady na společnost: Jaký bude celkový dopad rozšíření AI na společnost a naši kulturu? Jak se můžeme připravit na možné sociální a etické změny?"(dle Romana Rakowského v publikaci Etika)
9. Technologie se vyvíjejí rychleji než právní rámce, které zaručují naše bezpečí. Každých osmnáct měsíců se výkon výpočetních obvodů zdvojnásobí, což implikuje to, že se technologie vyvíjejí exponenciální rychlostí. Potenciál nových technologií tedy vlastně nelze naplno využít. Vývoj normativních rámců ve formě konkrétních zákonů je logicky pomalejší než vývoj samotných technologií.
10) Kognitivní zkreslení: Může projevit různými způsoby, často jako důsledek předsudků v datech, na nichž jsou modely trénovány, nebo v způsobu, jakým jsou algoritmy navrženy a implementovány. Zde jsou některé známé příklady:
a) Zkreslení v systémech rozpoznávání obličejů: Bylo prokázáno, že některé systémy rozpoznávání obličejů mají horší výkon při identifikaci osob tmavší pleti nebo žen. Tento problém je často připisován nedostatku rozmanitosti v tréninkových datech.
b) Zkreslení ve vyhledávacích algoritmech: Vyhledávače mohou odrážet a zesilovat existující sociální a kulturní předsudky skrze způsob, jakým prezentují informace. Například, pokud tréninková data obsahují genderová zkreslení, vyhledávač může preferovat určité genderové stereotypy v jeho výsledcích.
d) Zkreslení v soudních a policejních systémech: Systémy používané pro predikci recidivy nebo rozhodování o kauci mohou projevovat rasové nebo socioekonomické zkreslení, což vede k nespravedlnostem v trestním soudnictví.
e) Zkreslení ve zdravotnických diagnostických systémech: AI systémy určené k pomoci při diagnostice nemocí mohou mít horší výkon u určitých skupin pacientů, pokud tréninková data neodrážejí dostatečnou rozmanitost ras, pohlaví nebo jiných demografických charakteristik.
Tato zkreslení poukazují na důležitost pečlivého výběru, přípravy a evaluace tréninkových dat jakož i na potřebu transparentnosti a etických přístupů při návrhu a implementaci AI systémů. Je důležité, aby si výzkumníci a vývojáři AI byli vědomi potenciálních zkreslení a pracovali na jejich minimalizaci, aby bylo zajištěno spravedlivé a etické využití AI technologií.
Je zřejmé, že technologie z principu nejsou neutrální; ideologie je vepsána přímo do jejich designu, ovlivňující způsob, jakým jsou využívány. V rámci demokratizace technologie se předpokládá, že do procesu designu může a měla by zasahovat společnost jako celek, což vede k vzájemné interakci mezi odpovědnými designéry a uvědomělou společností. Věc si vyžaduje nejenom technické znalosti, ale i interdisciplinární spolupráci napříč obory, jako jsou datoví vědci, sociologové, psychologové a etici, aby bylo možné porozumět a řešit složité vztahy mezi technologiemi a sociálními strukturami. Je třeba přehodnotit, co znamená uchovávat osobní soukromí a jak můžeme zajistit, že jednotlivci mají kontrolu nad svými daty a nad tím, jak jsou využívána. A tak zásadním aspektem etiky v AI a technologickém designu je otázka spravedlnosti a rovnosti přístupu. Musíme se zaměřit na to, aby technologický pokrok sloužil všem vrstvám společnosti a nejen privilegovaným skupinám.
Milí čtenáři, nezbývá než vám popřát hodně pozitivních zkušeností s umělou inteligencí. A sem tam i mnoho trpělivosti!
