Článek
Jako společnost jsme se již posunuli za počáteční fascinaci a nadšení z AI.
Teď se lidé často o AI a produktech s ní vyjadřují kriticky, odsuzují ji i ty, kteří AI používají, protestují proti datovým centrům a podobně. Jako by se z fascinující technologické novinky, která slibovala vyřešit některé z největších problémů lidstva, postupně stávalo něco nežádoucího…
Přitom schopnosti AI se za tu dobu silně zlepšily a možnosti jejího využití jsou stále širší. Proč tedy její pověst podle všeho neprochází podobně pozitivním vývojem? A je špatná pověst AI skutečně zasloužená?
Čím je kritičnost k AI způsobená?
Později se podíváme na konkrétní důvody odmítání. Nejdříve ale zmíníme tři teorie, které odpor k AI samy možná překvapivě dobře vysvětlují.
1. Paradox viditelnosti: nejhorší z AI je často nejvíc vidět
Nejvíce je ohledně AI vidět to špatné. O tom se nejsnáze mluví, podobně jako většina zpráv je negativního charakteru. Z pozitivních událostí často zpráva ani nejde udělat (byly by atraktivní televizní zprávy, kdyby v nich zaznívaly zprávy typu „Včera (díky nepřímému vlivu AI) vzrostla gramotnost ve světě o 0,001 %.“?). Je jasné, že co vidíme, je třeba nezaměňovat s reprezentativním vzorkem vlivu AI na svět.
Že miliony vědců používají AI pro zlepšení našich životů? Já vidím články o tom, jak AI ničí životní prostředí! Že AI pomáhá ve zdravotnictví? Já vidím na sítích samá hloupá AI videa!
Věděli jste například, že umělá inteligence pomáhala s návrhem jedné z prvních vakcín proti covidu? Společnost Moderna ve spolupráci s americkými vědci dokázala s využitím strojového učení dokončit návrh mRNA sekvence vakcíny za pouhé dva dny od zveřejnění genetické informace o novém viru (https://aws.amazon.com/solutions/case-studies/moderna-machine-learning/). Samozřejmě následovaly měsíce výroby, testování a schvalování a úspěch by ani nebyl možný bez dlouholetého předchozího výzkumu. Přesto jde o úžasný příklad toho, co nám AI může umožnit. Kolik lidí o podobných úspěších AI ale ví? A kolik lidí naopak vidělo nějaké hloupé AI video na sítích?
Za tento nepoměr však nemůže jen přirozená lidská záliba v negativních zprávách. Velkou roli hrají také média a sociální sítě, jejichž obchodní modely často zvýhodňují obsah vyvolávající silné emoce. Bizarní AI video, nad kterým se lidé pohoršují, tak může získat mnohem větší pozornost než užitečná inovace využívající AI.
AI tím doplácí na způsob, jakým dnes funguje šíření informací. Její nejméně přínosná využití mohou být paradoxně její nejlepší reklamou, a to bohužel negativní.
Další problém je v tom, co vlastně AI nazýváme. Přestože se AI dnes využívá v čím dál více oblastech, máloco AI skutečně nazýváme. Například AI slop – nikdo nepochybuje o tom, že ho vytvořila AI. Ale nový lék, efektivnější postup, diagnostika – tolik se o nich nemluví a když ano, označují se spíše za úspěchy medicíny či vědy.
Možná tu funguje ještě jeden zvláštní mechanismus: když nám nějaký produkt díky AI výrazně usnadní život, často ho prostě považujeme za dobrý produkt. Když ale produkt kvůli AI funguje špatně, snadno si zapamatujeme právě to, že za problémem stála AI. Úspěšná AI se tak může postupně stát neviditelnou součástí běžných technologií, zatímco ta neúspěšná zůstává nápadně označována jako AI.
2. Vnucovaná AI
AI ušla dalekou cestu od snu vědců, fascinující novinky nebo něčeho, co slibuje vyřešit naše nejpalčivější problémy k něčemu vnucovanému, nevyhnutelnému, všudypřítomnému. Výroky jako „nenahradí Vás AI, ale člověk, který s AI umí pracovat“ či „Kdo nepracuje s AI, zařazuje se do pomalejšího pruhu“ působí dojmem, že ovládnout AI je otravná nutnost. AI už není nástroj, který používáme, protože nám něco umožňuje. Je to už něco, čemu se nevyhneme. AI je v reklamách, ve výsledcích vyhledávání Googlu, ve zprávách, na sítích, v zákaznické podpoře, v aplikacích nám asistují umělí asistenti. Lidé mají rádi dobrovolnost a možnost volby. Když to nemají, věřím že začnou nesnášet i užitečné technologie (a zejména pokud i nízké procento z nich je nízké kvality).
A kdo za to může? Především technologické firmy a vývojáři, které dnes soupeří o to, kdo přidá AI do většího množství produktů a kdo ji dokáže výrazněji propagovat. AI se tak někdy stává spíše marketingovou nálepkou než skutečným přínosem pro uživatele.
Další odpovědnost mají firmy, které AI využívají. Pokud její nasazení znamená horší zákaznickou podporu, méně spolehlivé služby nebo propouštění zaměstnanců, těžko se můžeme divit, že si lidé AI začnou spojovat právě s těmito zkušenostmi.
Roli hraje samozřejmě i tlak na osobní využívání AI od zaměstnavatelů či známých.
Přitom je rozdíl mezi tím, když AI člověku umožní něco, co dříve nedokázal, a tím, když je mu vnucena místo něčeho, co dříve dobře fungovalo. V prvním případě je AI řešením problému. Ve druhém pak může být sama problémem.
3. Očekávání dokonalosti
Je tu možná ještě jeden problém: od AI často snad pod vlivem sci-fi filmů či očekávání od vzdálené budoucnosti očekáváme podstatně více než od lidí. Například když se člověk mýlí, přejdeme to. U AI tomu říkáme halucinace a hodně se to řeší.
Svůj podíl na tom mohou mít i samotné technologické firmy, které své modely často prezentují jako mimořádně inteligentní a schopné. Čím větší očekávání vytvářejí, tím větší může být následné zklamání, když AI udělá překvapivě hloupou chybu.
Pokud člověk udělá chybu, obvykle ji považujeme za běžné lidské selhání. Pokud stejnou chybu udělá AI, snadno se stane důkazem, že AI je nespolehlivá nebo hloupá. Přitom AI může být v dané činnosti statisticky úspěšnější než člověk, a přesto se dočkat horšího hodnocení.
Možná je to i proto, že AI nevnímáme jako člověka s jeho omezeními, ale jako technologii, od které očekáváme přesnost a předvídatelnost. Jediná zjevná chyba pak dokáže pokazit dojem ze stovek správných odpovědí.
Konkrétní příčiny kritiky si pojďme rozdělit do dvou skupin – zástupné a skutečné důvody kritiky AI. Působí často ve skupině, jeden důvod k odporu k AI podporuje druhý:
A) Zástupné důvody - tím myslím argumenty, které mohou být samy o sobě pravdivé a oprávněné, ale nemusí být hlavní příčinou odporu k AI. Někdy slouží spíše jako dodatečné zdůvodnění už existujícího negativního postoje.
Představme si například člověka, kterému AI z nějakého důvodu vadí, například ho nahradila v práci. Když se dozví o její spotřebě elektřiny nebo o problémech s autorskými právy, získává další argument, proč ji odmítat. Přitom je možné, že podobné problémy u jiných technologií či odvětví přehlíží, protože k nim nemá stejný negativní vztah.
To samozřejmě vůbec neznamená, že jsou takové argumenty nepravdivé nebo nedůležité. Znamená to pouze, že naše postoje k AI mohou ovlivňovat, kterým problémům přikládáme největší význam.
Mezi časté zástupné důvody podle mě patří tyto skupiny:
- Vliv datových center na energetiku, jejich spotřeba vody, celkový vliv AI na životní prostředí
Ekologické dopady AI jsou skutečné a zaslouží si určitě pozornost. Datová centra spotřebovávají elektřinu, někdy značné množství vody a jejich výstavba může zatěžovat dané místo. Na druhou stranu AI může pomáhat zvyšovat energetickou efektivitu, optimalizovat dopravu, urychlovat výzkum nových materiálů a přispívat k řešení ekologických problémů.
Problém začíná ve chvíli, kdy z jejího ekologického dopadu automaticky vyvozujeme, že AI jako celek je škodlivá technologie. Stejně jako by nebylo rozumné odsuzovat veškerý internet kvůli spotřebě energie datových center, měli bychom i v případě AI hodnotit konkrétní náklady a přínosy.
A možná bychom se mohli ptát i na to, proč se tolik pozornosti soustředí právě na ekologické dopady AI, zatímco podobné dopady jiných odvětví většinou vzbuzují o dost menší emoce.
- AI krade tvorbu umělců.
Jednou z častých výtek vůči AI je, že se její modely učí na dílech jiných autorů, často bez jejich výslovného souhlasu a odměny. A je fakt, že využívání autorsky chráněného obsahu při trénování AI přináší mnoho oprávněných právních i etických otázek.
Jenže i zde bychom měli rozlišovat. Není totéž využití cizích děl při trénování modelu, vytvoření nového obrázku pomocí AI a úmyslné napodobování konkrétního autora. A vůbec nelze z problémů některých generativních modelů vyvozovat, že AI jako celek stojí na krádeži cizí tvorby.
Možná i tady někdy dochází k zaměňování skutečného problému za obecný důvod k odmítání AI. Pokud někomu AI vadí především proto, že ohrožuje jeho práci nebo představu o hodnotě lidské tvorby, mohou být autorská práva dalším argumentem, který jeho odpor podporuje. Což samozřejmě neznamená, že samotná otázka autorských práv není důležitá nebo že bychom ji neměli řešit.
- AI vlastně není inteligentní, jen předpovídá další slovo.
S tímto argumentem se setkáváme velice často. Jako by to, že známe některé principy fungování AI, mělo automaticky znamenat, že její schopnosti nejsou skutečné nebo užitečné. Samozřejmě, dnešní AI má řadu nedostatků a otázka, nakolik jí můžeme přisuzovat inteligenci podobnou lidské, je zajímavá sama o sobě.
Jenže z hlediska praktického využití je často mnohem důležitější, co AI dokáže, než jak přesně toho dosahuje. Pokud AI pomůže objevit nový lék, záleží na tom, zda lék skutečně funguje, nebo na tom, zda AI při jeho hledání „opravdu přemýšlela“?
Možná se za tímto argumentem někdy skrývá i naše neochota připustit, že stroje dokážou činnosti, které jsme donedávna považovali za výhradně lidské.
Skupin zástupných důvodů je samozřejmě mnohem více, ale zde není cílem vyčerpávající přehled. Pojďme se posunout k těm skutečným důvodům.
B) Skutečné důvody – přesněji řečeno důvody, které podle mě často přímo vytvářejí negativní vztah k AI. Neznamená to, že jsou nutně důležitější nebo oprávněnější než ty zástupné. Jde spíše o rozdíl mezi tím, co člověku na AI skutečně vadí, a tím, jakými argumenty svůj negativní postoj následně vysvětluje. U každého člověka samozřejmě může být tento rozdíl jiný.
Mezi ty skutečné důvody nejspíše patří tyto:
- AI obrázky, videa, plakáty a podobně – tzv. AI slop, deepfakes a další.
AI výtvory často nevalné kvality a charakteristického vzhledu je dnes velmi snadné vytvořit a sdílet. Zatímco tvorba podobného obsahu dříve vyžadovala určité schopnosti nebo alespoň značné množství času, dnes lze během chvíle vygenerovat desítky obrázků, infografik či videí.
Samotná možnost vytvářet nekvalitní obsah ale ještě nevysvětluje, proč ho všichni tolik vidíme. Obrovskou roli tu hrají sociální sítě a jejich algoritmy, které mohou takový obsah šířit právě proto, že vyvolává pozornost a emoce - včetně těch negativních.
Viníky tedy nejsou pouze lidé, kteří tento obsah vytvářejí, ale také platformy, které ho odměňují dosahem. A odpovědnost má i AI průmysl, který umožnil jeho velmi levnou masovou výrobu.
Je přitom zvláštní, že tuto kombinaci špatných motivací tvůrců a distribučních algoritmů tak často připisujeme přímo AI. Jako bychom vinili fotoaparáty za bulvární fotky nebo internet za spam v emailu.
U deepfakes, podvodů a dezinformací je však problém ještě vážnější: AI nejen zlevňuje výrobu obsahu, ale také umožňuje vytvářet nové druhy přesvědčivých manipulací.
- Je to něco, co má nahradit lidi.
Lidé nechtějí být nahrazeni stroji a nechtějí přijít o smysl života. Ani nechtějí, aby něco vyzývalo jejich představy o lidské nadřazenosti, existence duše a dalších projevů lidské výjimečnosti, božského původu a podobně.
A nejde tedy jen o obavy ze ztráty zaměstnání. Pokud člověk desítky let rozvíjel určitou schopnost, která se stala součástí jeho identity, může být těžké přijmout, že ji najednou dokáže napodobit stroj. AI tak nemusí ohrožovat jen naše ekonomické postavení, ale také naši představu o vlastní hodnotě a výjimečnosti. Tento odpor je pochopitelný, ale může také ovlivňovat, jak hodnotíme skutečné schopnosti a přínosy AI.
- Je to něco nového.
Lidé často odmítají novinky, hlavně pokud jsou vnucovány a přijdou moc rychle, což AI obojí splňuje. Takže už to, že je nová, úplně stačí. Lidé si neradi nuceně zvykají na velké změny, zvlášť takoví, kteří milují staré časy. Bohužel mám špatnou zprávu, pomalejší už ta změna asi nebude.
- AI je v rukou mocných korporací a miliardářů.
Rozvoj AI je dnes často spojován s velkými technologickými firmami a jejich velmi bohatými zakladateli a řediteli, kteří u části lidí nemají dobrou pověst. Pro některé lidi tak AI není symbolem vědeckého pokroku, ale symbolem rostoucí moci technologických společností, zejména v kombinaci s dalšími důvody (ničí životní prostředí, chtějí nás nahradit, zaplavují svět AI slopem atd).
A ani tento postoj není úplně neopodstatněný. Koncentrace výpočetního výkonu, dat a technologií v rukou několika firem přináší skutečné otázky o hospodářské soutěži, kontrole a rozdělování přínosů AI.
Přesto bychom neměli zaměňovat naše názory na jednotlivé podnikatele či korporace za hodnocení AI jako technologie. AI není majetkem jediného miliardáře ani jediné firmy a její budoucí přínosy nemusí být totožné se zájmy těch, kteří ji dnes nejvíce propagují. Také bychom neměli AI odbývat pouhými myšlenkami na její souvislost s miliardáři.
- Nemáme to moc snadné?
Jako by každá činnost s sebou nesla i nějaký předpoklad o tom, jak má být pro člověka náročná. Pokud člověk přizná přílišnou efektivitu práce díky AI (nebo je to vidět), jsme k němu často kritičtí. Jako bychom často neobdivovali výsledky práce, ale předpokládané úsilí. Sem můžeme zařadit i další na první pohled pozitivní efekty AI, jako dopad na zdraví, dlouhověkost, dostupnost věcí a další efekty, tedy cokoliv, co za starých dobrých časů dostupné nebylo a dnes dostupné je až moc snadno.
Představme si dva lidi, kteří vytvoří stejně kvalitní ilustraci. Jeden nad ní strávil dvacet hodin, druhý s pomocí AI dvacet minut. Budeme jejich výsledek hodnotit stejně? A pokud ne, co vlastně hodnotíme – kvalitu vytvořeného díla, schopnosti autora, nebo množství práce, které ho stálo?
Odpověď asi není jednoznačná. AI nás nutí přehodnocovat nejen to, co dokážeme vytvořit, ale také to, proč si některých lidských činností vážíme.
C) Důvody, které bychom určitě neměli přehlížet
Zatímco některé nepříjemné věci spojené s AI dokážou vyvolat velké emoce, její potenciálně nejzávažnější rizika mohou zůstávat v pozadí. Nekvalitní AI obrázek nás dokáže okamžitě naštvat. Ale co dopady na trh práce, koncentrace ekonomické moci, nové možnosti kyberútoků nebo dokonce existenční rizika?
Tato témata jsou často složitější, vzdálenější a obtížněji představitelná. Přesto právě na těch může záležet mnohem více. Pokud veřejnou debatu o AI ovládnou především její nejviditelnější nepříjemnosti, hrozí, že nebudeme věnovat dostatečnou pozornost tomu, na čem skutečně záleží.
Možná bychom tuto část mohli shrnout takto: lidé si často nevytvářejí názor na AI podle jejích schopností nebo potenciálu jako AI nadšenci, ale podle toho, jak jim AI vstupuje do života. Na druhou stranu ani AI nadšenci nemusí mít objektivnější pohled, pokud se nechávají příliš unášet jejími potenciálními schopnostmi a přehlížejí současné nedostatky.
Myslím, že AI bychom neměli vnímat jako něco nového a nadbytečného, ale spíše jako něco, co může řešit staré problémy. Důležité přitom je hodnotit její skutečné přínosy a rizika, nikoli pouze očekávání, která v nás vyvolává.
Kdo za špatnou pověst AI může?
Jak jsme si ukázali, odpovědnost není možné připsat jedinému viníkovi.
Technologické firmy nesou odpovědnost za přehnaná očekávání a za vnucování AI i tam, kde to uživatelům nic užitečného nepřináší. Firmy využívající AI mohou přispívat k odporu, pokud kvůli efektivitě obětují kvalitu služeb nebo zájmy zaměstnanců. Tvůrci nekvalitního obsahu a sociální sítě zaplavují internet AI slopem. A média i veřejná debata často nedokážou rozlišovat mezi různými druhy AI a jejich využitím.
Svůj díl odpovědnosti ale mají i samotní vývojáři AI. Technologie skutečně vytváří nové možnosti, ale také nová rizika, a za jejich předvídání a omezování nelze odpovědnost přenést pouze na uživatele.
A konečně, nemůžeme přehlédnout skutečnost, že za vznikem dnešní AI stojí především technologické firmy. Mohli bychom jim tedy připsat odpovědnost prakticky za všechno dobré i špatné, co AI přináší. Takové hodnocení by ale bylo příliš zjednodušující.
AI je totiž svojí obecností trochu svébytná technologie. Žádná jednotlivá firma už nemá kontrolu nad jejím vývojem jako celkem. Nemůže ho sama zastavit, nemůže rozhodovat o všech budoucích využitích AI a často ani předvídat, co všechno s jejími modely ostatní vývojáři vytvoří.
To samozřejmě technologické firmy nezbavuje odpovědnosti za jejich vlastní rozhodnutí, produkty a bezpečnostní opatření. Znamená to však, že odpovědnost za AI je rozptýlená mezi mnoho aktérů a s jejím dalším rozvojem bude pravděpodobně ještě těžší ukázat na jediného viníka.
Ohledně viny zmiňme ještě jednu specifickou věc: většina zmíněných viníků není motivována snahou AI poškodit. Naopak, technologické firmy ji chtějí propagovat, ostatní firmy ji chtějí využívat a sociální sítě na jejím obsahu vydělávat. Špatná pověst AI tak možná do velké míry vzniká jako vedlejší produkt té snahy na AI vydělat nebo ji co nejrychleji rozšířit.
Co s tím můžeme dělat?
Především bychom měli přestat házet všechny typy a výskyty AI do jednoho pytle. Generátor podvodných reklam, systém pomáhající lékařům s diagnostikou a chatbot odpovídající na dotazy zákazníků jsou velmi odlišné věci, přestože všechny označujeme stejnými dvěma písmeny. Odpor k jednomu z těchto využití by neměl automaticky znamenat odpor ke všem ostatním.
Dále bychom se mohli snažit kritizovat konkrétní problémy místo technologie jako celku. Vadí nám nekvalitní AI zákaznická podpora? Kritizujme její kvalitu. Vadí nám záplava AI slopu na sociálních sítích? Kritizujme tvůrce a algoritmy, které ho šíří. Máme obavy ze zneužití AI? Požadujme odpovídající bezpečnostní opatření.
Stejně důležité je nepřehlížet ani pozitivní využití AI. Možná o nich tolik neslyšíme, možná nejsou tak emocionálně zajímavá jako AI slop nebo příběhy o ztrátě zaměstnání. To však neznamená, že jsou méně důležitá.
A konečně bychom měli připustit, že k AI nemusíme mít jeden neměnný postoj. Můžeme být nadšení z jejího využití ve vědě, současně odmítat její vnucování do některých produktů, kritizovat nezodpovědné technologické firmy a požadovat řešení bezpečnostních rizik. Nic z toho si neodporuje.
Možná právě schopnost vidět AI v těchto nuancích je to nejdůležitější, co dnes ve veřejné debatě chybí.
Závěr
AI není jen další technologická novinka, kterou nám firmy chtějí prodat. Je to technologie, která může pomáhat řešit problémy, s nimiž se lidstvo potýká už dlouho, a zároveň může vytvářet problémy zcela nové.
Byla by škoda, kdybychom se kvůli záplavě nepovedených obrázků, otravných reklam nebo špatně nasazených chatbotů připravili o některé z jejích největších přínosů. Stejně tak by bylo nebezpečné, kdybychom kvůli ať už nadšení z jejích možností nebo naštvání z jejích špatných využití přehlíželi její skutečná rizika.
Veřejná debata o AI totiž není jen debatou o její pověsti. Ovlivňuje, které technologie budeme vyvíjet, jaké využití budeme podporovat, co budeme regulovat a jakým rizikům budeme věnovat pozornost.
Nejde tedy o to, aby si AI získala dobrou pověst za každou cenu. Jde o to, aby si získala pověst, kterou si skutečně zaslouží. A abychom při jejím hodnocení nezaměňovali to, co je nejvíce vidět, za to, na čem nejvíce záleží.
