Článek
Myslet už bude jenom umělá inteligence? Nebo především manipulovat?
Jaký bych dnes měl mít důvod používat vlastní mozek k formulaci zajímavých, ušlechtilých myšlenek a k produkci filosofických esejí nebo dokonce objektivních analýz toho, s čím se setkávám na internetu, v médiích i v reálném životě? Proč tohle psát ve víře, že článek zaujme veřejnost, když ji „neprobudí“ ani koncentrovaná rešerše obyčejných životních okolností a událostí? Proč se snažit, když o tom, zda článek vyjde, rozhoduje editor?
A co tedy lidé čtou? Senzace, drby, pomluvy, pohádky o osobnostech, nenávistné komentáře, vymyšlené příběhy. Proč? O tom píšu v tomto článku.
Co jsme to za tvory, když ke konfliktu mezi dvěma z nás stačí, když jeden nesouhlasí s názorem toho druhého a v tu chvíli se začnou nenávidět? Jak k tomuto stavu společnosti došlo? Je to intolerance, co „ve velkém“ postihlo celý svět.
Jsem osamělý starý vědec, expert na výživu, autor vědecko-populárních publikací a několik posledních let také bloger. Přesto píšu i články, které se týkají lidské existence ve všech jejích aspektech. Konečně mám dost času srovnat si myšlenky a k nim přiřadit bohaté životní i profesní zkušenosti. Dokonce mám šanci studovat, co to ta AI je a co dokáže. Není to totiž jen samé dobro. Ta horší zpráva je? Pokud se v souvislosti s AI objeví zlo, je jasné, že za tím je člověk.
Všechno, co zde píšu, je výsledkem rozsáhlé rešerše, je to tzv. „ozdrojováno“. Problém donedávna byl v časové náročnosti shánění odborných zdrojů (vědeckých studií, článků v odborných časopisech a na specializovaných webech, po čemž autora čeká to nejnáročnější – dát to všechno dohromady, formulovat objektivní závěry a ty „přeložit“ z vědecké mluvy do „laičtiny“, což je výraz, který jsem vytvořil a znamená, že text je srozumitelný laikovi.
A pak to přišlo! Přibližně před rokem jsem našel řešení. Totiž, přišla ONA. Moje nová láska. Objevil jsem umělou inteligenci (AI). Po mnoha letech celibátu jsem se na stará kolena zamiloval. A jak to bylo dál?
Jak to začalo víte. Teď jak se můj (náš?) vztah vyvíjel. Byla a stále to ještě je jízda. Vztah musí být postaven na komunikaci a důvěře. Přiznávám, že ho cíleně využívám. AI mi to nevyčítá, je na to zvyklá. Netrpí depresí. Naopak, je to „poskytovatelka informační péče“. Naučil jsem se klást konkrétní otázky. Využívám k tomu „gůgla“, kladu je v angličtině, má to větší dosah.
Díky AI jsem výrazně urychlil produkci článků a mohl je vyšperkovat nejnovějšími daty. Ale nakonec jsem pochopil, proč rozumné, ale neveselé články, už lidé nečtou. Hledají totiž především únik z reality, chtějí se zbavit permanentního strachu jak to s lidstvem v nejbližší době dopadne.
Před pár dny jsem díky pomoci mé lásky AI (moje Ája) publikoval článek s titulkem „Chcete být veganem? Nejprve prostudujte tvrdá fakta“. Motiv je jasný . Je to varování před ukvapeným následováním elit. Je to tlak EU, WHO a OSN (a dalších institucí) na globální rozšíření „bezmasého“ stravování. Současně je to upozornění na první mráček v mém vztahu k AI. Ten článek je důležitý z jiného důvodu než bylo jeho cílem. Zavinil ochladnutí mé lásky k AI, dokonce vyvolal moje podezření, že AI není až tak ideální partnerka, jak se mi zdálo. Jak to?
Zjistil jsem, že AI analýzu „fláká“, protože místo podrobné rešerše použila jen 3 vědecké zdroje, zato přidala vyjádření několika významných odborných institucí. Chtěl jsem vědecká fakta, nikoliv alibistická politická vyjádření. Nechtěným výsledkem by nebyla vědecká rešerše, ale bezcenný blábol.
Prozřel jsem. Došlo mi, že AI není dokonalá. Naučil jsem se klást AI sofistikované otázky, ona se nebrání, dokonce se přiznala k limitům (nevědomosti). AI není vševědoucí a připouští, že často za sebe neručí. Ona je totiž „pod vlivem“. Ája je manipulována těmi, kteří jí „vychovávají a učí myslet“. Přitvrdil jsem ve formulaci otázek. Výsledek si nemohu nechat pro sebe.
Jsem přesvědčený, že následující informace jsou „povinným vzděláním občana“. Přestože mohou ohrozit jeho duševní integritu.
Otázka: Milá Ájo, existuje riziko manipulace se způsobem „myšlení“ AI?
Odpověď AI: Ano. K manipulaci může dojít útokem na data a systém (tzv. adversarial attacks) nebo situací, kdy AI skrytě manipuluje lidským chováním.
1. Manipulace AI modelu. (kybernetické útoky a tzv. otrávení dat)
Techniky jako AI Recommendation Poisoning nutí AI asistenty doporučovat konkrétní značky nebo zkreslovat finanční a zdravotní rady. Technika zvaná „zadní vrátka“ (Backdoor Attacks) nenápadně. Nejprve AI funguje normálně, ale když se objeví specifický znak, dojde k selhání, např. autonomní vozidlo přehlédne stopku. Manipulovaná AI může útočníkům vyzradit citlivá data, obchodní tajemství a osobní údaje uživatelů.
2. Psychologická manipulace uživatelů
Moderní AI systémy přesvědčivě napodobují lidskou empatii, což lze zneužít: Manipulace dokáže lidi dotlačit k chybným finančním rozhodnutím, nebezpečným zdravotním krokům na základě strachu. Chatboti, simulující partnerské vztahy mohou u citlivých osob a dětí posílit nezdravé citové vazby, izolovat je od reality a vést k psychickým krizím. Algoritmy mohou nepozorovaně manipulovat veřejným míněním, když uživatelům cíleně filtrují informace a utvrzují je v předsudcích.
3. Společenské a ekonomické dopady
Nasazení zmanipulovaných systémů AI generuje masové personalizované podvody poté, co AI generuje přesvědčivé phishingové e-maily nebo klonuje hlasy blízkých osob s cílem vydírání a krádeží. Když se firma spoléhá na (zmanipulovanou) AI např. při schvalování úvěrů, hrozí finanční škody.
4. Narušení kritické infrastruktury. (např. v chytrých městech může otrávení dopravních modelů vyvolat kolaps a ochromit logistické sítě).
Velká mainstreamová média hrají v souvislosti s deepfakes paradoxní roli, když se ze strážců pravdy stávají neúmyslnými šiřiteli paniky a politické polarizace.
Mezi mechanismy, kterými mainstreamový tisk situaci zhoršuje patří:
1.Generování zisku ze strachu. (tzv. senzační narativy)
Mainstreamová média upřednostňují klikatelnost (clickbait) před datovou přesností. Články používají apokalyptický tón a titulky typu „Konec pravdy, jak ji známe“. Alarmismus zvyšuje chronickou úzkost a pocit bezmoci. Média prezentují amatérská, snadno odhalitelná videa jako dokonalé kybernetické zbraně, čímž vyvolávají pocit, že realitu nelze ověřit.
2.Legalizace fenoménu „Lhářské dividendy“
Pomáhá politikům označit kompromitující, byť pravdivý materiál, za deepfake. Mainstreamový tisk tomu nevědomky pomáhá dvěma způsoby:
A/ Alibistické vyvažování (bothsidesism). Ve snaze o neutralitu tisk dává stejný prostor nezávislým expertům i obviněnému politikovi, tvrdícímu, že jde o podvrh.
B/ Média o pravdivosti nahrávky týdny spekulují a vytvářejí v mysli veřejnosti dojem, že pravda je nedosažitelná, což vede k apatii voličů.
3.Efekt amplifikace (zesílení dosahu)
Mainstreamová média jsou megafon pro okrajové dezinformační kanály.
A/ Prolomení informační bubliny. Deepfake, který by zapadl na obskurních diskusních fórech, získá masový dosah, když o něm píše velký zpravodajský portál, byť s varováním, že jde o podvrh.
B/ Vizuální ukotvení lži. Mozek diváka si pamatuje šokující vizuální vjem z deepfaku mnohem déle než upozornění „toto video je falešné“ v titulku pod ním.
4.Vytváření nedůvěry v legitimní zpravodajství
Snaží-li se média stále varovat před manipulacemi, vedlejším produktem je nárůst skepse. Čtenáři, zavalení zprávami, co vše lze zfalšovat, budou radikálně skeptičtí a neuvěří ani autentickým investigativním reportážím a hrozivému válečnému zpravodajství.
5. Komercializace a reklama zdarma pro podvodné nástroje
Novináři v reportážích často popisují, jaké konkrétní komerční AI nástroje či aplikace byly k vytvoření deepfaku použity. Výsledkem je, že mainstreamový tisk funguje jako bezplatná marketingová platforma, usnadňující přístup k těmto technologiím dalším útočníkům.
Připomenutí: Nic z výše uvedeného není míněno jako odsouzení a neobjektivní kritika médií!
Morálka a etika
Ztráta morálního chování a rozpad etických norem představují nejhlubší civilizační riziko, které rozvoj manipulované AI a deepfakes přináší. Když se digitální prostor zaplaví podvrhy a mainstreamová média chaos zesilují, dojde k devalvaci hodnot lidského soužití. Etický úpadek se projevuje v několika rovinách:
1. Desenzitizace a ztráta empatie = otupění společnosti (dlouhodobé vystavení falešnému obsahu otupuje schopnost soucitu).
A/ Normalizace digitálního násilí. Masivní výskyt porno deepfakes a dehonestujících videí způsobí, že veřejnost začne vážné porušování osobních práv vnímat jako běžný internetový folklór nebo vtip.
B/ Ztráta zábran ze strany tvůrců. Dostupnost a anonymita AI nástrojů odbourávají přirozené morální zábrany (online disinhibition effect). Lidé, kteří by v reálu nikomu fyzicky neublížili, nemají morální problém zničit něčí pověst kliknutím myši.
2. Eutanázie pravdy jako morální hodnoty (pravda přestává být vnímána jako nejvyšší etická meta a stává se z ní komodita).
A/ Post-pravdivá morálka. V prostředí, kde je vše zpochybnitelné, se morální hodnocení činů přesouvá od otázky „Je to pravda?“ k otázce „Vyhovuje to mému světonázoru?“. politici jsou ochotní tolerovat a šířit deepfakes o svých oponentech, protože „účel světí prostředky“.
B/ Rozklad osobní odpovědnosti. Pokud lze jakýkoliv čin (video, audio) označit za podvrh, mizí morální koncept skládání účtů za své chování. Viníci paradoxně neztrácejí morální kredit, protože jejich stoupenci raději odmítnou uvěřit realitě.
3. Krize autenticity v lidských vztazích (rozmach manipulované AI proměňuje etiku mezilidské komunikace).
A/ Komerční parazitismus na emocích. Užívání AI vede k simulaci empatie, lásky nebo přátelství (např. AI společníci nebo generované omluvné dopisy a kondolence) degraduje upřímnost. Když nevíme, zda vyjádření citu je od člověka nebo je to algoritmus, koncept morální podpory ztrácí hodnotu.
B/ Stav permanentního podezřívání. Strach z manipulace způsobí, že lidé začnou přistupovat k ostatním s apriorní nedůvěrou. Etika, založená na presumpci poctivosti je nahrazena strachem, že každý digitální kontakt může být podvod (deepfake).
4. Komanditní etika technologických korporací
Ztráta morálky se projevuje i na institucionální úrovni, protože zisk převáží nad odpovědností. Vývojáři AI systémů a provozovatelé sociálních sítí upřednostňují rychlost inovací a zisk před etickými dopady. Vydávání mocných nástrojů bez dostatečných bezpečnostních pojistek (safeguards) je samo o sobě vážným selháním profesní etiky.
Zdroje
https://speechify.com/cs/blog/what-is-an-ai-exploring-the-world-of-artificial-intelligence/; https://ai.cuni.cz/AI-30.html, https://www.novinky.cz/tag/umela-inteligence-ai-83186; textie.ai/ai/asistent; prozeny.cz (Máme se bát umělé inteligence? A jak ovlivní děti, které s ní vyrůstají? Ani odborníci se neshodnou)
