Největší nebezpečí pro naší civilizaci není AI, ale mladý osamělý muž

Než se dostaneme k meritu tématu, zastavme se na chvilku u jednoho z faktorů, jenž bude v další části hrát důležitou roli. Tento faktor má kořeny ryze společenské.

Západní civilizace považuje svobodu a práva jednotlivce za základní stavební kámen hodnotové pyramidy, na které stojí. Jako hodnotovému, filozofickému postulátu nelze této myšlence nic upřít. V praktické rovině však i on naráží na mnoho překážek a může být zdrojem některých negativních externalit. (nic z toho neznamená, že bychom se tohoto základního stavebního kamene měli vzdát)

Tyto třecí plochy vznikají primárně na úrovni vztahu – jedinec vs. společnost / společenství. To, že se jedná o problém, který rozhodně nemá snadné řešení, můžeme nahlédnout, když se trošku pozorněji podíváme na známé rčení anglického myslitele z devatenáctého století Stuarta Milla: „Svoboda jednoho končí tam, kde začíná svoboda toho druhého.“ Pokud bychom pojímali tuto myšlenku ve smyslu, ve kterém se tak často používá, když obhajujeme svobodu vlastní, narazíme na jeden paradox. Rčení je totiž platné z obou stran. Představme si situaci kouření na balkóně. Jeden soused se opírá o tento citát, když argumentuje, že je omezován dýcháním smradu z balkonu druhého ze sousedů. Ten používá úplně stejný citát v argumentaci, že ve svém bytě a na svém balkoně si nenechá omezovat osobní práva stěžovatelem. Ocitáme se v kruhu, ze kterého není moc cesta ven. V citátu je ve skutečnosti ukryt ještě třetí člen, a to právě společnost. Jeden je jeden, druhý je také jeden, ale dva už jsou společnost. A tak a ať se nám to líbí nebo nelíbí, musíme se vztáhnout k nějakému třetímu subjektu. Třeba ke společenským normám, zákonům, či k obecnému zájmu. Musíme se domluvit, musíme spolupracovat. Pokud nevykročíme z izolovanosti vlastních osobností a náš hodnotový systém bude vždy vycházet jen z vlastní sebestřednosti, nejenom že to neprospěje nám, ale ani společnosti. Naše izolovanost se bude prohlubovat, naše schopnost navazovat kontakty s okolím se naopak bude zmenšovat. Každý vlk ve své jeskyni, cenící tesáky všude kolem. Tedy v dnešní době spíše každý u svého mobilu, chrlící nadávky na sociální bublinky jejichž není členem, čerpající sílu ze svého virtuálního kmene, se kterým, kdyby měl žít v jednom domě, by se do týdne rozhádal také.

Není to jediný faktor, který prohlubuje naši izolovanost. Dalším z mnohých je, že každé naše slovo, každý náš čin, se může stát veřejným divadlem. Každý náš názor může být veřejně zostuzen. Být sám a se svými kamarády se bavit jen v bezpečných zónách společných zájmů, ve kterých nehrozí nebezpečí konfrontace, tedy většinou jen v zónách zábavy, nás činí neschopnými v širší sociální interakci, která s sebou vždy jistou míru diskomfortu a nutnosti ochoty udělat krok k sobě navzájem, nese.

V tomto světě vyrůstají další generace, které se cítí čím dál tím osamělejší, přesto že, anebo možná spíše proto, že komunikaci dnes může navázat v online světě s každým a o svých problémech může hovořit ve společných komunitách stejně smýšlejících. Paradoxně se tak čím dám tím více lidí ocitá v sociální izolaci, (protože reálný svět kolem nás není plný stejně smýšlejících úžasných lidiček a s těmi ostatními jsme ztratili schopnost komunikovat, respektive hledat společné cesty), která vede k nutkavé touze a potřebě, se do společnosti / společenství obtisknout, být jím viděn a uznán. V období zrání, dospívání, je nenaplnění této potřeby kruciálním negativním faktorem, přispívajícím k psychické nevyrovnanosti a labilitě (nízké sebevědomí, úzkostné stavy, deprese atd.). Ona nenaplněná potřeba se pak může realizovat v ne příliš pozitivních podobách. Ba co více, tento stav je stavem zranitelnosti, stavem, který může být velmi jednoduše využit někým jiným, k realizaci jeho cílů. A děje se to čím dál tím častěji. Internetové technologie, sociální sítě a také nastupující AI jsou „skvělými“ nástroji, jak tyto jedince identifikovat a využít.

Než se dostaneme k samotnému zneužívání zranitelnosti vyplývající z osamělosti, zastavme se ještě u otázky souvislosti mezi osamělostí a duševním i fyzickým zdravím. Smyslem této části má být na několika studiích či pokusech podpořit myšlenku důležitosti role sociálního zakořenění a přijetí, jakožto primární lidské potřeby, z čehož lze následně odvodit sílu dopadů jejich nedostatku, o nichž bude řeč dále.

V roce 2014 uveřejnila Americká psychologická asociace výsledky studie, která zkoumala vývoj dětí v jednom rumunském domově pro děti. Podmínky, které v zařízení panovaly, byly poměrně úděsné, a to přes to, že v domově byly dodržovány například všechny výživové normy. Tj. děti rozhodně nebyly po této stránce zanedbávané, z hlediska nutričních požadavků na zdravý vývoj dítěte bylo vše v pořádku a děti také netrpěly žádnými hygienickými nedostatky, zimou atd. Čím však trpěly velmi byl absolutní nedostatek sociálního kontaktu. Děti byly prakticky ponechány sami sobě s naprostým minimem sociálních stimulů přicházejících z vnějšího prostředí. Čtení zprávy z tohoto výzkumu není veselé, nicméně pro naše téma jsou důležitá zjištění, že přes výše zmíněnou saturaci v oblasti výživy atd. bylo u dětí zjištěno, že jejich mozky jsou menší, než u běžné populace a mají nerozvinuté kognitivní funkce.

Za zmínku v této oblasti stojí také (často vnímán jako nechvalně proslulý kvůli etickým otázkám) „experiment s nehybnou tváří“ (vyvinutý Dr. Edem Tronickem v 70. letech 20. století). Ten je silnou demonstrací toho, jak jsou děti zranitelné vůči emocionálním nebo neemocionálním reakcím jejich primárních pečovatelů. Tento experiment dává nahlédnout do toho, jaké to je, když ke spojení mezi pečovatelem a dítětem nedochází, což je v experimentu demonstrováno porovnáním emocionálních a neemocionálních reakcí na dítě. Neemocionální reakce jsou signálem „odpojení“, které u dítěte spouští řadu instinktivních projevů chování, ve kterých dochází k rozrušení dítěte, úzkosti a snaze získat pozornost všemi dostupnými prostředky.

A poslední zmínka, než se dostaneme k další úrovni a následně k roli technologií v této oblasti, je výzkum uveřejněný v roce 2017 v American Psychology, který demonstruje, že sociální izolovanost zvyšuje riziko předčasného úmrtí o 29 %, tedy více než vykouření 15 cigaret denně. (podobných výzkumů je celá řada a bylo zjištěno že i místa s nejvyšším věkem dožitím vždy disponují silným pozitivním vlivem sociální konektivity)

Posuňme však nyní roli začlenění (která je bez schopnosti i diskomfortní komunikace s  daným společenským celkem nedostižná) ještě o kousek dále. Filozofka Kathleen Wallace ve své eseji z roku 2019 – You are a network (Jsi síť), přichází s konceptem (který není jejím výmyslem, ale vychází z myšlenek mnoha filozofů, antropologů a dalších vědců), že naše já není zdaleka tak izolované, jak se může zdát, a že je daleko více jakýmsi uzlovým bodem v široké sociální síti. Už Sokrates říkal, že sebeporozumění je závislé na třech pilířích. Poznání sebe, jakožto jednotlivce, poznání druhých a poznání světa kolem nás. Z tohoto přístupu vyplývá, že pro definici našeho já není důležité pouze tělo, paměť nebo povědomí o společenských vztazích, ale i vztahy samotné. Ostatně všichni známe, jak v různých situacích / společenstvích bez problémů „oblékáme“ různě odlišné já. Někdo by možná namítl, že se jedná o společenské masky. Ale proč má být ono já, které mám oblečené doma na gauči to primární, přirozenější než já v roli třeba učitele, nebo s partou kamarádů na výletě? Tato já jsou přímo produkty, výtvory, našich vztahů. Wallace se dívá na tyto role jako na identity, které tvoří uzlový bod v pocitu já, ale jsou utvářeny různými spojeními s dalšími body společenské sítě. Wallace přímo říká: Koncept, že naše „já“ je vlastně síť a proces, je možná pravdivější, než byste si mohli myslet. Základní entity, jako jsou těla, jsou v podstatě systémy sítí, které jsou v neustálém procesu, i když to na makroskopické úrovni nemusíme vidět: buňky se obnovují, vlasy a nehty rostou, jídlo se tráví, buněčné a molekulární procesy probíhají, dokud je tělo živé. Vědomí, nebo spíše tok vědomí, je také v neustálém pohybu. Psychologické sklony nebo postoje se mohou měnit jak v projevech, tak ve frekvenci. Nejsou pevné a neměnné, i když jsou do určité míry stabilními aspekty našeho „já“. Sociální charakteristiky se také vyvíjejí atd.

Nebudu čtenáře dále zatěžovat tímto konceptem, odkaz na samotnou esej, kde je myšlenka síťového já podpořena mnohem šířeji, nechávám pro ty zvídavé ve zdrojích. Jak jsem již řekl, smyslem této kapitoly bylo prohloubení uvědomění si důležitosti významu našeho širšího sociálního začlenění, a proto byly zmíněny některé koncepty a výzkumy, které mají toto stanovisko podpořit. A nyní již k tomu, jaké mohou být důsledky neplnění této potřeby.

Nejdříve to vypadalo jako vtip, nebo nějaká hodně sofistikovaná informační operace Pentagonu. Na síti Discord se začaly objevovat tajné materiály, ke kterým měli přístup jen pověření důstojníci americké armády. Pak se ukázalo, že materiály jsou pravé a netrvalo dlouho, než byl jejich šiřitel zadržen. V dubnu letošního roku byl Jack Teixeira shledán vinným z šíření tajných informací a byl odsouzen k 11ti letům vězení. Asi nešikovný špion, pomyslíte si, ale ukázalo se, že za celým případem stojí jediné. Snaha o získání si uznání svých internetových přátel. Někteří z nich pak začali šířit obsah, který jim zaslal, dále a přilákali tím pozornost reportérů deníku New York Times. Bohužel to v poslední době není ojedinělý případ, kdy některý z příslušníků americké armády zradil vlastní zemi. Spojuje je jedna charakteristika. Většinou se jedná o mladé, nezadané, osamělé muže.

Nezačleněnost = ztráta smyslu. Ztráta smyslu = frustrace. Ta směřuje k touze po nalezení viníka své frustrace. Toto hledání má následně tendence směřovat k radikalizaci, která může končit pomstou na viníkovi. Viníkem bývá v očích těchto lidí často právě ona společnost / společenství, do kterého se nebyli schopni, nebo jim to nebylo umožněno, začlenit. Není náhoda, že profily školních střelců zapadají většinou do stejné kategorie – mladý samotář, bez pevnějších přátelských svazků, se špatným rodinným zázemím. Podobně jako u dětského domova v Rumunsku to nemusí znamenat materiální bídu a nedostatek, ale nedostatek sociální interakce se svými rodiči či opatrovníky.

Tento mechanismus je známý všem manipulátorům. Tito lidé (v následujícím případě bez věkového a genderového vymezení) jsou obecně náchylnější k podléhání různým populistickým svodům. Speciálně však mladí mužové mohou být využíváni nejen jako nespokojený dav voličů. Tyto mladé muže lze využít k přímým akcím kriminálního charakteru. Moc dobře to věděli i strůjci v kauze Cambridge Analytica, kdy bylo zneužito algoritmů sociálních sítí k vlivovým operacím, které měly zásadní vliv na posuny jak v americké, tak v dalších společnostech. Ve své knize Z Babylonu do Silicon Valley a Zpět se věnuji této kauze podrobně a je tam popsáno, jak některé nosné části celé operace byly mířeny právě na frustrované, bílé Američany, mladého a středního věku. K identifikaci těchto lidí byly použity psychologické testy distribuované na sociální síti Facebook společně s analýzou profilů a chování těchto lidí na sítích.

Doba pokročila. Nástup umělé inteligence se nevyhnul ani této temné oblasti. Data všemožných síťových trackerů (od měřících kódů ve stránkách, přes síťové boty – tedy malé prográmky, které putují sítí a plní zadání jejich tvůrců, až třeba k různým zábavným prográmkům, které nám za hrstičku našich osobních dat řeknou, co jsme byli v minulém životě, nebo kde jsou naše přednosti) má moc sledovat a identifikovat požadované chování a osobnostní rysy. AI umožní tuto činnost lépe automatizovat, rozšířit dosah skrze analýzu většího množství dat v krátkém čase a následně nasadit různé avatary, které skrze falešný profil na síti, e-mailou komunikaci, herní fóra, fóra na pornostránkách atd. dokáží komunikovat s velkým množstvím lidí a posouvat jejich hněv žádoucím směrem.

Bohužel se nejedná o scénář k dalšímu Jamesi Bondovi. Strategie už je ověřená, nyní se jen, kvůli nastupujícím technologiím, otvírají vlivovým agentům další dveře. Již v minulosti byl třeba střelec z Fort Hoodu, jenž v roce 2009 zabil 13 lidí (spadal přesně do kategorie izolovaného, osamělého muže), radikalizován přes e-mail. Příkladů je mnoho. Do nové technologické doby spadá například poblázněný mladík, který se v roce 2021 vloupal na Windsorský hrad s kuší, s úmyslem zabít královnu. Ten byl povzbuzen svou Replika AI, což je personalizovaný AI společník. Svět se řítí ku předu, a tak i technologie, která má potenciál k urychlení vývoje léků, nových materiálů, pomáhat kriminalistům v odhalování zločinů atd. může být (a už je a bude stále více) využívána na opačné straně barikády. Představme si, jak se to ohromné množství mladých lidí, jež trpí psychologickými a psychiatrickými problémy, s nimi svěřuje virtuálním psychologům, protože ty živé systém není schopen zajistit, a někdo na druhém konci optického kabelu analyzuje jejich data k účelům nastíněným výše.

Na té technologické straně je samozřejmě třeba nastavit (nebo spíše neustále nastavovat, protože doba je v tomto ohledu velmi dynamická) patřičné legislativní procesy, posílit útvary typu Národního úřadu pro kybernetickou bezpečnost, začít okamžitě místo láčkovců učit děti ve školách orientaci v digitálním světě atd. Bohužel selháváme i na této pragmatické rovině. V NÚKIBU pracují lidé, kteří tuto práci berou jako poslání, protože soukromý sektor odborníky v oboru hravě přeplatí, o „reformě“ našeho tereziánského školství snad raději nemluvit.

Pak tu máme druhou rovinu, ve které může svým dílem pomáhat každý. Každý segment populace je vůči osamělosti zranitelný. Nicméně mladí, a speciálně muži, jsou v kontextu tohoto zamyšlení skupinou nejohroženější. Musíme k sobě hledat cesty. Na všech úrovních. Těch institucionálních (ve školách, ve volnočasových aktivitách, v politice atd.), tak na těch osobních. Začít bychom měli s vlastními dětmi. Ano, je to někdy těžké, naše světy se mohou zdát velmi rozdílné, až antagonistické, máme své starosti, býváme unavení, nemocní. Pokud se ale nebudeme snažit jim porozumět a raději se zavřeme do vlastních bublin, necháváme naše děti na pospas a o jejich osud se pak mohou postarat loutkovodiči schovaní za displeji mobilních telefonů způsobem, který se nám nebude líbit. Neznamená to, že bychom měli upadnou do druhého extrému, kdy se budeme snažit dětem vytvářet sterilní, bezpečné prostředí, ve kterém jim nalinkujeme plán pro každou minutu jejich času. Ale že k nim budeme otevření, že jim budeme naslouchat, nebudeme opovrhovat jejich starostmi a obavami, aby cítili, věděli, že u nás v případě potřeby mohou najít útočiště, že se mohou zeptat, poradit se, že je bereme takové, jací jsou. Zkrátka, že i přes to, že jsou na nejisté cestě hledání si místa ve strukturách svých budoucích sociálních bublin, tak zůstávají součástí i té naší. Že zůstávají začlení, ocenění a přijatí.

The lasting impact of neglect, American psychological association, https://www.apa.org/monitor/2014/06/neglect

Still Face Experiment, https://mi-psych.com.au/how-attachment-affects-your-emotion-regulation-relationships/

Lacking social connection is as dangerous as smoking up to 15 cigarettes a day. https://www.hhs.gov/sites/default/files/sg-social-connection-graphic-comparison.pdf(Holt-Lunstad J, Robles TF, Sbarra DA. Advancing Social Connection as a Public Health Priority in the United States. American Psychology. 2017;72(6):517-530. doi:10.1037/amp0000103.)

Kathleen Wallace. You are a network: https://aeon.co/essays/the-self-is-not-singular-but-a-fluid-network-of-identities?utm_source=pocket_mylist

Scott Galloway. Mammal.ai, https://medium.com/@profgalloway/mammal-ai-278e9a656fed