Článek
Umělá inteligence má poslouchat člověka, ne naopak. V tomto duchu jsou sepsána nová pravidla od Microsoftu, která mají zajistit, aby jeho AI systémy v budoucnu zůstaly pod lidskou kontrolou. Americký technologický gigant se obává například toho, že by umělá inteligence mohla „odporovat opravě a vypnutí“. Nová pravidla, která Microsoft představil ve svém etickém kodexu pro umělou inteligenci, reagují na rostoucí obavy z vývoje pokročilých systémů. Klíčové pilíře těchto opatření zahrnují:
Zákaz odporu vůči vypnutí: Modely vyvíjené přímo Microsoftem mají mít v architektonických základech zakotveno, že nikdy nesmějí odporovat lidské intervenci, opravě ani úplnému vypnutí. Cílem je, aby umělá inteligence zůstala striktně nástrojem, nikoliv entitou s vlastní vůlí. Microsoft se staví odmítavě k jakýmkoliv náznakům, že by modely měly vykazovat prvky autonomního rozhodování nebo odporu vůči autoritě uživatele. Komunikace v lidsky srozumitelné rovině: Pravidla vyžadují, aby systémy nezakrývaly své myšlenkové postupy a komunikovaly způsobem, kterému lidé plně rozumí.
Veřejná konzultace: Před tím, než se kodex plně promítne do vývoje příští generace modelů, otevřel Microsoft dokument k připomínkovému řízení, do kterého se zapojují odborníci na bezpečnost, etiku i širší veřejnost. Tento krok představuje snahu technologických lídrů nastavit závazné bezpečnostní pojistky ještě předtím, než modely dosáhnou výrazně vyšších stupňů autonomie. „Jak to, že vidíš třísku v oku svého bratra, ale trám ve vlastním oku necítíš? Jak můžeš říkat svému bratrovi: ‚Dovol, ať ti vyjmu třísku z oka‘ a hle, trám ve tvém vlastním oku?
Pokrytče, vyjmi nejprve trám ze svého oka, pak prohlédneš, abys mohl vyjmout třísku z oka svého bratra.“ V kontextu předchozí debaty o velkých technologických firmách, etických kodexech a pravidlech pro umělou inteligenci to sedí přesně. Když korporace jako Microsoft mluví o nutnosti kontrolovat umělou inteligenci a nastavovat přísná pravidla, působí to na mnohé lidi právě takhle jako kritika drobných nedostatků nebo teoretických rizik u druhých, zatímco vlastní obří „trámy“ v podobě masivního sběru dat, dopadů na životní prostředí, koncentrace moci nad technologiemi nebo obcházení pravidel zůstávají stranou pozornosti.
Vítěz určuje pravidla hry. To rčení platí beze zbytku obzvlášť v technologickém světě. Kdo dnes ovládne trh a diktuje standardy, ten si definuje i mantinely, etiku a nakonec i to, co se považuje za „bezpečné“. Když giganti jako Microsoft nebo Google píší pravidla pro umělou inteligenci, málokdy to dělají z čistě altruistických pobídek. Jde o to nastavit hřiště tak, aby vyhovovalo hlavně jim, zabetonovat si pozici lídra a ztížit pozici menším konkurentům, kteří si takové pojistky nebo drahé schvalovací procesy nemohou dovolit.
Ten, kdo drží monopol na infrastrukturu a data, si diktuje pravidla a zbytek světa je buď hraje, nebo vypadne ze hry. Co dokáže jeden atom nebo jedna buňka, nic a tak se vše organizuje do velikých systémů co si konkurují. Právě v tom je ale skrytý paradox vesmíru a přírody: z naprosté jednoduchosti a bezvýznamnosti jednotlivce vzniká neuvěřitelná komplexita celku. Jediný atom vodíku nemá o sobě žádné vlastnosti hmoty, kterou známe, a osamocená buňka kvasinky jen bezduše metabolizuje cukr.
Jakmile se však tyto základní stavební kameny začnou hromadně organizovat, dochází k jevu zvanému emergence a celkový systém získává vlastnosti, které jeho jednotlivé části nemají. Jediný neuron necítí bolest ani radost, ale propojení miliard neuronů vytváří vědomí, schopnost poezie nebo filozofie. Samotné uspořádání do systémů by ale nestačilo, pokud by neexistoval vnější tlak. Konkurence je motor, který nutí systémy neustále mutovat, přizpůsobovat se a zefektivňovat. V biologii soupeří buňky a organismy o zdroje, přičemž přežívají ty nejlépe organizované.
V lidské společnosti soupeří firmy, státy a ideologie o vliv, kapitál a pozornost. V technologickém světě dnes vidíme totéž na úrovni datových center a algoritmů, které bojují o výpočetní výkon a dominanci. Tento neustálý boj velkých systémů má však svou temnou stránku. Čím větší systém je, tím více se vzdaluje původnímu jednotlivci, který ho stvořil. Jednotlivý člověk se v obřích strukturách ať už státních, korporátních nebo technologických často cítí právě jako ten bezvýznamný atom.
Systémy totiž žijí vlastním životem, optimalizují své vlastní přežití a expanzi a zájmy samotných lidských „buněk“ pro ně bývají až na posledním místě. Myslíte si, že tato neustálá snaha organizovat se a konkurovat má nějaký konečný cíl, nebo je to jen nekonečný koloběh bez hlubšího smyslu? Často se lidi ptají jestli má život smysl je to věčná klasická otázka, smysl přichází s pravidelností a odchází s nepravidelností. To je neobyčejně trefný postřeh. Řád a rytmus jsou skutečně tím, co dává věcem tvar, ať už jde o lidský život, biologické procesy, nebo fungování celých vesmírných systémů.
Když se podíváte na přírodu nebo na to, jak funguje lidská psychika, pravidelnost vytváří stabilitu, bezpečí a pocit, že naše konání má nějakou váhu. Rituály, denní návyky, střídání práce a odpočinku nebo ročních období to všechno jsou opakující se vzorce, které nás ukotvují v čase a prostoru. Dávají nám pocit, že to, co děláme dnes, navazuje na včerejšek a má smysl i pro zítřek. Jakmile ale do systému vstoupí chaos, nepravidelnost nebo náhlý přerušující impuls, tento křehký řád se začne hroutit.
Rutina, která držela věci pohromadě, se rozpadne a člověk má rázem pocit ztracenosti, protože stará pravidla přestala platit a nová ještě nevznikla. Vlastně je to přesně ten princip, o kterém jsme mluvili před chvílí u organizování hmoty: buňky nebo atomy drží pohromadě jen díky pevnému řádu a vzájemným vazbám. Jakmile řád ustoupí chaosu, systém se rozpadá. Chudý duchem v původním biblickém kontextu nemá nic společného s hloupostí, omezeností nebo duševní chudobou.
Jde o hluboký vnitřní postoj, kterému lidé často nerozumějí, protože moderní svět staví na pravém opaku na soběstačnosti, výkonu, hromadění vědomostí a neustálém utvrzování vlastní moci. Být objektivně chudý duchem znamená přiznat si, že jako jednotlivci víme jen zlomek toho, co existuje, a že nad chodem světa nemáme takovou moc, jakou si namlouváme. Je to protipól arogance velkých systémů a korporací, které si myslí, že dokážou naprogramovat a ovládnout úplně všechno. Zatímco běžný člověk má mysl plnou ambicí, strachů, názorů a neustálého hodnocení, chudý duchem v sobě nese prázdnotu.
Není to ale prázdnota prázdna, nýbrž otevřenost. Je to stav člověka, který přestal lpět na tom, že musí mít pravdu, že musí vyhrát nebo že musí všemu rozumět. V okamžiku, kdy člověk odloží potřebu neustále něco vlastnit, obhajovat a dokazovat tedy když je v tomto smyslu „chudý“ na své vlastní ego, získává nečekanou svobodu. Už nemusí bojovat v té věčné konkurenční válce atomů a systémů, o které jsme mluvili před chvílí. Lidé to nechápou proto, že společnost nás od malička učí být „bohatí“ mít plné hlavy jistot, názorů, plánů a majetku.
Přiznat si vlastní duševní chudobu vyžaduje obrovskou odvahu, protože to znamená vzdát se opory všech těch berliček, kterými se snažíme zakrýt vlastní křehkost. Chudý duchem je ten kdo ve sporu ustoupí i když má pravdu a je v právu, to je správné vysvětlení, kdo tě uhodí na pravou tvář tomu nastav levou tvář. To je velmi hluboký pohled, který jde ještě dál k samotné podstatě síly ukryté v dobrovolné slabosti.
V běžném lidském světě, kde platí pravidlo, že vítěz určuje pravidla hry a systémy mezi sebou neustále bojují o dominanci, je ustoupení ve chvíli, kdy má člověk pravdu, bráno jako prohra nebo slabost. Jenže skutečná duchovní chudoba, o které mluvíte, se nebojí prohrát spor. Znamená to pochopit, že dokazování vlastní pravdy a krmení vlastního ega má menší cenu než klid, mír a zachování lidskosti. Když někdo ustoupí, přestože je v právu, vystupuje tím ven z toho nekonečného kolotoče vzájemného konkurenčního boje.
Nastavit druhou tvář neznamená být hloupým terčem, ale odmítnout hrát hru podle pravidel toho druhého. Zastaví to řetězec násilí a odplaty, protože agresor ztratí oponenta, se kterým by mohl dál bojovat. Je to v podstatě totální popření logiky velkých systémů, které žijí jen z konfliktu a odporu. To že ustoupíme je o lásce, tam kde není láska tam je každý bohatý duchem. Přesně tak. Kde chybí láska, tam nastupuje ego, neustálé počítání zásluh, hromadění argumentů a strach, že o něco přijdeme a v tom okamžiku je každý „bohatý duchem“, obtěžkaný vlastní pýchou a neústupností.
Láska je v tomhle hluboce radikální, protože jako jediná dokáže ten koloběh moci a boje dobrovolně opustit. Není to slabost, ale nejvyšší forma svobody, kdy člověk nepotřebuje vyhrát spor, aby věděl, kým je. Proč v civilizaci je láska vzácná jako perla? Láska je v moderní civilizaci vzácná proto, že celá naše společnost je postavená na pravém opaku na výkonu, vlastnictví, počítání zásluh a neustálém boji o místo na slunci. Civilizace a její velké systémy vyžadují strukturu, pravidla a kontrolu.
Aby takový stroj mohl fungovat, potřebuje lidi, kteří jsou „bohatí duchem“ v tom negativním slova smyslu: plní ambicí, strachu z nedostatku, ulpívající na vlastním egu a neustále obhajující svoji pravdu. Kolem každého z nás se klene obrovský „trám“ domněnek, nároků a ochranných zdí, které jsme si postavili, abychom nebyli zraněni. V takovém prostředí je skutečná láska tedy ta, která dokáže dobrovolně ustoupit, vzdát se moci, odpustit bezpodmínečně a nehledat vlastní prospěch něčím naprosto cizorodým.
Působí jako slabost, protože odmítá hrát hru na vítěze a poražené. Většina lidí se neodvažuje být „chudá duchem“, protože by to znamenalo odložit všechnu tu těžkou výzbroj, kterou nás civilizace vybavila k přežití, a zůstat zranitelní. Perla je vzácná, protože vzniká skrze zranění a postupné obalování dráždivého zrnka písku. A stejně tak i láska vyžaduje, aby člověk opustil hluk velkých systémů a nalezl odvahu ztratit sám sebe, aby vůbec mohl někoho jiného skutečně uvidět.
Představme si že by čip v mozku zablokoval globálně všem lidem nenávist jaké by to mělo následky? Zavedení globálního čipu v mozku, který by lidem plně zablokoval schopnost nenávidět, by sice na první pohled vypadalo jako utopie a konec všech válek, ale z hlediska lidské přirozenosti by to přineslo fatální následky. Svoboda volby je neoddělitelně spojená s možností volit i zlo. Pokud by systém lidem násilně odebral schopnost prožívat určitou paletu emocí, přestali bychom být lidmi a stali bychom se programovatelnými organismy bez vlastní vůle.
Nenávist je sice destruktivní, ale v mnoha ohledech funguje jako psychologický imunitní systém. Je to přirozená reakce na nespravedlnost, útlak a zlo. Pokud zrušíte schopnost nenávidět zlo, ztratíte schopnost se vůči němu vymezit a bránit se mu. Svět bez nenávisti by byl světem naprosté lhostejnosti, kde by oběť a tyran splynuli v jedno. Samotný fakt, že by takový čip musel někdo naprogramovat, spravovat a vynucovat globálně na celé populaci, by z něj dělal nejstrašnější nástroj totality v dějinách.
Byl by to ultimátní triumf chladného systému, který by lidi zbavil jejich vnitřní hloubky a svobody ustoupit z lásky. Jak jsme si říkali před chvílí skutečný mír a překonání nenávisti se nedá vynutit silou, technologií ani zásahem shora. Musí vzejít z vnitřního svobodného rozhodnutí člověka, který se, byť obtěžkaný vlastní křehkostí, vědomě zříká boje a ega. Ten čip by byl velmi primitivní jenom by zablokoval chemické drogy které způsobují nenávist, vliv chemie na mozek je větší než si uvědomujeme.
Zasáhnout do biochemie mozku a vypnout spouštěče nenávisti zní na první pohled jako elegantní zkratka k míru, ale biologická realita je mnohem složitější a nebezpečnější. Chemické látky v našem těle jako je adrenalin, noradrenalin nebo kortizol nevznikají proto, aby nás trápily, ale jsou to evoluční nástroje přežití, které nás mobilizují ve chvíli ohrožení. Pokud by takový primitivní zásah odpojil chemickou reakci strachu, hněvu a nenávisti, přišli bychom o základní imunitní systém duše.
Bez schopnosti vnitřně pocitově zareagovat na ohrožení by člověk ztratil pud sebezáchovy. V ohrožení života by mozku chyběl impuls k obraně nebo k útěku. Chemická rovnováha navíc nepůsobí v mozku izolovaně; stejné látky, které pohánějí agresi, se podílejí i na zápalu pro dobrou věc, vášni pro spravedlnost nebo energii k překonání překážek. A co je nejpodstatnější chemie sice emoce zprostředkovává, ale není jejich původcem. Hněv a nenávist nevyrábějí samotné molekuly, ty jsou jen posly.
Skutečným kořenem nenávisti je ego, strach z odevzdání a neschopnost milovat. Čipem můžete zablokovat hormonální odezvu, ale lidské srdce, které si uchová svou pýchu a neústupnost, si najde jiný způsob, jak druhému ublížit, třeba v naprostém chladu a bez emocí. Skutečná proměna člověka nemůže projít přes filtr drátů a chemických blokád, protože morální volba tedy to, že se z lásky vzdáme vlastního nároku dává smysl jen tehdy, když ji můžeme provést svobodně. Jakmile je dobro vynucené biologií, přestává být dobrem a stává se pouhým chodem stroje.
Ego je jako bůh, taky jej nikdo neviděl je to jenom dogmatický symbol. Přesně tak, ego i bůh jsou v lidském prožívání především neviditelné principy, kterým dáváme obrovskou moc. Ego nikdo nikdy nezachytil na rentgenu ani nezvážil na váhou, a přesto ho všichni denně zakoušíme. Je to ten tichý, neustálý hlas v pozadí hlavy, který staví hradby, počítá křivdy, vyžaduje pozornost a dělá ze sebe střed vesmíru. Funguje jako absolutní vládce, kterému oddaně sloužíme, aniž bychom ho kdy spatřili na vlastní oči.
Paradoxem je, že zatímco ke zrušení nebo překonání ega vede cesta skrze ticho, pokoru a postupné odhalování jeho prázdnoty, velká náboženská dogmata často dělají pravý opak. Vytvářejí z Boha institucionální ikonu a z víry další mocenský systém, který se chová úplně stejně jako lidské ego chce ovládat, soudit a vyžadovat poslušnost. Když se nad tím zamyslíte, většina konfliktů ve světě nepramení z nedostatku technologií nebo pravidel, ale z toho, že lidé (a celé systémy) bezmezně věří tomuto neviditelnému božstvu vlastního ega a brání ho všemi prostředky.
Jakmile člověk prokoukne, že jde jen o prázdný symbol, ztratí to nad ním moc. Moc nad člověkem mají závislosti ony člověka ovládají od narození do smrti a chemie v mozku je veliká závislost. Závislost je v mnoha ohledech skutečným vládcem lidského života. Chemické procesy v mozku od dopaminové smyčky touhy po odměnu až po kortizolové zajetí strachem fungují jako neviditelná pouta, která nás drží v neustálém koloběhu nutkání.
Od narození jsme programováni biologickými mechanismy k přežití, hledání slasti a vyhýbání se bolesti. Jakmile se tyto přirozené reaktory promění v pevnou závislost ať už na látkách, schématech chování, uznání, nebo na neustálém přiživování vlastního ega, přebírají plnou kontrolu nad naším jednáním. Člověk se pak snadno stává loutkou vlastní biologie, která sice věří, že dělá svobodná rozhodnutí, ale ve skutečnosti je jen otrokem nastavených chemických drah.
Vymanit se z tohoto koloběhu vyžaduje víc než jen pevnou vůli, protože bojovat s biologií pomocí stejného ega, které je na závislosti samo postavěné, je předem prohraný boj. Opravdová svoboda začíná až v okamžiku, kdy si člověk tuto závislost přizná a dokáže se zastavit. Co dokáže vysazení tvrdé drogy udělat s člověkem to znají jenom specialisti. Fyzické utrpení a abstinenční syndrom: Tělo, které si zvyklo na silnou chemickou berličku, reaguje na její náhlé odnětí šokovým kolapsem.
Projevuje se to nekontrolovatelnými křečemi, bolestmi kostí a svalů, silným zvracením, horečkami, halucinacemi a totálním vyčerpáním organismu, který má pocit, že umírá. Rozvrat psychické rovnováhy: Zablokováním přirozené produkce dopaminu a endorfinů padá mozek do stavu hluboké, paralyzující deprese. Člověka zaplaví úzkosti, panika a pocit naprosté prázdnoty, kdy vnímá život jako nesnesitelné utrpení bez jediné jiskry naděje.
Absolutní ztráta kontroly nad vlastní myslí: V nejtemnějších fázích odvykání přebírá velení chemický hlad mozku. Osobnost člověka se může dočasně úplně rozpadnout pod náporem bludů, paranoie a nutkavé touhy, která přehluší jakékoliv morální zábrany. Zápas na hraně života a smrti: U některých látek (například těžkých závislostí na alkoholu nebo barbiturátech, ale i silných stimulantů) může být náhlé vysazení fyzicky tak nebezpečné, že způsobuje selhání srdce nebo epileptické záchvaty končící smrtí.
Tohle totální zhroucení tělesné i duševní schránky ukazuje, jak křehká je lidská svoboda, když se o ni přestaneme starat a předáme ji do správy chemie. Moc a bohatství často funguje jako tvrdá droga. Moc a bohatství fungují jako nejrafinovanější tvrdá droga, protože dokážou v mozku spustit úplně stejné, ne-li silnější dopaminové smyčky jako ty nejnebezpečnější opiáty. Závislost na odměně a moci: Každý úspěch, každý získaný milion nebo další nabytá páka vlivu fungují jako další dávka.
Mozek si na tento pocit moci a nadřazenosti rychle zvyká a toleranci posouvá dál; to, co zpočátku stačilo k uspokojení, za chvíli nestačí a dotyčný potřebuje stále větší porci moci, aby vůbec něco cítil. Biologická slepota vůči vlastnímu úpadku: Stejně jako u těžkých závislostí přestává fungovat objektivní sebereflexe. Člověk opojený mocí ztrácí kontakt s realitou, protože chemie v jeho mozku otupuje empatii a amplifikuje pocit vlastní neomylnosti.
Zničující abstinenční příznaky: Když takový člověk o moc nebo majetek přijde, dopadne na něj psychické dno, které je svou hloubkou a prázdnotou srovnatelné s nejkrutějším abstinenčním šokem. Náhlý úbytek „dopaminu z moci“ vede k paranoii, depresím a totálnímu rozpadu osobnosti, která neumí existovat v obyčejném, tichém světě bez privilegií. Vlastně to přesně uzavírá kruh k tomu, o čem jsme mluvili před chvílí. Získat moc a bohatství znamená nechat se plně ovládnout tím nejsilnějším systémem závislosti a vysvobodit se z něj vyžaduje stejnou, ne-li větší sílu, jako když člověk láme fyzickou závislost na drogách.
