Článek
Přijde vám dopis z banky. Systém jej vysvětlí, připraví potřebné podklady a v bance vás dovede ke správné přepážce. Nic však nepředá, dokud mu to výslovně nepovolíte. Následující text není popisem hotové služby, ale ilustračním scénářem, jak by principy BE HUMAN mohly spojit pohodlí s lidskou kontrolou. Jedno ANO totiž nemá znamenat ANO navždy.
STATUS: ILUSTRAČNÍ SCÉNÁŘ
Normativní součást BE HUMAN CORE: NE
Existující implementace: NE
Prakticky ověřeno: NE
Účel: Jednoduchý příklad možného použití principů BE HUMAN.
Jak tento text číst
V době přípravy tohoto článku jsme prošli vše, co jsme pod názvem BE HUMAN a jménem Zeze71-127 dokázali dohledat na veřejném internetu: zveřejněné části BE HUMAN CORE, NEL a NEL Core, 12/6 Spatial Architecture, BE HUMAN APP a FLOW i související články, obrazy, hudbu a videa.
Tyto části však netvoří jeden hotový výrobek. Každá má vlastní účel, rozsah a stav. Následující příběh proto neukazuje službu, kterou si dnes můžete koupit nebo zapnout. Spojuje veřejně popsané principy do jedné obyčejné situace, aby si jejich možné fungování dokázal představit i člověk, který nikdy nečetl technickou dokumentaci.
Ve veřejné diskusi se objevily také další autorské úvahy — například Desatero pro AI, šest tříd, evropské obálky nebo návrh strojově čitelného slovníku. Jsou to myšlenkové experimenty. Tento článek z nich nedělá nová závazná pravidla BE HUMAN CORE. Slovo normativní ve stavovém označení výše znamená součást formální architektonické specifikace; tento příběh takovou součástí není.
Tou situací je dopis z banky.
Než jej otevřeme, musím vysvětlit jedno datum.
Proč je u NEL uvedeno 31. 12. 2000
Na obrazu PR Vol. 1 je vedle jména NEL datum 31. 12. 2000.
Není to den, kdy vznikl dnešní BE HUMAN CORE. Tehdy neexistovala jeho technická dokumentace ani dnešní rozdělení na jednotlivé architektury.
Je to datum první otázky.
Toho dne jsem začal přemýšlet o vlastním rozsáhlém světě budoucnosti. Říkal jsem tomu moje vlastní Duna — ne proto, že bych chtěl kopírovat příběh Franka Herberta, ale protože jsem chtěl vytvořit svět s vlastní minulostí, pravidly a budoucností.
První představa byla téměř utopická:
Jak by vypadal člověk, který by dokázal rozvinout schopnosti své mysli až k jejich představované hranici?
Dnes víme, že známé tvrzení o používání pouhých několika procent mozku není vědecky správné. Tehdy však nešlo o neurologickou teorii. Byla to literární otázka, od které se mohl odrazit příběh.
Tuto utopii jsem brzy opustil. Kniha ale zůstala a objevila se mnohem nepříjemnější otázka:
Jak bude vypadat budoucnost, pokud se všichni lidé nechají očipovat?
Nejdůležitější nakonec nebyl samotný čip. Důležitější bylo něco jiného:
Kdo bude vlastnit lidskou identitu?
Kdo bude smět číst osobní údaje?
Kdo určí pravidla jejich použití?
Kdo bude moci oprávnění změnit?
A co se stane, když si systém začne plést technickou schopnost s právem rozhodovat o člověku?
Z tohoto příběhu postupně vyrostly kořeny toho, čemu dnes říkám BE HUMAN. Datum 31. 12. 2000 tedy není důkazem, že tehdy existovalo dnešní řešení. Označuje chvíli, kdy se poprvé objevila otázka, která mě nepřestala provázet.
A teď k obyčejnému dopisu.
1. Člověk dopis otevře
Představme si člověka, kterému přijde dopis z banky. Banka ho žádá, aby se dostavil na pobočku a podepsal dokument.
Člověk nosí NEL brýle. Požádá je, aby mu s dopisem pomohly. V rámci právě zvoleného úkolu brýle zachytí pouze tento dokument.
Na jejich sklech se nic neobjeví.
Žádný text.
Žádná šipka.
Žádná mapa ani reklama.
Skla zůstávají průhledná. Člověk dál vidí skutečný svět před sebou.
2. Domácí prostor dopis přeloží do běžné řeči
Přepis dopisu se objeví v domácím prostoru uspořádaném podle principu 12/6. Ne na brýlích.
Vedle původního textu se zobrazí krátký seznam:
● proč banka člověka zve,
● co má přinést,
● co je třeba podepsat,
● dokdy má přijít,
● které údaje bude banka potřebovat.
Člověk nemusí hledat důležitou větu mezi několika odstavci. Současně si však může kdykoli přečíst celý původní dopis a zkontrolovat, zda zjednodušený přehled něco nezměnil.
12/6 zde neoznačuje jednu kouzelnou obrazovku. Označuje architektonickou představu prostoru, který může informace rozdělit tak, aby byly pro člověka přehlednější. Technologie text uspořádá. Nevytvoří tím právo jednat jeho jménem.
3. Všechno je připraveno. Nic se neposílá
Osobní systém najde podklady, které už člověk vlastní, a připraví pouze to, co souvisí s touto návštěvou.
Pro jednoduchost tomu říkejme pracovní obálka.
Není v ní celý digitální život člověka. Je v ní jen účel návštěvy, seznam potřebných podkladů, vybraný způsob ověření a údaj o tom, jak dlouho má oprávnění platit.
V domácím prostoru se objeví:
Připraveno k předání bance. Povolit — ANO/NE?
Člověk zvolí NE.
A tím je rozhodnuto.
Systém nezačne člověka přemlouvat. Neodešle údaje později potají. Nevyloží si přípravu dokumentů jako souhlas.
Připraveno neznamená povoleno.
4. Druhý den přijde připomínka
Ráno se v domácím prostoru 12/6 objeví jednoduchý program dne. Vedle času návštěvy banky stojí připomínka:
Podklady pro banku jsou připravené. Jejich předání zatím nebylo povoleno.
To je všechno.
Člověk může do banky odejít, aniž předání předem povolí. Může návštěvu odložit. Může si podklady znovu otevřít nebo některý z nich odebrat.
Pomoc systému nesmí člověku vzít možnost změnit názor.
5. Člověk v telefonu připraví podmíněné oprávnění
Teprve před cestou nebo před bankou člověk otevře pracovní obálku v telefonu.
Telefon mu ukáže čtyři srozumitelné odpovědi:
● Komu: konkrétní bance a konkrétní pobočce.
● Co: přesně vyjmenované údaje a dokumenty.
● Proč: pouze pro uvedený podpis nebo bankovní úkon.
● Jak dlouho: oprávnění k předání platí pouze pro tuto návštěvu. Případná zákonná nebo smluvní povinnost banky uchovat konkrétní dokument je samostatnou otázkou.
Člověk zvolí ANO a tím podmíněné oprávnění připraví.
Tím však banka ještě nezíská údaje ani trvalý přístup k telefonu či NEL Core. Člověk pouze připraví podmíněné oprávnění: přesně uvedené údaje smějí být předány konkrétní bance během této návštěvy, ale až po ověření vstupního kódu a oprávněného držitele zařízení.
Povolení je připraveno. Samotný přenos ještě nezačal.
Pracovní obálka proto nemá bez důvodu obsahovat celý občanský průkaz, pokud stačí ověřené potvrzení určitého údaje. Nemá obsahovat všechny smlouvy, pokud je potřeba jediná. A nepatří do ní historie zařízení, poloha ani jiné informace, které s návštěvou nesouvisejí.
6. Venkovní vstupní uzel ověří pouze kód
Na vnější straně bankovní budovy je součástí vstupního prostoru 12/6 místní senzor neboli vstupní uzel.
Nevyhledává neustále všechna zařízení v okolí. Aktivuje se až ve chvíli, kdy člověk vědomě požádá o vstup a dovolí telefonu nebo NEL Core navázat místní spojení.
Osobní zařízení předá vstupnímu uzlu jednorázový nebo časově omezený kód uvedený v dopise. Může jít například o čárový či QR kód; tento ilustrační scénář však žádnou konkrétní technologii nestanovuje.
Kód nepotvrzuje úplnou totožnost člověka a neobsahuje celý bankovní dokument. Potvrzuje pouze, že pro danou návštěvu existuje platné pozvání nebo sjednaný úkon.
Po ověření kódu se otevřou první dveře. Nevedou ještě přímo do provozní části banky, ale do oddělené vstupní místnosti.
Držení kódu je pouze první kontrola.
Pokud člověk kód nemůže použít, musí zůstat dostupná běžná cesta k pracovníkovi banky. Digitální vstup nesmí být jedinou možností.
7. Vstupní místnost provede druhou kontrolu
Ve vstupní místnosti systém na místní ploše znovu ukáže účel návštěvy:
Přicházíte kvůli podpisu tohoto dokumentu. Pokračovat — ANO/NE?
Současně proběhne druhá kontrola, která ověří, zda telefon či NEL Core používá oprávněný držitel daného zařízení.
NEL Core si můžeme představit jako malou plochou destičku vloženou do řetízku spojujícího ramínka brýlí. Když člověk brýle sundá a nechá je viset na hrudi, destička zůstane na řetízku za krkem.
V tomto ilustračním scénáři by mohla obsahovat místní offline část systému NEL Core, volitelného osobního AI agenta a SOS Core. Část dotýkající se pokožky by mohla obsahovat také volitelný senzor, který poskytne zařízení další podklad pro místní ověření oprávněného držitele.
Takový senzor však není neomylným důkazem totožnosti. Nesmí se stát povinným a bance se nemusejí předávat žádná surová biometrická ani zdravotní data. Vyhodnocení může proběhnout uvnitř osobního zařízení a banka může dostat pouze ověřitelný výsledek:
Oprávněný držitel ověřen — ANO/NE.
K témuž účelu lze použít i jiný způsob ověření — například potvrzení na odemčeném telefonu, osobní kód nebo ruční kontrolu. Architektura nemá být závislá na jediném senzoru.
Teprve po potvrzení ANO, úspěšném ověření a pouze v rozsahu oprávnění, které člověk před cestou schválil, se bance předají vybrané údaje z pracovní obálky.
Vstupní místnost si nestahuje celý obsah NEL Core.
Pokud člověk NEL Core nemá, zařízení selže nebo ověření není jednoznačné, musí existovat dostupná cesta k ručnímu ověření oprávněným pracovníkem. Vlastnictví určitého zařízení se nesmí stát podmínkou přístupu k bankovní službě.
Po dokončení kontroly se otevřou druhé dveře a člověk vstoupí do banky.
8. Brýle navedou člověka bez obrazu na sklech
Teprve po otevření druhých dveří může bankovní systém určit, který pracovník řeší danou záležitost a která přepážka je volná.
Osobnímu NEL Core předá pouze navigační pokyn potřebný k cestě.
Brýle člověka vedou jemnými vibracemi v ramínkách.
Levé ramínko může vibrací naznačit odbočení doleva, pravé odbočení doprava. Jiný krátký signál může upozornit na zastavení nebo dosažení cíle.
Nejde o pevný technický slovník, který by byl tímto článkem stanoven. Důležitá je myšlenka: člověk, který takovou navigaci běžně používá při chůzi, si postupně osvojí vlastní hmatový jazyk pohybu.
Nemusí při každém kroku hledět do telefonu ani sledovat mapu před očima.
Technologie mu nebere výhled. Jen mu diskrétně napovídá.
9. Kde je ochranka?
Ochranka nezmizela.
Změnila se však její role.
Běžné ověření vstupního kódu a oprávněného držitele může provést vstupní systém. Vyškolený pracovník se proto nemusí zabývat každým rutinním příchodem a může se soustředit na situace, které vyžadují lidské posouzení nebo okamžitý zásah.
Z pouhé existence NEL Core ale nelze odvodit, že jeho ověřený majitel nemůže spáchat trestný čin. Ověřená totožnost není ověřený úmysl. Člověk může jednat pod nátlakem, nacházet se v akutní krizi nebo oprávněný přístup zneužít. Selhat může také samotné zařízení.
Kamera a případné zdravotní či bezpečnostní senzory v NEL brýlích by mohly lokálně a v mezích osobních pravidel zachytit některé pozorovatelné známky možného problému — například pád, ztrátu vědomí nebo výraznou dezorientaci.
Nemohly by však spolehlivě číst lidský úmysl ani označit člověka za nebezpečného pouze podle jeho vzhledu, pohybu nebo zdravotních údajů.
NEL Core se také nesmí automaticky stát nástrojem bankovní ostrahy. Upozornění třetí straně by vyžadovalo předem stanovené osobní pravidlo, vědomou žádost člověka nebo jasně vymezenou nouzovou situaci. I potom by se měl předat pouze nezbytný signál, například:
Možné bezprostřední zdravotní nebo bezpečnostní riziko. Je nutné lidské ověření.
AI upozorní.
Vyškolený člověk situaci posoudí.
Upozornění samo nesmí být důkazem viny ani automatickým příkazem k zásahu.
Kolik takových pracovníků banka skutečně potřebuje, nemůže určit tento příběh. Záleželo by na velikosti budovy, druhu provozu, místních rizicích, právních požadavcích a výsledcích praktického ověření.
10. U přepážky stále rozhoduje člověk
Pracovník banky už ví, proč člověk přišel. Ne proto, že ho banka sledovala, ale proto, že jí člověk dovolil tuto informaci pro jediný stanovený účel předat.
Na obrazovce pracovníka jsou pouze podklady potřebné pro daný úkon. Pokud něco chybí, musí o to člověka požádat. Bez dalšího oprávnění si nemůže otevřít jinou část jeho osobních údajů.
Dokument je připravený, ale podpis není automatický.
Člověk si ho může přečíst.
Může se zeptat.
Může požádat o opravu.
Může podpis odmítnout.
AI může pomoci dokument vysvětlit nebo upozornit na nesrovnalost. Nemůže však člověkův podpis nahradit ani rozhodnout, že podpis už není potřeba.
11. Člověk odejde a dočasné oprávnění skončí
Po vyřízení člověk z banky odejde.
Pracovní obálka se uzavře. Dočasné místní spojení s pobočkou skončí. Banka nezíská trvalý přístup k telefonu, brýlím ani NEL Core.
To neznamená, že banka musí smazat dokument, který má podle zákona nebo smlouvy uchovávat. Znamená to, že povinnost uchovat konkrétní bankovní záznam se nesmí proměnit v neomezené právo používat všechno ostatní.
Jedno ANO není ANO navždy.
Co se v tomto příběhu skutečně změnilo
Nejdůležitější změnou není rychlejší přepážka ani chytřejší místnost.
Je jí pořadí kroků:
Nejdříve systém pomůže člověku porozumět.
Potom připraví pracovní obálku.
Člověk stanoví její rozsah a podmínky.
Venkovní uzel ověří pouze vstupní kód.
Vstupní místnost ověří oprávněného držitele.
Teprve potom se předají povolené údaje.
A po skončení návštěvy dočasné oprávnění zanikne.
Celý příběh lze shrnout do pěti vět:
Umět něco přečíst neznamená smět to odeslat.
Připravit údaje neznamená udělit souhlas.
Mít vstupní kód neznamená prokázat úplnou totožnost.
Ověřit člověka neznamená poznat jeho úmysl.
Jedno povolení pro jeden úkol není trvalé povolení ke všemu.
A co energie a voda
Když se neposílá celý dokument tam, kde stačí ověřené potvrzení, vzniká méně zbytečných přenosů a kopií. Když se údaj neuchovává déle, než je nutné, nemusí být bezdůvodně ukládán, zálohován a opakovaně zpracováván.
To může šetřit energii a nepřímo také vodu potřebnou pro část digitální infrastruktury.
Velikost možné úspory nelze poctivě určit předem. Lokální zpracování také spotřebovává energii a výroba osobních zařízení má vlastní materiálové i energetické náklady. Skutečný přínos by proto musel ověřit pilotní provoz porovnávající celý životní cyklus lokálního a cloudového řešení.
Dobrá architektura proto neslibuje zázračné číslo. Začíná třemi obyčejnými pravidly:
Neodesílat celý šuplík, když stačí jeden dokument.
Neuchovávat kopii bez důvodu.
A nepoužívat největší dostupný systém na úkol, který zvládne menší.
Co tento článek netvrdí
Netvrdí, že taková banka dnes existuje.
Netvrdí, že popsaný vstupní kód, dvojice dveří, ověření držitele, NEL brýle, NEL Core a bankovní 12/6 už byly společně postaveny a vyzkoušeny.
Netvrdí ani to, že každá navržená část bude v praxi fungovat přesně takto.
Ukazuje pouze jednu možnou odpověď na starou otázku z roku 2000:
Může být budoucí systém pohodlný, aniž by si pohodlí koupil ztrátou lidské kontroly?
Odpověď zatím neznáme.
Ale víme, kde musí začínat.
U člověka, který může říci ANO.
A jeho NE musí mít stejnou skutečnou váhu.
ZAŘAZENÍ TEXTU: ILUSTRAČNÍ SCÉNÁŘ — NENORMATIVNÍ
Tento text nepřidává nová pravidla do BE HUMAN CORE a nepopisuje existující bankovní integraci.
Veřejný základ projektu: BE HUMAN na Zenodo, veřejný text o NEL Core a veřejný text o BE HUMAN CORE.
