Hlavní obsah

BE HUMAN: NEL — Systém, který nemá rozhodovat za člověka (7. část)

Foto: Zeze71-127 / vytvořeno pomocí ChatGPT (OpenAI)

Být svědkem neznamená převzít kontrolu. Technologie může pozorovat, překládat a pomáhat — aniž by člověku odebrala právo rozhodnout.

Čím více technologií člověka obklopuje, tím důležitější je otázka, kdo nakonec rozhoduje. NEL hledá způsob, jak zachovat význam napříč systémy, aniž by technologie převzala místo člověka.

Článek

Kapitola 7 – NEL Core. Osobní základ v proměnlivém světě

12/6 otevřelo prostor.

Současně ale otevřelo i problém.

Čím více technologií člověka obklopuje, tím více je potřeba vědět, kdo je skutečně oprávněn rozhodovat.

Ne kdo má největší výpočetní výkon.

Ne kdo vlastní servery.

Ne kdo vyvinul nejchytřejší model.

Ale kdo určuje pravidla konkrétního člověka.

Právě zde se objevila myšlenka NEL Core.

NEL Core není další aplikace.

Není to ani jedna konkrétní krabička.

Není to operační systém, který by měl nahradit všechny ostatní.

A není to umělá inteligence, která by měla člověka řídit.

Je to architektonická role.

Osobní základ, který chrání identitu, dlouhodobé osobní informace, oprávnění a – podle potřeby – také lokální inteligentní služby.

Mobilní aplikace může fungovat zcela samostatně.

NEL Core ji nenahrazuje.

Pouze rozšiřuje možnosti širšího ekosystému tam, kde člověk potřebuje stabilnější identitu, dlouhodobou kontinuitu nebo lokální zpracování dat.

Zpočátku jsem si tuto myšlenku představoval velmi jednoduše.

Člověk vstoupí do místnosti.

Prostor ho nemusí znovu učit, jak komunikovat.

Nemusí znovu nastavovat jazyk.

Způsob ovládání.

Přístupnost.

Pracovní roli.

Zdravotní omezení.

Ani další osobní preference.

Autorizované prostředí může získat pouze ty informace, které pro daný účel skutečně potřebuje.

Ne všechny.

Ne navždy.

Pouze ty, které člověk pro danou situaci povolil.

V systému 12/6 může NEL Core synchronizovat například osobní identitu, autorizovaná zařízení, lokální inteligentní služby, nouzové funkce nebo připojené senzory.

Samotné prostředí pak přijímá pouze nezbytný kontext.

Například preferovaný jazyk.

Přístupnost.

Profesní roli.

Aktivní oprávnění.

Synchronizace zde neznamená, že se všechna data kopírují všude.

Znamená, že každá autorizovaná součást obdrží pouze to, co potřebuje ke své úloze.

To je rozdíl mezi pohodlím a kontrolou.

Pohodlí říká:

„Systém už o vás všechno ví.“

Kontrola říká:

„Systém dostal pouze to, co jste mu pro tuto situaci povolili.“

První varianta je jednodušší.

Druhá je bezpečnější.

A především lidštější.

Představme si nemocnici.

Člověk vstoupí do prostředí, které potřebuje znát část jeho zdravotních údajů.

Ne však jeho rodinné fotografie.

Ne jeho soukromé zprávy.

Ne historii nákupů.

Ne všechno, co kdy jeho zařízení zaznamenala.

Lékařská služba může získat potřebnou část informací.

Překladový systém jinou.

Navigační pomoc další.

Každý systém pouze v rozsahu své úlohy.

Nikdo nezískává automatické právo na celý digitální život člověka.

Právě toto oddělení je základem důvěry.

V dnešním digitálním světě se často zaměňují čtyři odlišné věci.

Identita.

Přístup.

Vlastnictví.

A technická možnost.

To, že systém dokáže nějakou informaci přečíst, ještě neznamená, že ji smí použít.

To, že firma data ukládá, ještě neznamená, že je vlastní.

To, že zařízení člověka rozpozná, ještě neznamená, že může rozhodovat jeho jménem.

A to, že inteligentní systém něco doporučí, ještě neznamená, že se z doporučení stalo rozhodnutí.

BE HUMAN CORE právě tyto vztahy důsledně odděluje.

Osobní pravidla zůstávají pod autoritou jejich vlastníka.

Inteligentní systém je může pomáhat vykládat nebo aplikovat.

Nemůže je však sám měnit.

Oprávnění nevzniká pouze proto, že systém člověka rozpoznal.

A žádná aplikace, služba ani poskytovatel nezískává širší autoritu jen proto, že poskytuje úložiště, ověření nebo výpočetní výkon.

Právě tady jsem si uvědomil, že NEL Core nesmí být nejchytřejší částí systému.

To není jeho úkol.

Nemusí znát odpověď na všechno.

Nemusí nahrazovat lékaře.

Učitele.

Právníka.

Rodinu.

Ani člověka samotného.

Musí vědět něco jiného.

Který systém smí být požádán.

Jaké informace může dostat.

K čemu je může použít.

Jak dlouho.

A kdo nese odpovědnost za výsledek.

Připomíná to dirigenta.

Dirigent není nejlepší houslista, pianista ani bubeník.

Nemusí sám zahrát každý tón.

Jeho úkolem je udržet celek.

Stejným způsobem NEL Core nesoutěží s jednotlivými inteligentními službami.

Pomáhá koordinovat jejich autorizovanou spolupráci kolem člověka.

Jedna služba může rozumět medicíně.

Jiná vzdělávání.

Další dopravě.

Jiná překladu.

NEL Core není jejich nadřízeným ve smyslu odbornosti.

Je osobním bodem pravidel, identity a oprávnění.

A zde se poprvé dostáváme k otázce, která sahá za dnešní technologie.

Současné systémy stojí převážně na klasických procesorech, sítích a datových centrech.

To ale nemusí platit navždy.

Časem mohou některé úlohy převzít nové druhy výpočtů.

Kvantové.

Fotonické.

Neuromorfní.

Nebo takové, které dnes ještě nemají jméno.

Dnešní inteligentní systémy tak možná jednou získají mladšího bratříčka či sestřičku.

Nejde však o to předpovídat, která technologie zvítězí.

Jde o to, aby architektura nemusela být pokaždé znovu budována od začátku.

Procesor se může změnit.

Zařízení se může změnit.

Poskytovatel se může změnit.

Komunikační síť se může změnit.

Samotná architektura však musí zachovat něco stabilního.

Identitu.

Oprávnění.

Osobní pravidla.

Kontinuitu.

A lidskou autoritu.

Právě proto je BE HUMAN CORE navržen tak, aby přežil své současné technologie.

Zařízení, poskytovatelé i implementace se mohou měnit, aniž by s nimi musela zmizet architektonická identita a odpovědnost.

To je důležité i pro budoucí sítě.

Možná budou města, nemocnice, školy, veřejné instituce nebo výzkumná centra jednou propojeny mnohem výkonnější infrastrukturou.

Možná budou využívat 6G nebo jeho nástupce.

Později jiné komunikační systémy.

Některé specializované části mohou jednou využívat i kvantové propojení.

Člověk ale nepotřebuje vlastnit celé datové centrum ani rozumět fyzice každé sítě.

Potřebuje vědět, že jeho osobní základ zůstává pod jeho autoritou.

Veřejná infrastruktura může být výkonná.

Nemocnice může mít přístup ke špičkovým výpočtům.

Univerzita může spolupracovat s globálními systémy.

Ale osobní pravidla člověka se tím nesmí automaticky rozpustit v infrastruktuře.

Proto NEL Core nemá být trvale závislý na internetu.

Kde je to možné, může část funkcí provozovat lokálně.

Osobní identitu.

Základní pravidla.

Autorizovaná zařízení.

Některé nouzové funkce.

Vybrané inteligentní služby.

To neznamená odmítnutí cloudu.

Znamená to odmítnutí představy, že bez vzdálené firmy člověk přestane vlastnit svůj digitální život.

Architektura podporuje offline, lokální, hybridní i plně připojené režimy.

Rozsah komunikace se může měnit.

Oprávnění člověka však zůstávají rozhodujícím bodem.

Tím vzniká zásadní rozdíl mezi NEL Core a dnešními běžnými osobními asistenty.

Asistent se obvykle snaží být užitečný.

NEL Core musí být především důvěryhodný.

Asistent hledá odpověď.

NEL Core hlídá podmínky, za kterých smí být odpověď hledána.

Asistent optimalizuje výsledek.

NEL Core zachovává hranice.

Asistent může být vyměněn.

Osobní autorita člověka musí pokračovat.

Právě tato kontinuita je možná důležitější než samotná inteligence.

Člověk může za život vyměnit desítky telefonů.

Několik počítačů.

Mnoho účtů.

Poskytovatelů.

A jednou možná i několik generací osobních inteligentních pomocníků.

Neměl by však pokaždé začínat od nuly.

Jeho identita.

Pravidla.

Důvěryhodné vztahy.

Autorizace.

A osobní historie.

To vše by mělo přežít výměnu jednotlivých zařízení i služeb.

Ne jako majetek jedné firmy.

Ale jako jeho vlastní, kontinuální architektonický základ.

V tomto bodě se mobilní aplikace, 12/6 a NEL Core začaly skládat do jednoho obrazu.

Mobilní aplikace vytváří lidsky orientovaný vstupní bod.

12/6 poskytuje adaptivní prostor.

NEL Core chrání osobní identitu, dlouhodobou kontinuitu a pravidla.

Jednotlivé inteligentní systémy poskytují specializované schopnosti.

A člověk zůstává konečným zdrojem oprávnění i odpovědnosti.

Žádná z těchto vrstev sama nevlastní celek.

Mají spolupracovat.

Jenže ani tato architektura ještě nebyla úplná.

Pořád v ní byli dva hlavní účastníci.

Člověk.

A technologie.

Čím déle jsem o tom přemýšlel, tím více mi docházelo, že jsme vynechali třetího.

Toho, bez něhož nemůže existovat ani člověk, ani jeho inteligentní systémy.

Planetu.

Každý výpočet potřebuje energii.

Každé datové centrum prostor, materiály a chlazení.

Každá síť infrastrukturu.

Každý procesor suroviny.

Technologie proto nikdy neexistuje mimo fyzický svět.

A právě tam začíná další kapitola.

Ne o chytřejším stroji.

Ale o jednoduché rovnici.

Jeden člověk.

Jedna vyvíjející se inteligence.

Jedna planeta.

(Pokračování příště)

Projekt BE HUMAN je veřejně dostupný na Zenodo (CERN):

a na YouTube:

Máte na tohle téma jiný názor? Napište o něm vlastní článek.

Texty jsou tvořeny uživateli a nepodléhají procesu korektury. Pokud najdete chybu nebo nepřesnost, prosíme, pošlete nám ji na medium.chyby@firma.seznam.cz.

Související témata:

Sdílejte s lidmi své příběhy

Stačí mít účet na Seznamu a můžete začít publikovat svůj obsah. To nejlepší se může zobrazit i na hlavní stránce Seznam.cz