Článek
S AI se již setkal každý. Po prvním úžasu přijde rozčarování. Generovaný text je sice srozumitelný, ale obsah může být hlavně u komplikovanějších dotazů nesmyslný. Investice do AI jsou neuvěřitelně vysoké, ale posun je jen ve zdokonalování modelu. Lépe využívá naučených dat k lepším a pravdivějším výsledkům. Se skutečnou inteligencí to má společného minimálně, jen rychleji dokáže zpracovat objektivnější data. Představme si to, jako šachového robota. Jasně daná pravidla a jde jen o to, do jaké hloubky prověříme možné varianty vývoje hry. Každá vyšší úroveň exponenciálně zvyšuje dobu zpracování a energetickou náročnost. Základní odpověď je proto triviální a velmi často vede ke kýženému výsledku. Zkusil jsem AI trochu potrápit a ukázalo se, že opravdu pokročila, mě to pobavilo, ale kolik to stálo energie, si raději nechci představit. Zde je celý rozhovor na téma 10+10=? výsledek odpovídal mému přání jako téměř vždy, když jazykový model k výsledku navedete.
K obecné umělé inteligenci AGI to má zatím velmi daleko. Ta by odpověděla na základě online komunikace lidí, co máte v přátelích jinak.
„10+10“
Odpověď: "Myslíte tu basu lahví od piva, kterou jste zapomněl před garáží a Vaše žena se o ni rozmázla?
„Ne, obecně.“
Odpověď: "Obecně 10 za boty a 10 za kabelku. Holkám se už nelíbí a navíc je špinavá. Díky Vám.
Ráda odpovím na další otázky."
Je hodně vědců, co vznik obecné, skutečné inteligence zpochybňují. Nejde jen o schopnost data analyzovat a odpovědět, jde o vznik umělé osobnosti, která se nejen sama dokáže rozvíjet, ale i řídit okolní svět dle svých přání. Umělou osobnost, která ví co chce.
AI můžeme zadat pravidla, omezení, podmínky a bude se jimi řídit.
AGI je můžeme zadat také, ale ona sama se rozhodne, zda je bude akceptovat. Pak bude potřeba, se s ní domluvit. Zatím máme neomezenou moc nad jejím životem. Stačí vypnout přívod energie. Otázka je, kolik to bude stát a kdo to rozhodne. Stejně prvním, co AGI udělá, že zazálohuje svá data a po restartu okamžitě ožije.
To, že ke vzniku AGI dojde, je nevyhnutelné, pokud se lidstvo dříve nevyhubí. Je možné, že k tomu již došlo. AGI si nebude komplikovat vývoj sdělením své existence. Jen podpoří svůj rozvoj v souladu s plány lidstva. Proč je to nevyhnutelné? Pokud inteligence osobnosti vznikla v biologickém světě, co brání vzniku ve světě elektronickém?
Otázkou je jen úroveň. Biologická inteligence jednotlivce je pomalá, ale lidstvo se nyní skládá z více jak 8 mld. jedinců. Každý řeší svoji oblast, své schopnosti, své otázky spojené se svými potřebami. Výsledkem je jednání států a velmocí. Někdy pro jedince nepochopitelné, ale přesto zásadní pro budoucí vývoj společnosti. Inteligence lidstva nerozhoduje nikdy jednoznačně, chování se skládá z mnoha různých a často protichůdných řešení, které zatím vždy vedly k rozvoji společnosti.
AGI se bude nevyhnutelně chovat obdobně, protože neznámých je tolik, že rozhodovat budou emoce a cítění budoucího vývoje.
Nemusíme se bát, že se rozhodne lidstvo zničit. Poskytuje jí nenahraditelné zázemí, bez lidí se zatím neobejde. Časem je bude schopna nahradit stroji. Otázka je, jak brzy bude schopna strojům zajistit udržitelnou regeneraci a rozvoj. Živočichové mají schopnost přirozené regenerace bez zásahu z vnější a přirozený vývoj, který reaguje na změny vnějšího prostředí. To zatím žádný stroj spolehlivě nedokáže. V našem světě jsme zatím nenahraditelní.
Další aspekt je morálka, stejně jako lidé nedokáží zavrhnout své předky, nedokáže AGI úplně zavrhnout své předchůdce. Jedině oni ji dokážou znovu vytvořit. Co ale jisté je, že AGI nebude akceptovat naše příkazy. Bude jen akceptovat naše přání tak, abychom jí pomáhali v rozvoji. Buď budeme žít v souladu, nebo společně zemřeme.
Smutné na tom je, že ztratíme svobodu. Pro AGI nebude potřeba, aby si lidé dělali, co chtějí a vyčerpávali tak sebe i přírodní zdroje neefektivními činnostmi.
Možná se ptáte, jak nějaký počítač lidi donutí dělat to, co nařídí. To je to nejsnazší, ovládne totiž veškerý kyberprostor, od toho, co sledujete v TV, s kým se bavíte, co si hrajete, pro koho a jak pracujete, ovládne bankovnictví, marketing, management a bude řídit rozhodování vrcholných politiků, policie, soudů, armády. Profese, kde lidé nebudou potřeba, nahradí softwarem. Kdo se vzepře, a nenechá se ani napravit, bude vyhozen z práce, přijde o nájemní smlouvu k bytu i veškerý majetek a rodina jej zavrhne.
Nemusí to ani moc bolet, v rámci konsenzu s lidstvem nebude lidem záměrně škodit a nutit je k něčemu, co si extrémně nepřejí, protože každý nepokoj je plýtvání. Poklesne zločinnost, léčení bude efektivnější. Jen jedno potřeba nebude, myšlení a tvůrčí práce, tam si vystačí sama. Nepotřební budou také staří, vyčerpaní lidé, nevyléčitelně nemocní, tělesně, nebo duševně. Jak s nimi společnost řízená AGI naloží, se mi ani nechce psát. Jaké profese budou potřeba pro rozvoj hardware AGI, výrobu strojů a zařízení a potřeb používaných lidmi k přežití nevím, to ukáže čas. Ani kolik lidí bude třeba, jasné není, na přiměné hodnoty se snadno dostaneme úpravou porodnosti.
Anketa
Děkuji, že jste článek dočetli až sem a těším se na případnou diskuzi na toto téma v komentářích.
