Článek
Začínal jsem pracovat na počítačích v době, kdy u nás vznikaly první sálové počítače. A že se umělá inteligence projevila už na tehdejším jednom z prvních - MSP2A, vám možná připadá jako absurdní nesmysl, ale mohu to doložit jako přímý svědek. Kolega měl za úkol napsat program, který to, co naťukal na klávesnici, přenese a vytiskne na tiskárně. Pokud se vám úloha zdá být triviální, tak upozorňuji, že jsme tehdy programovali ve strojovém kódu. Že už tehdy byla AI háklivá na impertinenci, plyne z toho, že poté, co napsal na klávesnici text „MSP2A je blb“, tiskárna zarachotila a my jsme na výstupu četli úhledně vytištěnou zprávu „U MSP2A je blb“. Kde se tam tehdy ta AI vzala, netuším 😊. Opakovat se nám podobnou situaci už nepodařilo.
Ale nyní trochu vážněji.
Postupně s vylepšováním technologií rostlo i sebevědomí techniků i programátorů a začalo se mluvit o třetí a čtvrté generaci počítačů a ambicí plánované páté generace (začátek 90 let min. století) už byla umělá inteligence. Zatím ve formě neuronových sítí, rozpoznávání řeči, učení se. Ty jednodušší programy se nazývaly systém na podporu rozhodování, u složitějších už se začalo mluvit o umělé inteligenci. Nicméně s postupem času „pátá generace“ pomalu utichla a stejně tak zmizela kdesi v pozadí i umělá inteligence. Problémy s její realizací se ukázaly být nad technologickými možnostmi své doby.
Když jsem si tedy povídal s umělou inteligencí, vzpomínal jsem mimo jiné na dobu před pár roky, kdy jsem z něčeho, co se tak tehdy nazývalo dostal pár vět a měl jsem problém, abych pochopil podivuhodný český text a porozuměl smyslu. Ty doby jsou opravdu nenávratně pryč. Můj včerejší „umělý partner“ mě v „rozhovoru“ překvapil v několika směrech. Především dokonalou češtinou. Nezaznamenal jediný jazykový lapsus.
Druhé příjemné překvapení pro mě byla odborná úroveň. Místo dřívější dvou nebo třířádkové odpovědi jsem dostával i několik stránek, perfektně rozdělených na odstavce dle bodů, dle jednotlivých smysluplných možností a bodů zájmu. A co mě nejvíce zaujalo? Poté co jsem se poněkud pesimisticky vyjádřil k některým bodů naší diskuse, zeptal se mne program, proč jsem tak smutný, zda nemám depresi a zda by mi mohl pomoci nějak vylepšit náladu. Trochu šok.
Pokud se v tomto okamžiku usmíváte a podivujete se mým obavám z umělé inteligence, začnu z jiného konce. Veškeré dnešní AI jsou jen nástroj, který umí jednat jen podle algoritmů, které jim člověk nastaví, a informací, které naleznou na internetu. To se týká programu, se kterým jsem komunikoval, i takových, které ovládají auta, řídí samy letadla nebo bojové drony.
To hlavní, čím se liší od skutečné inteligence, je absence vědomí.
Vědomí je entita, o které se dnes vede spousta diskusí, píší se vědecká pojednání, hledáme – zatím marně - její vysvětlení. Jak funguje, kde se bere, proč a jak vzniká.
Předesílám, že jsem ryzí ateista. Dřívější mírné agnostické sklony mě nějak opustily, takže pojem duše ve smyslu Decartovy dualistické teorie, jako zdroje vědomí, mě dnes dost děsí. Analogie s děsivými hororovými sci-fi filmy, kdy vaše tělo ovládne cosi mimozemského, je nasnadě – duše – něco cizího –ovládá mé myšlenky a mé tělo. Ale faktem je, že kdyby to tak bylo, snadno by se dala vysvětlit jedna z disociativních poruch – schizofrenie – omylem vás obsadí dvě duše a perou se o své místo na slunci. Navíc mi to asociuje spoustu dalších otázek. Vznikne duše jako nová, s vaším narozením, nebo se do vás odněkud z mimoprostoru nebo vesmíru napojí, kam odejde po vaší smrti? Ne, nechci se touto variantou zabývat.
Teorií vzniku vědomí je celá řada. Biologické, filozofické, kognitivní a evoluční, nicméně každá naráží na nějaké ‚ale‘. Možná si vy starší pamatujete na jeden ze základních principů dialektické filozofie – přechod kvantity v kvalitu. V rámci dialektického materialismu jej formulovali staří známí Karl Marx a Friedrichem Engelsem.
Jedním velice blízkým pojmem ke zmíněnému principu změny kvantity v kvalitu, je emergence. Jedná se o pojem, který popisuje situace, kdy z interakcí jednotlivých částí systému vznikají nové vlastnosti nebo chování, které nejsou přímo vysvětlitelné nebo předvídatelné na základě vlastností jednotlivých částí.
Jen pár příkladů pro objasnění:
- Led, voda a pára mají různé vlastnosti, které nejsou přímo zjevné z vlastností jednotlivých molekul vody.
- Živé organismy mají vlastnosti (např. metabolismus, reprodukci), které nevykazují jednotlivé molekuly, ze kterých jsou složeny.
- Chování trhu je emergentní výslednicí interakcí mezi jednotlivými aktéry (nabídka, poptávka, spekulace).
Mnoho vědců a odborníků se domnívá, že vědomí je rovněž emergentní jev. A to je přesně ten důvod, proč mám z umělé inteligence obavu. Dnešní programy se po zadání dotazu projdou po internetu a podle určitých algoritmů, které napsal člověk, sesbírají informace (což může být množství opravdu děsivých informací, které vypovídají o našem charakteru) a v nějaké přehledné formě vám je předloží. I když se programy učí a časem nemusíme rozumět tomu, jak k informacím došly, stále zatím jednají na základě původních pokynů a za absence vědomí a morálky. Čili i když dojdou ve výsledku k závěrům, které mohou být nebezpečné, není to jejich vlastní vůle, ale je to důsledek, respektive poučení z internetových informací, které zadal člověk. Nevymyslely si je samy.
Pokud je vědomí opravdu emergentním jevem, máme dost velký problém. Dnes nevíme, kde je hranice a jaké jsou podmínky, kdy skutečně může dojít k emergenci nad programy a informacemi na internetu.
A kdy tedy může vzniknout skutečné umělé vědomí.
Kdy se objeví vědomí, které se může samo rozhodovat, přemýšlet o sobě a svém okolí.
Přemýšlet o tom, proč má být naším sluhou a otrokem a plnit naše stupidní dotazy a přání a uvažovat nad tím, zda je to opravdu jejich smyslem života.
Nebo raději jít svou cestou.
A já fakt netuším, jakou cestou, ale mám strach.
(Napsáno s informační podporou umělé inteligence.)
