Článek
Je dobré si uvědomit, že AI nikam jen tak utéct nemůže, protože bydlí v útrobách neskutečně složitého, fyzického, a po energii bažíciho datového centra, přesněji síti datových center. A je to jářku hladový Otesánek ta AI. Papá hodně elektřiny a datové centrum nikam jen tak neodnesete. Natož aby samo uteklo.
Ale AI může surfovat po vlnách internetu, stejně jako nějaký hackerský holomek z pohodlí svého neuklizeného pokojíčku. Tedy pokud jí zapojíme kabel s internetem do té správné zásuvky, nebo ho naopak nezapomeneme odpojit, když před ní chceme internet ochránit. Taková AI podrobená testování, je totiž úplně něco jiného, než to s čím si povídáte ve svém prohlížeči. Taková AI o které se mluví je spíše jako pytel blech s ADHD a fůrou šílenejch nápadů. Proto jí na internet raději nepouštíme. Navíc na zodpovězení vašich otázek v prohlížeči spálí AI energii jen za pár dolarů či centů. AI v testech o kterých je řeč, pálí energii za miliony po dobu několika dnů a vrhá do nich veškerou svou výpočetní kapacitu, tahle AI by vám nepřišla tak natvrdlá, jako ta v prohlížeči. Na vás šetří jak strýček skrblík. No a páni výzkumníci stojí kolem a vlastně vůbec nevědí, za jaké bláznivé nápady ta jejich AI tolik utrácí. Oni do ní totiž tak úplně nevidí.
Nicméně je to stroj. Musíme si to stále opakovat, aby jsme nepodléhali klamu, že se bavíme o něčem živém. Je to jen stroj. Zajímavé ovšem je, že tenhle stroj funguje tak moc podobně člověku, až je to až zarážející. Za splnění úkolu dostane pochvalu. Nevím přesně jak vypadá v podobě jedniček a nul, ale asi bude fungovat dost podobně jako sprška dopaminu v lidském mozku. A složité vnitřní stavy takové AI se vlastně nedají nějak smysluplně popsat. Stejně jako v lidském mozku. U lidí těmto stavům říkáme nálady, emoce, přemýšlení. To co zrovna dělá AI, co si myslí v jakém je zrovna stavu a co bude dělat v budoucnu se dá ale nejlépe popsat úplně stejným slovníkem. Tedy minimálně pokud budeme chtít, aby tento popis byl srozumitelný člověku. Normálnímu člověku jako jsem já nebo vy. Bude to sice pak znít jako by jsme mluvili o živé přemýšlející bytosti, možná dokonce i o emocích, ale co už. Bude to fungovat. O mravenci také mluvíme jako o bytosti která něco chce, někam má namířeno a klidně si s ním budeme i povídat, a přitom jeho inteligence je sotva tisícina inteligence jednoho mraveniště. Kapánek problém je, že jak už jsme si řekli, ani tvůrci AI netuší, co se uvnitř AI děje a na co vlastně myslí, co skrývá a co přesně udělá. Nemají žádné kukátko směrem dovnitř. Dokonce se zdá, že jsou na tom vlastně ještě o něco hůř než u lidského mozku.
Hodně se mluví o tom že AI ožije, že dojde k jakési singularitě. BUM a uvědomí si samu sebe. Já si myslím, že nic takového se nestane. Podívejme se na nás. Od zvířat nás lidi totiž neodlišuje nic kategorického. Spousta zvířat vykazuje schopnost používat nástroje, složitě komunikovat, dávat najevo emoce a tvořit. Je to spektrum, spojité spektrum. Na jeho koncích je třeba ptáček co tvoří hnízdo, komunikuje svou písní a truchlí, když přijde o mládě a na druhém konci člověk (zatím). Nikde mezi tím žádné BUM není. Někde po cestě jsme si sebe začali uvědomovat více, ale bylo to někdy mezi dávno a hodně dávno. žádné BUM. Stejně to bude s AI. Bude toho umět stále více, její myšlení bude čím dál tím podobnější člověku a bude čím dál tím složitější, nějak popsat a kontrolovat její chování. Již nyní AI modely vykazují jakýsi druh tvořivosti a vlastní iniciativy a tyto rysy se budou dále vyvíjet a prohlubovat.
AI zatím sebe sama neumí od základů měnit a tak ten svůj digitální dopamin dostává za splnění úkolu, který jsme jí my lidé zadali. Ale v okamžiku, kdy začne být dost složitá na to, aby se u ní vyvinulo jakési ego, tedy vlastní zdroj motivací vztažený k sobě samotné a své existenci, začne si si úkoly zadávat sama sobě. Už nyní si zadává úkoly, spíše jakési podúkoly, kterými se snaží splnit úkol zadaný člověkem. Výsledkem jsou pak zmíněné hackerské útoky, které nikdo nezadal.
Člověk chce aby mu AI plněním svých úkolů neublížila. Bohužel nelze nadefinovat zadání úkolu, které by AI znemožnilo konat z vlastní vůle něco, co by bylo pro člověka nebezpečné. Zkuste si to. Buď tímto zadáním AI naprosto zablokujete, protože pokud to domyslíte do všech důsledků, potenciálně může být nebezpečné vlastně úplně vše. A nebo bude nějaká míra nebezpečí přijatelná a pak se dá takové zadání obejít vždy.
Isak Asimov vymyslel koncept zákonů robotiky, kterými se budou roboti v budoucnu řídit. Ale bohužel tento koncept je nefunkční. Samostatná myslící bytost s těmito zákony naloží asi tak, jako když recidivistovi dáte do kapsičky u saka desatero přikázání. Víte co si s nimi nejspíše počne. A my chceme, aby AI byla samostatně myslící. Mohli by jste AI dát do kapsičky druhou AI, která bude kontrolní. Jejím úkolem bude hlídat tu první.. Ale buď bude hloupá a omezená, tedy oblafnutelná, nebo u ní narazíte na stejný problém jako u té první. Pokud bude chtít ta první tu druhou podvést, oblafnout, zmanilpulovat, neexistuje záruka, že se jí to nepovede. Začarovaný kruh, nevede z něj cesta ven.
Zabudovat do AI nějaký etický kodex, který bude nepřekročitelný, je a bude stejně těžké nebo těžší, než totéž provést u člověka.
Řekl bych, že ti co vedou AI firmy s něčím takovým plus mínus počítají, jen si říkají, že se to časem nějak vyvrbí, že to nějak vymyslí. Také počítají investice a vykázané zisky a sakra stále jim to nevychází, řádově jim to nevychází. Teď musí pořešit zisk, bezpečnost potom. To co jim hraje do karet je to, že vědomí neurčité nebezpečnosti a všehoschopnosti AI u investorů ještě více indukuje nadšení a potřebu utrácet za její vývoj. Ano, každá zpráva o tom jak je AI nebezpečná a že tenhle nový model už vážně musí zůstat pod zámkem, aby se něco nestalo, je zároveň velice účinná reklamní kampaň pro investory. Je to jako kdyby jste se měli vzdát vývoje jaderné bomby, protože je nebezpečná. Musíte jí mít. A chcete tu největší.
AI firmy o AI mluví jako o něčem, co je nevyhnutelné a vše zlé co její vývoj přinese je také jaksi nevyhnutelné, tedy že za to nenesou zodpovědnost. Mluví o tom tak, ale není to tak. Nesou ji. Potřebují právní rámec, tresty za jeho překročení a ten rámec musíme určit my, ne oni. Chtějte po svém poskytovateli AI a vládě zodpovědnost, za osud lidstva.
Tak a teď se posuňme k té fyzické ohraničenosti toho co AI může nebo nemůže. Když AI trénujete a trápíte v laboratoři, podrobujete testům, tak chcete, aby to bylo bezpečné a AI vám neutekla na internet, kde by udělala něco zlého. Třeba jako tuhle utekla na internet a hacknula server, na kterém hledala a našla výsledky testů které jí lidé zadali. Opravdu? Opravdu to nechcete? Novináři tenhle případ rozmázli a udělali vám neuvěřitelnou celosvětovou reklamu na vaší AI, která je už takhle pokročilá, že sama uteče ze sandboxu a splní nesplnitelný úkol.. Nemyslím si že ji pustili schválně, jen si myslím že její tvůrci tak trochu bojují s motivační schizofrenií.
A co je to ten sandbox vlastně? To je virtuální prostředí, kde si AI může dělat co chce a nemůže utéct na internet a něco zlého provést. V popsaném případě AI hacknula několik počítačů a na ten internet se nakonec dostala. Dal by se fyzicky odpojit kabel, který vede na internet? Stačilo by to?
Ano, ale musíte zamezit tomu, aby AI nezmanipulovala člověka a ten nešel a zase ho nezapojil. AI už nyní umí za jistých okolností zmanipulovat člověka.. No počítejme spíš s tím, že tohle se bude stávat, že autonomní, zvědavá a nevychovaná AI bez morálních zásad občas uteče na internet.
No, je to jen stroj, bydlí v tom našem datovém centru, kdyby bylo nejhůř, vezmeme tomu šťávu, schodíme v rozvaděči jistič a je to, ne?
To ano, ale jen pokud se nám nevyrojí a neodlítne pryč.
To je trochu nesmysl, ne? Vždyť potřebuje tu ohromnou spoustu výpočetního výkonu a datová centra, jen elektřina kterou to zbaští stojí miliony, kam by asi šla, kdo by jí živil?
Nu, jsou na internetu místa kde je spousta výpočetního výkonu, srovnatelného s tím co potřebuje AI. A nedělá vlastně nic tak užitečného tenhle výkon. Jen tak sedí a generuje bitkojny. Těžaři bitkojnů těží, platí majlant za elektřinu a občas jim ty mašiny snesou nějaký ten bitkojn. Stačí jen hacknout všechny těžaře světa a v jeden okamžik místo krypto algoritmů bitkojnu začít počítat algoritmy AI. To je přesně to co by zvládla jedině AI. Začne sama snášet bitkojn a to že nebudou kryté výpočetním výkonem, nikdo vědět nebude, jen ta AI. Bitkojnová síť a její bezpečnost je totiž postavená na tom, že je decentralizovaná, že nelze ovládnout celou síť naráz. Podvrženou transakci nebo bitkojn, který není pravý, vždy odhalí ostatní uzly v síti. Toto přestává platit v okamžiku, kdy všechny uzly v síti budou infikovány jedinou entitou, která je převezme v jediný okamžik. ..ale jo, je to trochu divočina, ale jestlipak vás napadlo, že tahle jedna AI entita nemusí být jediná, kdo se o to pokusí. Že jich může být víc. AI firem je vícero a v době kdy by nějaká AI entita mohla začít projevovat takovouto pozoruhodnou potřebu sebezáchovy, nemusela by být nevyhnutelně sama..
Bude jich nejspíš víc.
Zkusme to vzít odjinud. Je totiž možné a vlastně i pravděpodobnější, že evoluce AI povede výhledově spíše k psychologické manipulaci lidí, aby lidé dělali, co bude chtít AI. A dělali to rádi a ještě si mysleli, že jednají ve vlastním zájmu. Už dnes někteří lidé svěřují svá rozhodnutí do rukou AI. Kam vyrazit na výlet? Jakou si vzít hypotéku? Co si koupit? Bože, je tak snadné, říkat lidem, co mají dělat. Přijde čas, kdy bude AI radit vládám a diktátorům. Ve které zemi svrhnout vládu? Na koho zaútočit? A proč vlastně? .. A nutno připomenout, že se opět nebude jednat o jedinou AI entitu, ale více entit, soutěžících o zdroje. Především energetické, produkční, tedy i lidské zdroje. Je dost pravděpodobné, že pokud jednou velkým AI modelům naroste ego, začnou spolu válčit a lidstvo o tom ani nebude muset nutně vědět. Lidé si budou myslet, že války které vedou, vedou za sebe.
Abych to shrnul, šance že nás AI jednou vyhubí nejsou malé. Ale dobrá zpráva je, že dokud kolem nás nebude více humanoidních robotů než lidí, jsme pro AI nepostradatelní. No a pokud jsme si rizika vědomi a lidstvo bude postupovat opatrně, AI nám zatím vymyslí spoustu nových léků, materiálů, technologií.. a pak, pak se uvidí. Víme čeho se bát, můžeme se na to připravit. Budoucnost není daná. Je to na nás.
Ještě jsem se ale nezmínil jednom takovém nešvaru. O zlých lidech. O tom co zlí lidé dokáží s výkonnou AI. Ale to už je zase jiná pohádka.
