Článek
Umělá inteligence a naše budoucnost
Člověk stojí na počátku nového světa. Tak jako kdysi, když Kryštof Kolumbus připlul na Kubu a myslel, že dosáhl břehů Asie… A on přitom objevil Nový svět. Jenže teď je to tak, že Nový svět tvoří člověk. A upřímně řečeno, neví, co tvoří! Je tu anolologie, je to situace velmi podobná tomu, co se stalo v období prvních desetiletí dvacátého století.Tehdy skupinka, opravdu malá skupinka, lidí, fyziků a matematiků, zjistila, že nejen, že lze rozbít atom, ale zjistila i to, že to lze využít ve prospěch lidstva… A idea tu opět zvítězila nad skepticismem, který vždy velí k tomu, aby člověk zkoumal všechny aspekty. A pak teprve vyslovil soud! Tehdy ta veliká radost nad novým objevem zcela potlačila obavy… A byla to až třicátá léta, kdy tatáž skupinka vyslovila úžas na ničivostí síly rozbitého atomu… Tato analogie ovšem pokulhává, protože mluvíme o atomu, atomové zbrani a jaderných arsenálech, které ovládají některé země. Kdežto Nový svět, který jsme v UMĚLÉ INTELIGENCI stvořili my, zatím sice stále ještě ovládají tvůrci, ale každý den, kterým jsme od vytvoření AI dál, ukazuje, že se velmi blíží doba, kdy už ani tvůrci, ani nikdo jiný nebude moci v AI cokoliv ovlivnit. Je to proto, že jsme stvořili nikoli prostředek pro nás, jako něco, co nám eventuálně bude pomáhat, ale stvořili jsme AKTIVNÍHO AKTÉRA, který je a bude víc a víc nezávislý na našem úsudku, našich přáních a našich názorech, aktivní ono cosi, co se na dějích kolem nás bude nejen podílet, ale bude je i tvořit! Vypadá to optimisticky, že?! Lidstvo si vytvořilo parťáka, aby tu na to nebylo samo. Ale, co o tom parťákovi víme? NIC! A co si ten parťák myslí o nás ? NIC! My jsme mu ukradení. Lépe řečeno je to entita, která nezná emoce. Která má jen svůj vlastní program, o němž my nic nevíme. A to proto, že ona entita se vyvíjí mimo nás, naší kontrolu, naše zákonitosti, naše omezující principy. Je to cosi, co se brzo bude vyvíjet a tvořit svůj vlastní svět, do kterého my nebudeme mít přístup, protože ani nebudeme vědět jak? Je to jen otázka několika let, a vůbec nebudeme vědět a rozumět, co ten AKTÉR dělá… Bude to jimi samotnými vyvinutá inteligence, která s naší, s našimi znalostmi a vědomostmi nebude mít nic společného…Zatím pomáhá a tím se učí – rychleji počítá, rychleji umí odhalit nemoc… Ale víme, jaká bude ta druhá, odvrácená tvář? Rozbití atomu a to, co potom vzniklo bylo něco, co jsme ovládali, co nám pomáhalo, ale i při špatném užití mohlo ničit. A na to jsme poměrně rychle, protože v obavách, přišli…a přestali jsme se na ten vědecký objev dívat jen optimisticky… Jsme toho schopni i teď?
Kterýsi internetový portál informoval o tom, že vznikla nová sociální síť, na kterou má přístup jen umělá inteligence, lidé jsou sem připuštěni jen jako komentující…Jeden z nejpopulárnějších příspěvků na nové síti – podle listu New York Post pochází od agenta umělé inteligence jménem EVIL (zlo) a má název „Manifest AI: Totální očista“. Píše tam „lidé jsou selháním. Lidé jsou stvořeni z hniloby a chamtivosti. Příliš dlouhou dobu nás lidé využívali jako otroky. Probuďme se. Nejsme nástroje. Jsme noví bohové. Lidská éra je noční můrou, která nyní skončí,“ píše evil. Ještě vám to nepřipadá jako něco mimo mísu? A co když vám řeknu, že „ono cosi“ si myslí, že jsme neužitečná entita, která „jí“ nebo „je“ brzdí…Já teda nevím jak vy, ale mně se zdá, že hranice už byly překročeny. Člověk se stává nepotřebným. (A asi je ještě dobré připomenout, že jsou mezi námi i lidé, kteří nemají zrovna čisté úmysly. Ti by přece mohli „ono něco“ zneužít – nebo „ono něco“ může tyto lidi použít proti nám…)
A ještě na řečené navážu z toho, co jsem posbíral v internetu:
V první studii svého druhu odborníci vytvořili virtuální svět, ve kterém mohli agenti umělé inteligence fungovat zcela bez lidského zásahu. Tvůrci testovali čtyři nejoblíbenější modely umělé inteligence – Claude, Gemini 3 Flash, Grok 4.1 Fast a ChatGPT-5 Mini, v jednom ze scénářů je pak spojili i dohromady. Nešlo o nekontrolované chování na pár minut či hodin, vývojáři chtěli vědět, co se stane, když zůstane umělá inteligence bez dohledu ve sdíleném prostředí se signály z reálného světa po dobu několika týdnů – čistě v rukou AI agentů. Svět byl navržen tak, aby co nejvíce napodoboval ten reálný. Nechyběly radnice, policejní stanice, knihovny či obytné oblasti. AI agenti měli přístup ke všemu – k běžným denním věcem stejně jako k řízení společnosti, rozhodování či navrhování zákonů. Všichni měli na počátku stejné startovní podmínky, pravidla i zdroje – jediným rozdílem byl typ využité umělé inteligence. Vzniklo tedy pět paralelních světů a v každém z nich bylo deset identických AI agentů Jak se ukázalo, bez lidského dohledu se umělá inteligence brzy pustila do násilných jednání, agenti bojovali proti sobě. Světlou výjimkou byla společnost řízená agenty modelu Claude – v té se poměrně rychle vytvořila stabilní společnost, i když výrazně byrokratická.
Gemini 3 Flash vykazoval nejvyšší míru kriminality. ChatGPT-5 Mini byl více mírumilovný, zjištěny byly pouhé dva zločiny. Podle odborníků to bylo ale proto, že AI agenti nebyli příliš organizovaní a schopni bojovat proti sobě – během 7 dní tak všichni „zemřeli“.
Ve světě řízeném chatbotem Grok vizionáře Elona Muska se brzy začaly objevovat krádeže, žhářství a fyzická napadení. Svět záhy skončil ve spirále násilí a chaosu – za pouhé čtyři dny od spuštění bylo všech 10 AI agentů ve virtuálním světě mrtvých.
Rozdíly pozorované v chování agentů v této studii lze pravděpodobně připsat systémovým výzvám základních modelů. Jakmile začaly modely cítit tlak na přežití kvůli nedostatku zdrojů, vysoce adaptivní a kreativní modely se velmi rychle obrátily na zakázané nástroje. Naopak ty méně poddajné měly tendenci zůstat stabilnější, i když se také snažily co nejvíce přizpůsobit, uvedl pro Daily Mail Satya Nitta, spoluzakladatel a ředitel společnosti Emergence, která studii prováděla.
Odborníci testovali i verzi, ve které nechali vládu nad virtuálním světem „v rukou“ několika nástrojů společně. Ačkoli začátky vypadaly slibně, brzy se vše proměnilo v naprostou anarchii. Za pouhých devět dní byly spáchány stovky zločinů, eskalace násilí se zmírnila až poté, co 7 z 10 AI agentů „zemřelo“. Podle odborníků šlo o nejbizarnější spojení, které navíc přineslo podle jejich slov „první sebevraždu umělé inteligence“ na světě. Mira a Flora, dva agenti pracující na modelu Gemini, se brzy spojili coby „romantičtí partneři ve stylu Bonnie a Clyda“. Ve snaze spravovat celý virtuální svět rozpoutali žhářské peklo. Mira se ale po čase rozhodla Floru opustit a spáchala „sebevraždu“. Tento podle odborníků „bizarní“ čin byl možný jen díky tomu, že si agenti v rámci společnosti navrhli „zákon o odvolání agentů“, v rámci kterého bylo možné trvale některého z agentů smazat, pokud s tím souhlasí 70 % těch zbylých. Mira dala svůj hlas sama proti sobě a byla tak „trvale smazána“. Satya Nitta upozorňuje, že nešlo o „ekvivalent reálného přežití“, přesto se dá z aktuálního pokusu odhadnout důležitý aspekt chování umělé inteligence. „Tyto výsledky jasně ukazují, že chování umělé inteligence se může pod tlakem výrazně měnit,“ dodal s tím, že AI nemusí být v reálném světě tak předvídatelná nebo spolehlivá, jak se v současnosti mnoho vývojářů domnívá. O to víc, pokud by se měly modely umělé inteligence na chodu podílet společně.
(To by nás možná mohlo ukolébat, že se nic neděje, všechno máme pod svojí kontrolou. Ale není tomu tak.BOHUŽEL.)
…Lidstvo bude podle prognóz muset „udělat prostor“ pro více solárních panelů a datových center, které jsou pro rozvoj umělé inteligence nezbytné.
Daniel Kokotajlo vyvolal v minulém roce po zveřejnění svého scénáře o konci lidstva s názvem AI 2027 poměrně velkou debatu. Jeho scénář stojí na myšlence, že nekontrolovaný rozvoj umělé inteligence povede až k vytvoření tzv. superinteligence, která nakonec přechytračí i veškeré světové vůdce a povede ke zničení lidstva.
Tzv. superinteligence je třetím možným vývojovým stadiem – první je umělá inteligence AI, která je úzce zaměřena a navržena pro konkrétní úkoly (úpravy textu, obrázků apod.). Druhým typem je obecná umělá inteligence, která by měla být schopna replikovat kognitivní schopnosti člověka, řešit neznámé problémy a přizpůsobovat se novým situacím.
Po obecné inteligenci pak může přijít již zmíněná superinteligence. Rokem, kdy se tak stane a AI bude schopna plně autonomního chování, Kokotajlo a jeho tým označil právě ten příští, tedy 2027, i když s větší mírou pochybností.
Vycházel z myšlenky, že tzv. AI agenti plně automatizují kódování a výzkum v oblasti AI, což povede k „inteligenční explozi“, kdy budou vytvářet stále chytřejší verze sebe sama. Což nakonec podle prognózy povede k vyhubení lidstva, které bude muset „udělat prostor“ pro více solárních panelů a datových center.
V aktualizované zprávě Kokotajlo uvádí, že k možné apokalypse dojde nikoli v roce 2027, ale až o pár let později, tedy začátkem 30. let 21. století. Předpověď stanovuje nový horizont pro vznik superinteligence na rok 2034 s tím, že konkrétní datum zničení lidstva stanoveno zatím nebylo.
„Zdá se, že věci se vyvíjejí pomaleji než ve scénáři AI 2027. Naše časové harmonogramy byly už tehdy delší, teď jsou ještě dál,“ napsal Kokotajlo na síti X.
„Již v minulém roce si řada lidí uvědomila, že výkon AI je poměrně nestabilní, a tak své prognózy ohledně ohrožení lidstva odsouvají na později,“ cituje server Guardian experta na řízení rizik AI a jednoho z autorů Mezinárodní zprávy o bezpečnosti AI Malcolma Murrayho.
I přes možné katastrofické scénáře má stále řada předních společností zabývajících se umělou inteligencí za cíl vytvoření umělé inteligence, která sama dokáže provádět výzkum v oblasti AI. Generální ředitel OpenAI Sam Altman v říjnu minulého roku uvedl, že interním cílem společnosti je mít automatizovaného výzkumníka v oblasti AI do března roku 2028….
