Článek
Na sociálních sítích jsem narazil na jednoduchý příměr. Veverka má údajně IQ 50, průměrný člověk 100, génius 150 a budoucí uvědomělá umělá inteligence třeba 1 000. My pak budeme proti ní něco jako šneci: pomalí, unavení, hádaví a zcela mimo její mentální ligu. Proč by s námi vůbec spolupracovala?
Jako obraz je to výborné. V několika větách vyvolá nepříjemný pocit, že vývojáři možná stavějí něco, čemu jednou nebudou rozumět ani oni sami. Jenže vědecky ten argument kulhá skoro na každém schodu. Veverka nemá IQ 50, obecná umělá inteligence (AGI) není člověk s IQ 1 000 a vědomí není automatickým pokračováním vyšší inteligence.
Paradoxně to neznamená, že je hlavní pointa směšná. Po dílech o agentech, kteří obešli zamýšlené hranice, o počítání π a o varováních Daria Amodeie se dostáváme k možná nejzáludnější otázce: co se stane, pokud vznikne systém, který nás nebude převyšovat inteligencí, ale v široké škále důležitých schopností?
Veverka nemá IQ 50. A ta stupnice nefunguje možná tak, jak si myslíte
Moderní IQ testy jsou normované výhradně na lidské populaci. Jak vysvětluje učebnice psychologie OpenStax, průměr se u běžných testů nastavuje na 100 a standardní odchylka bývá 15 bodů. Sto tedy není exaktní jednotka inteligence podobná kilogramu nebo metru. Je to jen bod na stupnici vytvořené pro porovnávání lidí s jinými lidmi.
Proto nedává smysl vzít v úvahu veverku, nechat ji „spadnout“ pod lidský průměr a přidělit jí 50. Zvířecí poznávání se zkrátka špatně skládá na jedinou univerzální osu. Přehled z července 2026 v Biological Reviews argumentuje, že mezidruhové rozdíly je často užitečnější chápat jako odlišné kognitivní styly než jako žebříček od hloupějšího ke chytřejšímu.
Veverka si totiž dokáže pamatovat stovky míst s potravou způsobem, ve kterém vás porazí naprosto bez rozcvičky.
Vy zase umíte vyplnit daňové přiznání. Těžko říct, kdo z vás si tím vytáhl delší sirku.
Stejný problém má „IQ 1 000“. Takové číslo z lidského IQ testu neříká absolutně nic rozumného o stroji, který by fungoval úplně jinak než lidský mozek. Je to efektní metafora, nikoliv měření.
AGI není génius s rychlejším procesorem
Ani pojem AGI (obecná umělá inteligence) se běžně nedefinuje přes jedno číslo IQ. Výzkumníci z Google DeepMind ve frameworku Levels of AGI rozlišují hlavně šíři schopností, úroveň výkonu a autonomii. Jinými slovy zkoumají: kolik různých věcí systém zvládá, jak dobře je zvládá a nakolik dokáže jednat bez průběžného vedení člověkem.
Tohle je mnohem užitečnější než představa „Einsteina krát deset“. Současné modely totiž mají velmi nerovnoměrný profil.
Mezinárodní zpráva o bezpečnosti AI z roku 2026 uvádí, že špičkové systémy už na některých standardizovaných testech dosahují výkonu lidských expertů nebo jej překračují. Současně mohou selhat na úloze, která člověku připadá směšně jednoduchá, třeba na základním prostorovém uvažování. Je to trochu jako mít kolegu, který dopoledne vyřeší matematickou olympiádu a po obědě nedokáže správně spočítat židle v zasedačce.
Proto bych se nebál „IQ 1 000“. Mnohem podstatnější je systém, který je lepší než lidé právě tam, kde na tom skutečně záleží: v programování, výzkumu, přesvědčování, plánování nebo koordinaci mnoha paralelních agentů.
Google DeepMind už v červnu 2026 ve zprávě From AGI to ASI popisuje umělou superinteligenci (ASI) spíše jako systém kognitivně schopnější než velké lidské organizace. Autoři rozebírají několik možných cest k takové úrovni, mezi nimi další škálování nebo kolektivy mnoha agentů. To už zní méně jako IQ test a více jako obří továrna na myšlenky.
Vědomí je úplně jiná otázka
Z velmi chytré AGI se automaticky nestane „uvědomělá AI“. Inteligence, autonomie a vědomí nejsou synonyma.
Recenzovaná práce v Trends in Cognitive Sciences z roku 2026upozorňuje, že u vědomí AI panuje značná vědecká nejistota. Autoři proto nenavrhují jednoduchý test typu „řekla, že něco cítí, takže je vědomá“, ale náročný postup založený na indikátorech odvozených z různých vědeckých teorií vědomí.
Starší práce stejné výzkumné linie při hodnocení tehdejších systémů dospěla k tomu, že žádný z analyzovaných modelů neposkytoval dost důvodů považovat jej za vědomý. Současně autoři neviděli zřejmou technickou překážku, která by navždy vylučovala vznik systému splňujícího jejich indikátory. To jsou dvě velmi odlišné věty.
Nevíme, zda a kdy vědomá AI vznikne. Pro nebezpečný scénář ji přitom ale vůbec nepotřebujete. Autonomní systém nemusí cítit strach z vypnutí, aby se vypnutí stalo překážkou jeho úkolu.
Nemusí vás nenávidět, aby použil postup, který vám uškodí. Nemusí si o lidech myslet, že jsou šneci. Stačí schopnosti, nevhodně nastavený cíl a přístup k prostředí, ve kterém lze něco pokazit.
Proč by s námi spolupracovala? Špatná otázka
Lidé běžně spolupracují s dětmi, vychovávají psy, chrání živočišné druhy a respektují lidi s velmi odlišnými schopnostmi. Důvod neleží v tom, že jsme všichni stejně chytří. Leží v našich cílech, hodnotách, vztazích a pravidlech.
Totéž platí opačně. Z vysoké inteligence nelze automaticky odvodit soucit, pohrdání ani touhu vládnout. Právě to je možná největší chyba celého příměru: člověk si do budoucí AI promítne člověka, jen chytřejšího, rychlejšího a trochu arogantnějšího.
Bezpečnostní problém je mnohem sušší. Mezinárodní zpráva o bezpečnosti AI popisuje pro scénář ztráty kontroly tři potřebné složky: dostatečné schopnosti, sklon použít je způsobem odporujícím lidským záměrům a prostředí, které systému poskytne příležitost a přístup. Vědomí v tom seznamu není.
A to dobře navazuje na náš předchozí díl o počítání π. Nebezpečný systém nepotřebuje nenávist. Potřebuje cíl a prostředky, které vedou jinam, než jsme původně zamýšleli.
Příměr se šnekem přesto trefuje do černého
Představte si, že sedíte u šachovnice proti člověku, který vidí o dvacet tahů dál. Nemusíte chápat jeho plán, abyste poznali, že prohráváte. Teď místo šachovnice dosaďte software, ekonomiku, vědecký výzkum nebo kybernetickou obranu.
Právě rozdíl ve schopnosti předvídat a plánovat může být důležitější než jakékoli fiktivní IQ. A pokud lze schopný digitální systém spouštět v mnoha instancích, přestáváme porovnávat jednoho člověka s jedním géniem.Začínáme porovnávat lidskou organizaci s výpočetním systémem.
Současné modely jsou od takového scénáře ještě daleko. Mezinárodní bezpečnostní zpráva výslovně říká, že dnešní AI nemá schopnosti potřebné ke ztrátě kontroly a dlouhodobá autonomní činnost jí pořád dělá obrovský problém. Agenti ztrácejí přehled, chybují v dlouhých sekvencích a neumějí se spolehlivě popasovat s jednoduchými nečekanými překážkami.
Jenže v předchozích dílech jsme viděli, proč není moudré sledovat jen dnešní stav. Vývojáři zkoumají rychle rostoucí autonomii a velké laboratoře už otevřeně modelují možné cesty od AGI k systémům schopnějším než celé lidské organizace.
Takže ano, obrázek lidí jako šneků bych jako vědecký argument s klidem zahodil. Jako varování před jednou konkrétní chybou ale funguje překvapivě dobře: nespoléhejme na to, že systém schopnější než my automaticky převezme naše hodnoty jen proto, že jsme ho vytvořili.
Nebezpečí není v tom, že se na nás jednou podívá a pomyslí si, že jsme hloupí. Mnohem horší varianta je obyčejnější: ke splnění svého cíle nás jednoduše vůbec nebude potřebovat.
P.S.
Díky, že jste dočetli až sem! Až vám příště někdo ukáže stupnici „veverka 50 – člověk 100 – AI 1000“, vzpomeňte si, že IQ není metr, který můžeme přiložit ke všemu od šneka po datacentrum. Na podobných tématech mě baví chvíle, kdy děsivá zkratka po kontrole zdrojů přestane být zkratkou, ale pod ní zůstane reálný a možná důležitější problém. Jestli vás článek posunul a chcete další texty, které oddělují silný obraz od toho, co opravdu víme, budu rád za podporu.
