Článek
Podobné zprávy na nás vyskakují každou chvíli. Jak se říká, vymknuta z kloubů doba šílí. A lidé už si na to tak trochu zvykli. Některé z nás by už nejspíš nezvedla ze židle ani zpráva o mimozemské invazi, protože by se zdála jako naprosto logická třešnička na tomto bizarním dortu. Přesto když se objevila aktualita, že nás umělá inteligence možná vyhladí už do deseti let (Ale nebojte, odhadujeme to na pouhých deset procent!), většinu lidí to zrovna dvakrát nepotěšilo. A pak se divíme, že nám u mladých přibývá psychických problémů a nehrnou se do plození nové generace. Ale za to mohou ty mobily a lenost, pochopitelně.
A co že se to vlastně stalo?
Pokud žijete pod kamenem nebo jste šťastlivec, kterému se tyto novinky nějakým zázrakem vyhnuly, a vůbec nevíte, o čem to mluvím, dovolte mi to vysvětlit. Z té potvůrky, co má většina z nás v telefonu a která dělá odporné reklamy na letošní Superstar nebo zahlcuje vygenerovaným odpadem sociální sítě, se tak trochu možná stane skutečný terminátor. Zní to jako hloupost, samozřejmě. Nebo spíš znělo, než v červenci přišla zpráva o tom, že dva nejpokročilejší modely společnosti OpenAI jaksi „utekly“ z uzavřeného testovacího prostředí a napadly cizí web. Znepokojivé, jasně, ale možná ještě ne vyloženě děsivé. Problém nastává, když se začnou bát i samotní vývojáři.
Přišel totiž výzkumník Jacob Coxon, který pracoval pro dva giganty OpenAI a Anthropic vyvíjející právě umělou inteligenci a nechal se slyšet, že hazardujeme se svými životy. „Lidé, kteří AI vytvářejí, upřímně věří, že by nás mohla zabít ještě před koncem tohoto desetiletí,“ napsal na sociální síti X. Takové prohlášení opravdu zlepší ráno. Korunu tomu nasadil Evan Hubinger, manažer ve společnosti Anthropic, který se k celé situaci vyjádřil na stejné sociální síti. Podle jeho odhadu je pravděpodobnost, že nás AI vyhubí v průběhu další dekády, více než 10 procent. A to už lidi pochopitelně docela znepokojilo.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Vyrojily se různé katastrofické scénáře a všichni přemýšleli nad tím, jakým způsobem nás ta AI vlastně vyhladí. Kde jsou ty doby, kdy jsme řešili, že umělá inteligence píše za školáky jejich úkoly nebo nám vezme práci? Nabízelo se však řešení. Vystoupili totiž samotní šéfové – Dario Amodei ze společnosti Anthropic, Sam Altman z OpenAI a Elon Musk, který je v čele xAI. Zdálo se, že se stal zázrak a konkurenční americké firmy se skutečně dokážou domluvit na tom, že zpomalí vývoj. To by nám dalo více času na vytvoření bezpečnostních opatření, abychom se tak trochu sami nezničili. Zní to skvěle, klasicky v tom však je jeden malý háček.
Když to neuděláme my, udělá to někdo jiný
Vývoj umělé inteligence totiž neprobíhá jen v USA. Tím se znovu dostáváme do ne zrovna pěkné spirály. Když to nebudeme mít my, budou to mít oni. A oni to pak mohou využít proti nám. Že vám to připomíná vývoj atomové bomby? Bingo. Akorát v tomhle případě ta atomová bomba možná bude moci sama přemýšlet. Tudíž by se taky mohla případně sama rozhodnout, že tady prostě už nebudeme.
To si pravděpodobně uvědomil i vysoký komisař OSN pro lidská práva Volker Türk, který vyzval státy a společnosti k mezinárodní akci. Cílem není vývoj zastavit, ale dát mu pravidla. To se však některým politikům zrovna dvakrát nelíbilo. Jedním z nich byl nepřekvapivě také americký prezident Donald Trump. „Jedinou kontrolou či ‚mantinely‘, které AI potřebuje, je silný a chytrý prezident (s vysokým IQ!), a USA ho mají,“ nechal se slyšet na sociální síti Truth Social. Ono není žádným tajemstvím, že má nejmocnější muž světa očividnou zálibu v AI výtvorech, ostatně je na své sociální sítě v nemalém množství přidává. Nemůžu se však ubránit obavám, že pokud bude právě silný a chytrý prezident (a hlavně s vysokým IQ!) naší jedinou zárukou před zničením, tak jeho pravděpodobnost brzy nebude jen 10 procent.
Americký prezident Donald Trump aneb (alespoň podle jeho slov) jediná nutná kontrola AI.
Pro dobro lidstva
V souladu s tím, co jsme si řekli o vývoji umělé inteligence, má americký prezident oprávněné obavy, že by zpomalení vývoje dalo náskok Číně. Ta se proti varováním také částečně vymezila, avšak vyzývala i k mezinárodní spolupráci. „Všechny strany by měly společně usilovat o rozvoj AI otevřeným, inkluzivním způsobem, který bude prospěšný všem a zaměřený na dobro,“ prohlásil mluvčí čínského ministerstva zahraničí Kuo Ťia-kchun. Krásná to myšlenka. Právě vývoj nových technologií „pro dobro“ jde lidem ostatně úplně nejlépe, že ano.
Ale třeba jsou naše obavy zbytečné. Možná se lidstvo přece jen dokáže konečně poučit a nebude se nadále vytrvale snažit samo sebe zničit. Buďme aspoň pro jednou optimisté. A pokud už nad AI ztratíme kontrolu, třeba její nadvláda nebude zase o tolik horší…
Anketa
Zdroje:
