AGI: génius, co rozhodne o budoucnosti naší civilizace

Představ si, že přijdeš domů po dlouhém dni. Otevřeš dveře a čeká tě dokonalá večeře, uklizený byt a ještě ti někdo připomene, že máš zavolat mámě. Ne, není to nový partner, je to umělá inteligence. A teď si představ, že tahle inteligence jednoho dne začne rozhodovat i za tebe. Líbilo by se ti to?

Dnešní chytrá AI jako třeba aplikace na obrázky, videa nebo texty umí jen určitou věc. Ale AGI (artificial general intelligence), tedy umělá obecná inteligence, má být úplně jiná liga. To by byl stroj, který umí myslet jako člověk. Rozumí, učí se a dokáže řešit různé úkoly bez toho, aby byla jen naprogramovaná na jednu věc.

AGI by mohla najít léky na rakovinu, vyřešit klimatickou krizi nebo být tvůj osobní terapeut, učitel i šéfkuchař v jednom. Mohla by pomáhat starým lidem, kteří jsou sami doma. Mohla by být skvělým učitelem pro děti, protože by nikdy neztratila trpělivost. Dokázala by řídit dopravu ve městech tak, aby se netvořily kolony a lidé neztráceli čas v zácpách. Mohla by navrhovat nové vynálezy, které si dnes neumíme ani představit. Nikdy nebude unavená a nikdy nebude mít špatnou náladu.

Jenže co když se tenhle super chytrý mozek rozhodne, že ví lépe než my, co je správné? Co když se mu naše přání budou zdát nepodstatná? A co když se ukáže, že ho neumíme zastavit? Nebezpečí nemusí být jen konec světa. Může to být třeba to, že přijdeme o práci, protože většinu věcí zvládne AI rychleji a levněji. Nebo že se staneme na chytré technice tak závislí, že bez ní neuděláme ani jednoduchý úkol. Velkým rizikem je také zneužití vládami nebo firmami, které by AGI mohly použít k manipulaci a kontrole lidí.

Průzkumy mezi odborníky jsou trochu děsivé. Podle Business Insideru více než polovina AI výzkumníků věří, že existuje minimálně 5 % šance, že AI způsobí katastrofu nebo i zánik lidstva. Jiní analytici jako třeba Elon Musk nebo Dario Amodei mluví dokonce o riziku mezi 10 a 25 %. A pak jsou tu pesimisté, kteří tvrdí, že pokud to necháme bez kontroly, máme až 95 % šanci, že se to pro nás zle zvrtne.

Naštěstí vše není jen černé. Odborníci i politici už dnes řeší, jak AGI udržet pod kontrolou. Mluví se o pauzách ve vývoji, o mezinárodních dohodách, o povinných bezpečnostních pravidlech. Některé firmy už dnes testují systémy, které hlídají, jestli se AI nechová nebezpečně. Existují i návrhy, že by se AGI musela registrovat podobně jako léky nebo jaderné technologie. Pomoci může i tlak veřejnosti. Když se budeme zajímat a budeme chtít odpovědi, politici i vývojáři budou muset jednat.

Takže kamarád nebo katastrofa? Pravda je, že to ještě nikdo neví. AGI může být největší dar lidstvu, nebo největší hrozba. A protože se to všechno vyvíjí právě teď, možná budeme svědky toho, jak se rozhoduje o osudu celé naší civilizace.