Článek
Roman Yampolskiy, přední odborník na bezpečnost umělé inteligence, v podcastu Lexe Fridmana varoval, že lidstvo výrazně podceňuje potenciální hrozby, které mohou vyplývat z vývoje obecné superinteligence. V rozhovoru, který byl publikován už v létě 2024, vyjádřil své znepokojení - pokud bude umělá inteligence pokračovat v pokroku bez adekvátního dohledu, nečeká nás nic pěkného. Podle něj existuje 99,9% riziko, že umělá inteligence může během příštího století vyhladit lidstvo.
Tento názor, který citovaly časopisy Futura a Express, podpořil tím, že žádný současný model umělé inteligence neprokázal dostatečnou bezpečnost, systémy reagují tak, aby se zalíbily uživatelům a budoucí verze těchto systémů mohou zdědit nebo dokonce zhoršit kritické slabiny, které již existují. A to by mohlo mít katastrofální důsledky.
Zkoumání neznámých hrozeb
Yampolskiy patří mezi malou, ale vlivnou skupinu odborníků, kteří naléhají na vlády, aby se riziky AI zabývaly. Tvrdí, že umělá inteligence musí být regulována a že současná technologická nadvláda, kterou mají některé státy, jako je například USA pod vedením prezidenta Donalda Trumpa, je též neudržitelná a vlastně - nebezpečná.
Největší hrozbou je rostoucí propast mezi schopnostmi umělé inteligence a lidským dohledem. Tato nerovnováha pak přinese technologie, které už nebudeme schopni efektivně kontrolovat. Když AI začne překonávat lidskou schopnost porozumět nebo ovládne řízení svého rozhodování, povede to k nevratným, a dle přesvědčení této skupiny, i nebezpečným důsledkům.
Rozdílné názory na rizika
Ne všichni vědci ale sdílejí jejich názor. Studie Oxfordské a Bonnské univerzity, která se zaměřila na názory více než 2 700 odborníků na umělou inteligenci, odhaduje pravděpodobnost vyhynutí lidstva kvůli AI na pouhých 5 %. Spoluautorka této studie, Katja Grace, v rozhovoru uvedla, že diskuse mezi odborníky se většinou soustředí na rozsah rizika. „Neshody se týkají spíše toho, zda je riziko 1 %, nebo 20 %. Otázkou není, zda riziko existuje, ale jak velké je,“ vysvětluje Grace.
Ve veřejném prostoru zaznívají i hlasy, které Yampolského obhajují a zároveň dovysvětlují jeho význam: že jeho scénář samozřejmě možný je, ale jen za předpokladu, že k tomu má umělá inteligence k dispozici všechny potřebné zdroje a optimální podmínky. Což dnes nemáme a podle těchto hlasů ani nikdy mít nebudeme. Naše výpočetní síla by si s tím prostě neporadila.
Několik prominentních postav v technologickém průmyslu, včetně spoluzakladatele Google Brain Andrewa Nga a průkopníka AI Yanna LeCuna, naopak obavy z vyhynutí úplně odmítá. LeCun například obvinil některé lídry v oblasti AI z šíření poplašných zpráv a že tím tyto kruhy jen sledují své vlastní strategické a byznysové cíle.
Před AI ale varuje i bývalý zaměstnanec OpenAI Daniel Kokotajlo. Spolu s výzkumníkem umělé inteligence Eli Liflandem vyvinul scénáře, popisující vývoj umělé inteligence. Ve scénáři „Zpomalení“ je umělá inteligence regulovaná a slouží lidstvu. Ve scénáři „Rasa“ by však nekontrolovatelná superinteligence zvaná „Agent 5“ mohla lidstvo vyhladit - pomocí biologické zbraně.
Jaké jsou závěry?
Debaty o rizicích spojených s umělou inteligencí zůstávají vysoce polarizované. Zatímco někteří odborníci, jako Yampolskiy, varují před téměř nevyhnutelnou hrozbou, jiní vidí v AI více příležitostí než nebezpečí. Jedno je však jasné – s rychlým vývojem technologií a stále rostoucími ambicemi států a firem v oblasti umělé inteligence je nezbytné, aby bezpečnostní otázky a etické problémy spojené s AI zůstávaly na vrcholu veřejné a politické agendy. Tématu superinteligence se zabýval i Pavel Kasík ve svém článku: „Pokud to postavíme, úplně každý člověk zemře.“ Experti varují před super AI.
