Hlavní obsah

Stephen Hawking varoval před AI už před lety. Jsme na cestě do záhuby?

Foto: Doug Wheller, CC BY 2.0, via Wikimedia Commons

Psal se rok 2014. ChatGPT ještě neexistoval a většina systémů fungovala jako úzce zaměřený systém. Už tehdy Stephen Hawking varoval před umělou inteligencí.

Článek

Tehdy se tomu mnozí ještě smáli. Znělo to šíleně, protože před dvanácti lety jen málokoho z nás napadlo, že si budeme s počítačem povídat prakticky jako s člověkem a obrázky budeme vytvářet za několik krátkých sekund. Hawking byl však chytrý. Nehovořil o jednoduchých systémech, které v tu dobu existovali. Upozorňoval na to, že jednou vznikne umělá inteligence, která bude chytřejší než člověk.

Lidé se vyvíjejí pomalu, ale software se může učit opravdu rychle. Hawking tvrdil, že pokud stvoříme umělou inteligenci, vyhubí nás. Apeloval, abychom to nedělali. „Obávám se, že umělá inteligence může zcela nahradit lidskou rasu. Když lidé dokážou vytvořit počítačové viry, které se samy vylepšují a množí… půjde o novou formu života, jež lidstvo předčí,“ citoval The Independet Hawkinga, který je pro svůj přínos k poznání v oblasti fyziky přirovnáván k Isaaku Newtonovi.

Jak by to vypadalo?

Jak by příchod inteligentních strojů vypadal? Pravděpodobně si to nedokážeme dost dobře představit. „Je možný velmi výbušný přechod (do doby inteligentních strojů, pozn. překl.) – ale zřejmě by to vypadalo hodně jinak než ve filmech. Už roku 1965 si Irving Good uvědomil, že stroje s nadlidskou inteligencí by byly samy schopné velmi rychle si vylepšit svou inteligenci ještě víc. Spisovatel sci-fi románů Vernon Vinge tento moment nazval singularitou…“

Kdyby se to stalo, člověk by vlastně ztratil kontrolu nad světem. Společnost řídí toky informací a ty jsou pro AI přece přirozeným prostředím. „Není obtížné představit si, jak taková technologie přechytračí naše finanční trhy, překoná lidský výzkum nebo vyvine zbraně, jaké ani nedokážeme pochopit. Zatímco krátkodobě bude klíčové, která mocnost bude tyto inteligence ovládat, dlouhodobě zní tato otázka jinak: „Jsou vůbec ze své podstaty AI ovladatelné“? ptá se Hawking.

Cíle se nemusí shodovat s našimi zájmy

Umělá inteligence lidstvo nevyhubí z nenávisti nebo snad cynismu. Pokud se to stane, bude to prostě proto, že bude výtečná v naplňování cílů. Jenže cíle AI se nemusí shodovat se zájmem lidí. Je však jasné, že do té doby se musí AI nejdříve něco naučit. Neurolog Yohan John říká, že rozdíl mezi člověkem a umělou inteligencí je v procesu učení.

Pokud se člověk učí deskovou hru, musí si přečíst pravidla a ta prezentovat ostatním. Všichni je musí pochopit a aplikovat do hry. Následně je třeba vymyslet strategii. Je nutné taky rozeznávat objekty ve hře, pohybovat s nimi a čelit neočekávaným událostem. Umělá inteligence pokročila ve všech aspektech. Kámen úrazu je ovšem v kombinaci dovedností. Umělá inteligence není schopna zobecňování. Žádný stroj například nedokáže porozumět větě „Tahle hra je jako Osadníci z Katanu, ale ve vesmíru,“ vysvětluje John. Není schopen abstraktního myšlení.

Humor? Pomalu, ale přece

Ještě před lety nebyla AI vůbec schopna pochopit, co lidem přijde vtipné a proč. Lidé sice umělou inteligenci trénovali, ale nebylo to moc platné. Umělá inteligence vytvářela spíše šílené kameňáky. Ačkoliv ji lidé naučili desítky tisíc vtipů, umělá inteligence své nevymyslela. Tedy snažila se o to, ale výsledek nebyl přesvědčivý. V dnešních dnech už někteří komici berou jako kreativního pomocníka. Odborníci na humor se však shodují, že AI vtipů stále chybí ostrost, timing a živá energie.

Počátky AI? Je to složité

Už ve čtyřicátých letech minulého století se objevily první matematické modely inspirované fungováním neuronů. V roce 1950 se pak Alan Turing ptal, jestli mohou stroje myslet. O několik let později se sešla skupina vědců, která vytvořila obor samotné umělé inteligence. Tehdy šlo o odvážnou myšlenku.

Základní myšlenky byly známé desítky let. Chybělo však několik věcí. Velké množství digitálních dat. Výkonné počítače. A také hardware, který by zvládl obrovské množství výpočtů. Ve vývoji sehrály roly grafické čipy od Nvidie a také internet. Největší zlom přišel v roce 2017. Tehdy vznikl Transformer. A mimochodem, právě Transformer je ono T ve zkratce GPT.

Máte na tohle téma jiný názor? Napište o něm vlastní článek.

Texty jsou tvořeny uživateli a nepodléhají procesu korektury. Pokud najdete chybu nebo nepřesnost, prosíme, pošlete nám ji na medium.chyby@firma.seznam.cz.

Sdílejte s lidmi své příběhy

Stačí mít účet na Seznamu a můžete začít publikovat svůj obsah. To nejlepší se může zobrazit i na hlavní stránce Seznam.cz