Článek
Jan Macháček
Evropská média otázka krocení AI velice vzrušuje. Mají pocit, že evropskému skepticismu vůči AI se nakonec dává za pravdu. Teď, když jsme slyšeli, že AI způsobí do deseti let zánik lidstva, se naše evropská lhostejnost a nevšímavost obracejí v paniku.
Podle serveru se žádné zpomalování na základě koordinace mezi Anthropicem a OpenAI konat nebude. Donald Trump už tuto myšlenku odmítl a bez americké vlády žádná regulatorní změna nebude. Důležitější otázky se týkají Číny. Americké firmy jsou v oblasti AI pořád napřed, ale zase ne o tolik. Čínské modely náskok dohánějí. Není žádný důvod si myslet, že by se čínské firmy chtěly zúčastnit nějaké zpomalovací aliance, která by brzdila jejich konkurenční rozmach či dynamiku. AI hraje důležitou roli v čínském ekonomickém rozvoji. Čína se zaměřuje na propojení AI a robotiky, kde může být patrně také největší přínos AI. Čína nemá na žádné zpomalovací alianci zájem.
Samozřejmě nemůžeme tušit, co se odehrává v hlavách Sama Altmana a Daria Amodeiho, šéfů OpenAI a Anthropicu. Ale otázka „cui bono“ je vždy namístě. Komu by to nejvíce prospělo?
Je asi rozumné očekávat, že šéfové velkých firem jednají v jejich prospěch, nikoliv z nějakých altruistických motivů. Důvody jsou nepochybně komerční. Jak toto odvětví dospívá, moc a zisky se upevňují prostřednictvím ovládnutí regulace (regulatory capture). Příkladem může být německý automobilový průmysl v minulosti. Desítky let sám určoval regulační předpisy, které konkurenci komplikovaly vstup na trh. Dario Amodei nestřílel od boku a rovnou navrhl americké vládě nový a detailní regulatorní režim. Regulace většinou pomáhají existujícím a větším firmám a poškozují nové a menší firmy.
Nemůžeme vyloučit ani větší míru cynismu. Amodei už má za sebou historii tvrzení o tom, jak jsou jeho vlastní produkty nebezpečné. Je to vlastně už docela klasický marketingový trik: lidé budou po těchto produktech více toužit a budou ochotni zaplatit prémiovou cenu.
Volání po zpomalení je ostře odmítáno i zevnitř odvětví. Šéf společnosti Nvidia Jensen Huang ho odmítl jako blbost. Obavy a paniku spustil zaměstnanec Anthropicu tvrzením, že lidstvo může na konci dekády kvůli AI vyhynout. Některé zprávy o tom, že „AI boti“ jednají nezávisle, jsou skutečně znepokojivé, i když nelze vyloučit, že přece jen došlo k určitému zásahu člověka. Samozřejmě si ale budeme pamatovat, že firmy Anthropic a OpenAI nás na problém upozornily.
...
K celé věci se vyjádřil také investor, ekonom a komentátor Tyler Cowen ve sloupku pro Free Press. Hned na úvod uvádí, že je členem poradního sboru Anthropicu.
Požadavek na zpomalování AI odstartoval bývalý výzkumník Anthropicu Jacob Coxon, který z firmy odešel na protest proti tomu, že firma nezajistila, aby fungování AI zůstalo v souladu se záměry jejích tvůrců. Coxonův příspěvek na sociálních sítích vidělo 169 milionů lidí. Evan Hubinger, který v Anthropicu pracuje na témže problému, odhaduje pravděpodobnost konce světa v důsledku AI do konce této dekády na 10 procent. Senátor Bernie Sanders řekl, že bude usilovat o zpomalení vývoje AI a o „zákaz vývoje superinteligence“.
Cowen se považuje za AI optimistu, ale proti změnám postupů v laboratořích nic zásadního nenamítá. Tvrdí však, že vzniká nedorozumění ohledně toho, co Anthropic navrhuje. Nenavrhuje totiž zpomalení, ale pauzu, po níž bude následovat rychlá akcelerace.
Jsou tu totiž dvě různé věci, které je třeba rozlišovat. Na jedné straně je vývoj modelů a na druhé investice do výpočetní kapacity. Výpočetní kapacity je málo a je drahá. Kapacitu přidělují firmy jako Google a Amazon a málokdo jí dokáže rychle a za rozumnou cenu získat více. Číně také schází výpočetní síla.
Kdyby regulátoři mysleli omezování pokroku v AI vážně, zakázali by budování nové výpočetní kapacity nebo by znemožnili její uvádění do provozu. Cowen tomu sice nefandí, ale právě takto by se dal problém řešit nejpřímočařeji.
Současná politická válka proti datovým centrům je velmi neefektivní způsob, jak cílit na tuto část řetězce. Jednotlivé státy americké unie jsou hladové po investicích a nakonec existují i možnosti v zahraničí. Neúspěch takové kampaně je velmi pravděpodobný.
A teď si srovnejme tvrdý zákaz nové výpočetní kapacity s tím, co navrhují AI laboratoře: zpomalit vývoj nových jazykových modelů a také jejich testování. Mezitím ale budou velké firmy dál investovat do zvyšování výpočetní kapacity. Když se pak na této infrastruktuře spustí nový model, bude okamžitě mnohem výkonnější a přinese mnoho překvapení a dramatických změn. Zpomalení tedy pokrok jen trochu odloží a velký skok – právě proto, že se opozdí – bude nakonec mnohem větší.
Podle Cowena si to máme představit jako basketbalový zápas. Intenzivní soutěžení se místo první čtvrtiny zápasu pouze přesune do poslední čtvrtiny. Změní se jen načasování největšího úsilí, ale celková soutěživost týmů se tím těžko změní.
Podle Cowena pesimisté ohledně AI sice věští civilizační kolaps, ale zatím nemají k dispozici žádnou vyspělou vědeckou literaturu, na rozdíl například od problematiky klimatické změny. AI pesimisté se zatím omezují na mediální blogy, knihy, eseje a úderné příspěvky na síti X. Neznamená to, že se mýlí, ale nepodtrhuje to rigoróznost ani vědeckou robustnost jejich tvrzení.
Totéž se týká vývoje cen akcií, návratnosti, různých měřítek volatility, predikčních trhů a pojištění. Tam, kde lidé dávají na stůl skutečné peníze, se zatím žádná temná apokalypsa nerýsuje. Trhy se samozřejmě mohou mýlit, stejně jako věda. Když ale dáme trhy a vědu dohromady, vězme, že zatím nemáme k dispozici lepší civilizační měřítko pravdy.
Autor je prezidentem think tanku Strategeo, působí jako visiting fellow společnosti Globsec a je členem sboru externích poradců prezidenta Petra Pavla pro zahraniční politiku.
