Článek
Svět umělé inteligence zažívá revoluci a společnost NVIDIA opět dokazuje, proč je považována za lídra v oblasti AI technologií. Nedávno oznámila uvedení dvou nových produktů, které mají potenciál zásadně změnit způsob, jakým vývojáři a výzkumníci pracují s umělou inteligencí. Jde o DGX Spark a DGX Station, osobní AI počítače, které přinášejí výkon dříve dostupný pouze ve velkých datových centrech přímo na pracovní stůl.
DGX Spark: Kompaktní AI výkon pro každého vývojáře
DGX Spark představuje nejdostupnější vstupní bránu do světa NVIDIA DGX systémů. Tento kompaktní AI počítač je navržen tak, aby poskytoval dostatečný výpočetní výkon pro vývoj a testování AI modelů, a to za zlomek ceny tradičních řešení.
Klíčové specifikace DGX Spark zahrnují:
- 4 GPU NVIDIA L40S s celkovou kapacitou 96 GB paměti
- Výkon až 1,2 petaFLOPS při AI výpočtech
- Procesor AMD EPYC s 24 jádry
- 256 GB RAM
- 8 TB NVMe úložiště
- Kompaktní design vhodný pro umístění pod stůl
Co mě na tomto zařízení zaujalo nejvíce, je jeho cenová dostupnost. S cenou začínající na 39 999 USD představuje DGX Spark nejdostupnější vstupní bod do prémiové řady DGX. To otevírá možnosti pro menší týmy a organizace, které si dříve nemohly dovolit investovat do špičkových AI systémů.
DGX Station: Přenosná AI superpočítačová stanice
Pro náročnější uživatele NVIDIA představila aktualizovanou verzi své populární DGX Station. Tato „osobní AI superpočítačová stanice“ je navržena tak, aby poskytovala masivní výpočetní výkon bez nutnosti speciální infrastruktury datového centra.
DGX Station nabízí:
- 4 GPU NVIDIA H100 NVL s celkovou kapacitou 640 GB paměti
- Výkon až 7,7 petaFLOPS při AI výpočtech
- Dva procesory Intel Xeon s celkem 56 jádry
- 2 TB RAM
- 32 TB NVMe úložiště
- Vodní chlazení pro tichý provoz (pouze 37 dB)
S cenou začínající na 399 999 USD je DGX Station určena pro organizace, které potřebují maximální výkon pro vývoj a ladění komplexních AI modelů, ale nemohou nebo nechtějí budovat vlastní datové centrum.
NVIDIA AI Enterprise: Software jako základ
Obě zařízení jsou dodávána s předinstalovaným softwarem NVIDIA AI Enterprise, který zahrnuje optimalizované AI frameworky, vývojářské nástroje a více než 100 předtrénovaných modelů. Tento softwarový balík je klíčovou součástí celého řešení a umožňuje vývojářům okamžitě začít pracovat na svých AI projektech.
NVIDIA AI Enterprise obsahuje:
- NVIDIA NeMo framework pro generativní AI
- NVIDIA RAPIDS pro datovou vědu
- NVIDIA Triton Inference Server pro nasazení modelů
- NVIDIA TensorRT pro optimalizaci inferenčního výkonu
- Podporu pro populární AI frameworky jako PyTorch, TensorFlow a JAX
Praktické využití v reálném světě
Co mě na těchto zařízeních fascinuje, je jejich potenciál demokratizovat přístup k AI výpočetnímu výkonu. Představte si malý startup, který vyvíjí novou generativní AI aplikaci. Místo aby platil statisíce měsíčně za cloudové služby, může investovat do DGX Spark a mít veškerý výkon pod kontrolou, bez dalších průběžných nákladů.
Podobně výzkumné týmy na univerzitách mohou využít DGX Station pro vývoj a testování komplexních modelů bez nutnosti čekat na přidělení času na sdílených výpočetních clusterech.
Podle Jensena Huanga, zakladatele a CEO společnosti NVIDIA, „DGX Spark a DGX Station přinášejí výkon AI superpočítačů přímo na stůl vývojářů, což jim umožňuje vytvářet, testovat a nasazovat AI modely rychleji než kdy dříve.“
Dostupnost na trhu
NVIDIA oznámila, že DGX Spark bude k dispozici od června 2024, zatímco aktualizovaná DGX Station bude dostupná od července 2024. Oba produkty budou distribuovány prostřednictvím globální sítě NVIDIA partnerů.
Pro české vývojáře a organizace to znamená, že budou mít přístup k těmto špičkovým nástrojům prakticky ve stejnou dobu jako zbytek světa, což je skvělá zpráva pro rozvoj AI ekosystému v České republice.
Závěr: Budoucnost AI výpočtů je osobní
Představení DGX Spark a aktualizované DGX Station jasně ukazuje směr, kterým se NVIDIA vydává - přinést výkon AI superpočítačů blíže k vývojářům a výzkumníkům. Tato strategie má potenciál výrazně urychlit inovace v oblasti umělé inteligence tím, že odstraní jednu z hlavních překážek: přístup k dostatečnému výpočetnímu výkonu.
Pro mě osobně je fascinující sledovat, jak rychle se vyvíjí hardware pro AI. Ještě před několika lety by bylo nemyslitelné mít takový výpočetní výkon mimo specializovaná datová centra. Dnes můžete mít ekvivalent malého superpočítače pod stolem ve své kanceláři.
Jsem přesvědčen, že tyto nové produkty od NVIDIA budou mít významný dopad na ekosystém AI vývojářů a přispějí k další akceleraci vývoje v této oblasti. Budoucnost AI výpočtů je osobní, a NVIDIA je v čele této transformace.
Co si myslíte o těchto nových AI počítačích od NVIDIA? Vidíte pro ně využití ve svém oboru nebo organizaci? Podělte se o své názory v komentářích.
