CloudSigma GPU-as-a-Service

CloudSigma umožňuje zákazníkům přidávat GPU do jejich virtuálních počítačů a využívat vysoce výkonné a nákladově efektivní výpočty, které zvládnou i ty nejnáročnější pracovní zátěže. Srdcem nabídky GPU společnosti CloudSigma je NVIDIA A100 Tensor Core GPU optimalizovaný pro HPC, AI a datovou analytiku. A100 překonává NVIDIA TESLA V100 a disponuje novými funkcemi, které mohou aplikace AI plně využít. Zákazníkům umožňujeme snadno vytvářet optimalizované VM s NVIDIA A100 v režimu passthrough, takže instance VM mají přímou kontrolu nad GPU a jejich vestavěnou pamětí.

Případy použití

Růst výpočetně náročných aplikací běžících v cloudu vedl k nedávnému rozmachu cloudových výpočtů akcelerovaných pomocí GPU. Mezi tyto aplikace patří trénování a inference hlubokého učení AI, datová analytika, vědecké výpočty, genomika, vykreslování grafiky a hraní her, abychom jmenovali alespoň některé. Od vertikálního škálování trénování AI a vědeckých výpočtů po horizontální škálování inferenčních aplikací a umožnění konverzační AI v reálném čase – GPU poskytují potřebný výkon pro urychlení mnoha složitých a nepředvídatelných pracovních zátěží běžících v cloudu.

NVIDIA A100 Tensor Core GPU představuje obrovský skok vpřed a přináší bezprecedentní akceleraci pro AI, datovou analytiku a HPC v jakémkoli měřítku. Poháněn architekturou NVIDIA Ampere, poskytuje A100 až 20x vyšší výkon než předchozí generace. CloudSigma zpřístupňuje verzi s 80 GB paměti, která nabízí nejrychlejší propustnost na světě s rychlostí přes 2 terabajty za sekundu (TB/s) pro spouštění těch největších modelů a datových sad.

GPU NVIDIA patří mezi přední výpočetní motory pohánějící AI tím, že poskytují výrazné zrychlení pro trénování AI a inferenční pracovní zátěže. Kromě toho GPU NVIDIA urychlují mnoho typů aplikací a systémů pro HPC a datovou analytiku, čímž mění data v užitečné poznatky.

AI a HPC
Trénujte složité modely strojového učení rychleji a efektivněji díky akceleraci GPU. Zvládejte datově náročné úkoly a dosahujte průlomů v inovacích poháněných AI.NVIDIA AI Enterprise je ucelená, cloudově nativní sada softwaru pro AI a datovou analytiku, která je optimalizována tak, aby umožnila jakékoli organizaci využívat AI. Je certifikována pro nasazení ve veřejném cloudu a zahrnuje globální podnikovou podporu, která zajišťuje hladký průběh projektů AI. A100 umožňuje výzkumníkům rychle dosahovat reálných výsledků a nasazovat řešení do produkce ve velkém měřítku.

TRÉNOVÁNÍ HLUBOKÉHO UČENÍ
Trénování modelů AI vyžaduje masivní výpočetní výkon a škálovatelnost. Jádra NVIDIA A100 Tensor s technologií Tensor Float (TF32) poskytují až 20x vyšší výkon oproti NVIDIA Volta bez nutnosti jakýchkoli změn v kódu a další dvojnásobné zrychlení díky automatické smíšené přesnosti a FP16.

Trénovací zátěž, jako je BERT, může být ve velkém měřítku vyřešena za méně než minutu pomocí 2 048 GPU A100, což je světový rekord v rychlosti dosažení řešení.

Pro největší modely s masivními datovými tabulkami, jako jsou doporučovací modely pro hluboké učení (DLRM), dosahuje A100 80GB až 1,3 TB sjednocené paměti na uzel a poskytuje až 3x vyšší propustnost oproti A100 40GB.

Vedoucí postavení společnosti NVIDIA v MLPerf, kde stanovila několik výkonnostních rekordů v celoodvětvovém benchmarku pro trénování AI.

INFERENCE HLUBOKÉHO UČENÍ
A100 přináší průlomové funkce pro optimalizaci inferenčních zátěží. Urychluje celou škálu přesnosti od FP32 po INT4. Technologie Multi-Instance GPU (MIG) umožňuje současný provoz několika sítí na jedné A100 pro optimální využití výpočetních zdrojů. Podpora strukturální řídkosti navíc přináší až 2x vyšší výkon nad rámec ostatních nárůstů inferenčního výkonu A100.

U nejmodernějších konverzačních modelů AI, jako je BERT, zrychluje A100 propustnost inference až 249x oproti procesorům (CPU).

U nejsložitějších modelů, které jsou omezeny velikostí dávky, jako je RNN-T pro automatické rozpoznávání řeči, zvýšená kapacita paměti A100 80GB zdvojnásobuje velikost každé instance MIG a poskytuje až 1,25x vyšší propustnost oproti A100 40GB.

Tržně vedoucí výkon společnosti NVIDIA byl prokázán v MLPerf Inference. A100 přináší 20x vyšší výkon, čímž toto prvenství dále upevňuje.

VYSOKOVÝKONNÉ POČÍTÁNÍ
Aby vědci odemkli objevy příští generace, spoléhají na simulace, které jim pomáhají lépe porozumět světu kolem nás.

NVIDIA A100 představuje jádra Tensor Cores s dvojitou přesností, která přinášejí největší skok ve výkonu HPC od uvedení GPU. S 80 GB nejrychlejší paměti GPU mohou výzkumníci zkrátit 10hodinovou simulaci s dvojitou přesností na méně než čtyři hodiny na kartě A100. Aplikace HPC mohou využít TF32 k dosažení až 11X vyšší propustnosti pro operace násobení hustých matic s jednoduchou přesností.

Pro aplikace HPC s největšími datovými sadami přináší dodatečná paměť karty A100 80GB až 2X vyšší propustnost v programu Quantum Espresso, což je simulace materiálů. Tato masivní paměť a bezprecedentní šířka pásma paměti dělají z A100 80GB ideální platformu pro pracovní zátěže příští generace.

VYSOKOVÝKONNÁ DATOVÁ ANALÝZA
Datoví vědci potřebují mít možnost analyzovat, vizualizovat a přeměňovat masivní datové sady na užitečné poznatky. Horizontálně škálovatelná řešení jsou však často brzděna datovými sadami rozptýlenými na více serverech.

Akcelerované servery s A100 poskytují potřebný výpočetní výkon – masivní paměť, propustnost paměti přes 2 TB/s a škálovatelnost s technologiemi NVIDIA® NVLink® a NVSwitch™ – pro zvládnutí těchto pracovních zátěží. V kombinaci s InfiniBand, NVIDIA Magnum IO™ a sadou open-source knihoven RAPIDS™, včetně nástroje RAPIDS Accelerator for Apache Spark pro GPU akcelerovanou datovou analýzu, platforma datových center NVIDIA akceleruje tyto obrovské pracovní zátěže na bezprecedentní úroveň výkonu a efektivity.

V benchmarku analýzy velkých dat poskytla karta A100 80GB výsledky s 2X nárůstem oproti A100 40GB, díky čemuž se ideálně hodí pro nově vznikající pracovní zátěže s exponenciálně rostoucí velikostí datových sad.

VĚDECKÉ SIMULACE: Urychlete vědecký výzkum a simulace, což umožní rychlejší získávání poznatků a objevů ve fyzice, chemii a vědě o životním prostředí.

MÉDIA A ZÁBAVA: Renderujte grafiku ve vysokém rozlišení, videa a animace bleskovou rychlostí. Poskytujte svému publiku výjimečné vizuální zážitky bez kompromisů v kvalitě.

FINANČNÍ MODELOVÁNÍ: Analyzujte rozsáhlé datové sady a provádějte komplexní finanční modelování s bezkonkurenční rychlostí, což poskytuje klíčové poznatky pro informované rozhodování.