Natrag na blog

CloudSigma GPU kao usluga

CloudSigma GPU kao usluga

CloudSigma omogućuje korisnicima dodavanje GPU-ova u njihove virtualne strojeve i korištenje računalstva visokih performansi i isplativosti koje može zadovoljiti najzahtjevnije radne zadatke. Srce CloudSigma ponude GPU-ova je NVIDIA A100 Tensor Core GPU optimiziran za HPC, AI i analitiku podataka. A100 nadmašuje NVIDIA TESLA V100 i ima nove značajke koje AI aplikacije mogu u potpunosti iskoristiti. Korisnicima omogućujemo jednostavnu izradu optimiziranih VM-ova s NVIDIA A100 u passthrough načinu rada, tako da VM instance imaju izravnu kontrolu nad GPU-om/ovima i njihovom ugrađenom memorijom.

Slučajevi upotrebe

Rast računalno intenzivnih aplikacija koje se izvode u oblaku potaknuo je nedavnu eksploziju računalstva u oblaku ubrzanog GPU-om. Te aplikacije uključuju obuku i zaključivanje AI dubokog učenja, analitiku podataka, znanstveno računalstvo, genomiku, renderiranje grafike i igranje, da spomenemo samo neke. Od vertikalnog skaliranja AI obuke i znanstvenog računalstva do horizontalnog skaliranja aplikacija za zaključivanje i omogućavanja konverzacijske AI u stvarnom vremenu, GPU-ovi pružaju potrebnu snagu za ubrzavanje brojnih složenih i nepredvidivih radnih zadataka koji se izvode u oblaku.

NVIDIA A100 Tensor Core GPU predstavlja golemi korak naprijed, pružajući neviđeno ubrzanje za AI, analitiku podataka i HPC na svim razinama. Pokretan NVIDIA Ampere arhitekturom, A100 pruža do 20X veće performanse od prethodne generacije. CloudSigma stavlja na raspolaganje verziju s 80GB memorije, s najbržom propusnošću na svijetu od preko 2 terabajta u sekundi (TB/s) za pokretanje najvećih modela i skupova podataka.

NVIDIA GPU-ovi su među vodećim računalnim motorima koji pokreću AI pružajući značajna ubrzanja za radne zadatke AI obuke i zaključivanja. Osim toga, NVIDIA GPU-ovi ubrzavaju mnoge vrste HPC aplikacija i sustava te aplikacija za analitiku podataka, pretvarajući podatke u uvide.

AI i HPC
Trenirajte složene modele strojnog učenja brže i učinkovitije uz GPU ubrzanje. Uhvatite se u koštac sa zadacima intenzivnim za podatke i ostvarite proboje u inovacijama vođenim umjetnom inteligencijom.NVIDIA AI Enterprise je sveobuhvatan (end-to-end) softverski paket za AI i analitiku podataka, izvorno razvijen za oblak (cloud-native), optimiziran kako bi omogućio bilo kojoj organizaciji korištenje AI-ja. Certificiran je za implementaciju u javnom oblaku i uključuje globalnu podršku za poduzeća kako bi AI projekti ostali na pravom putu. A100 omogućuje istraživačima brzo postizanje rezultata u stvarnom svijetu i implementaciju rješenja u proizvodnju u velikom opsegu.

OBUKA DUBOKOG UČENJA
Obuka AI modela zahtijeva golemu računalnu snagu i skalabilnost. NVIDIA A100 Tensor Cores s Tensor Float (TF32) pružaju do 20X veće performanse u odnosu na NVIDIA Volta bez ikakvih promjena koda i dodatno ubrzanje od 2X s automatskom mješovitom preciznošću i FP16.

Radni zadatak obuke poput BERT-a može se riješiti u velikom opsegu za manje od minute pomoću 2.048 A100 GPU-ova, što je svjetski rekord za vrijeme potrebno za pronalaženje rješenja.

Za najveće modele s masivnim tablicama podataka, kao što su modeli preporuka za duboko učenje (DLRM), A100 80GB doseže do 1.3 TB objedinjene memorije po čvoru i pruža do 3X veći propusni kapacitet u odnosu na A100 40GB.

NVIDIA-ino vodstvo u MLPerf-u, postavljajući višestruke rekorde performansi u industrijskom mjerilu za AI obuku.

ZAKLJUČIVANJE DUBOKOG UČENJA
A100 uvodi revolucionarne značajke za optimizaciju radnih zadataka zaključivanja. Ubrzava puni raspon preciznosti od FP32 do INT4. Tehnologija Multi-Instance GPU (MIG) omogućuje istovremeni rad više mreža na jednom A100 za optimalno korištenje računalnih resursa. A podrška za strukturnu rijetkost pruža do 2X veće performanse povrh ostalih poboljšanja performansi zaključivanja A100.

Na najsuvremenijim konverzacijskim AI modelima poput BERT-a, A100 ubrzava propusnost zaključivanja do 249X u usporedbi s procesorima (CPU).

Na najsloženijim modelima koji su ograničeni veličinom serije, poput RNN-T za automatsko prepoznavanje govora, povećani kapacitet memorije A100 80GB udvostručuje veličinu svakog MIG-a i pruža do 1.25X veću propusnost u odnosu na A100 40GB.

NVIDIA-ine tržišno vodeće performanse dokazane su u MLPerf Inferenceu. A100 donosi 20X veće performanse kako bi dodatno proširio to vodstvo.

RAČUNALSTVO VISOKIH PERFORMANSI
Kako bi otključali otkrića sljedeće generacije, znanstvenici se okreću simulacijama kako bi bolje razumjeli svijet oko nas.

NVIDIA A100 uvodi Tensor Cores dvostruke preciznosti kako bi pružio najveći skok u HPC performansama od uvođenja GPU-ova. S 80GB najbrže GPU memorije, istraživači mogu skratiti 10-satnu simulaciju dvostruke preciznosti na manje od četiri sata na A100. HPC aplikacije mogu iskoristiti TF32 za postizanje do 11X veće propusnosti za operacije množenja gustih matrica jednostruke preciznosti.

Za HPC aplikacije s najvećim skupovima podataka, dodatna memorija A100 80GB pruža do 2X veću propusnost s Quantum Espresso, simulacijom materijala. Ova masivna memorija i propusnost memorije bez presedana čine A100 80GB idealnom platformom za radna opterećenja sljedeće generacije.

ANALITIKA PODATAKA VISOKIH PERFORMANSI
Znanstvenici za podatke moraju biti u stanju analizirati, vizualizirati i pretvoriti masivne skupove podataka u uvide. No, rješenja za horizontalno skaliranje često su usporena skupovima podataka koji su raspršeni na više poslužitelja.

Ubrzani poslužitelji s A100 pružaju potrebnu računalnu snagu — masivnu memoriju, više od 2 TB/sec propusnosti memorije i skalabilnost s NVIDIA® NVLink® i NVSwitch™ — za rješavanje ovih radnih opterećenja. U kombinaciji s InfiniBand, NVIDIA Magnum IO™ i RAPIDS™ paketom biblioteka otvorenog koda, uključujući RAPIDS Accelerator za Apache Spark za GPU-ubrzanu analitiku podataka, NVIDIA platforma za podatkovne centre ubrzava ova ogromna radna opterećenja na neviđenim razinama performansi i učinkovitosti.

Na benchmarku za analitiku velikih podataka, A100 80GB pružio je uvide uz 2X povećanje u odnosu na A100 40GB, što ga čini idealnim za nova radna opterećenja s brzorastućim veličinama skupova podataka.

ZNANSTVENE SIMULACIJE: Ubrzajte znanstvena istraživanja i simulacije, omogućujući brže uvide i otkrića u fizici, kemiji i znanosti o okolišu.

MEDIJI I ZABAVA: Renderirajte grafiku visoke razlučivosti, videozapise i animacije munjevitom brzinom. Pružite iznimna vizualna iskustva svojoj publici bez kompromisa u kvaliteti.

FINANCIJSKO MODELIRANJE: Analizirajte goleme skupove podataka i izvodite složeno financijsko modeliranje neusporedivom brzinom, pružajući ključne uvide za donošenje informiranih odluka.

author

Preslav Dobrev

Autor · CloudSigma

Preslav Dobrev je kreativni dizajner u CloudSigma, usredotočen na dosljedan poslovni identitet korištenjem tradicionalnih i inovativnih marketinških kanala. Vješt je u spajanju umjetničke vizije sa strateškim marketingom kako bi stvorio dojmljive brendirane priče.

Komentari

Još nema komentara. Budite prvi.