Bloğa geri dön

CloudSigma Hizmet Olarak GPU (GPU-as-a-Service)

CloudSigma Hizmet Olarak GPU (GPU-as-a-Service)

CloudSigma, müşterilerin sanal makinelerine GPU'lar eklemelerine ve en zorlu iş yüklerini karşılayabilecek yüksek performanslı, uygun maliyetli bilgi işlem kullanmalarına olanak tanır. CloudSigma'nın GPU teklifinin kalbinde, HPC, AI ve veri analitiği için optimize edilmiş NVIDIA A100 Tensor Core GPU yer alır. A100, NVIDIA TESLA V100'den daha yüksek performans gösterir ve AI uygulamalarının tam olarak yararlanabileceği yeni özelliklere sahiptir. Müşterilerin passthrough modunda kolayca optimize edilmiş NVIDIA A100 VM'leri oluşturmalarına izin veriyoruz, böylece VM örnekleri GPU/lar ve bunların yerleşik bellekleri üzerinde doğrudan kontrole sahip oluyor.

Kullanım senaryoları

Bulutta çalışan yoğun işlem gücü gerektiren uygulamaların büyümesi, son zamanlarda GPU hızlandırmalı bulut bilişimin patlama yapmasını sağladı. Bu uygulamalar arasında AI derin öğrenme eğitimi ve çıkarımı, veri analitiği, bilimsel hesaplama, genomik, grafik oluşturma ve oyun gibi sadece birkaçını sayabileceğimiz alanlar yer almaktadır. AI eğitimini ve bilimsel hesaplamayı ölçeklendirmekten, çıkarım uygulamalarını yatayda ölçeklendirmeye ve gerçek zamanlı konuşma tabanlı AI sağlamaya kadar GPU'lar, bulutta çalışan çok sayıda karmaşık ve öngörülemeyen iş yükünü hızlandırmak için gerekli gücü sağlar.

NVIDIA A100 Tensor Core GPU, her ölçekte AI, veri analitiği ve HPC için benzeri görülmemiş bir hızlandırma sunarak ileriye doğru devasa bir adım temsil ediyor. NVIDIA Ampere Mimarisinden güç alan A100, önceki nesle göre 20 kata kadar daha yüksek performans sağlar. CloudSigma, en büyük modelleri ve veri kümelerini çalıştırmak için saniyede 2 terabaytın (TB/s) üzerindeki hızıyla dünyanın en hızlı bant genişliğine sahip olan 80GB bellek sürümünü kullanıma sunuyor.

NVIDIA GPU'lar, AI eğitimi ve çıkarım iş yükleri için önemli hızlandırmalar sağlayarak AI'yı güçlendiren lider hesaplama motorları arasında yer alır. Ayrıca NVIDIA GPU'lar, birçok HPC ve veri analitiği uygulaması ile sistemini hızlandırarak verileri içgörülere dönüştürür.

AI ve HPC
GPU hızlandırması ile karmaşık makine öğrenimi modellerini daha hızlı ve daha verimli bir şekilde eğitin. Veri yoğunluklu görevlerin üstesinden gelin ve AI odaklı inovasyonda çığır açın. NVIDIA AI Enterprise, herhangi bir kuruluşun AI kullanmasını sağlamak için optimize edilmiş, uçtan uca, buluta özgü bir AI ve veri analitiği yazılım paketidir. Genel bulutta dağıtılmak üzere onaylanmıştır ve AI projelerini yolunda tutmak için küresel kurumsal destek içerir. A100, araştırmacıların gerçek dünyadaki sonuçları hızla sunmalarına ve çözümleri ölçekli bir şekilde üretime geçirmelerine olanak tanır.

DERİN ÖĞRENME EĞİTİMİ
AI modellerini eğitmek, devasa bilgi işlem gücü ve ölçeklenebilirlik gerektirir. Tensor Float (TF32) özellikli NVIDIA A100 Tensor Core'lar, sıfır kod değişikliği ile NVIDIA Volta'ya göre 20 kata kadar daha yüksek performans ve otomatik karma hassasiyet ile FP16 sayesinde ek 2 kat artış sağlar.

BERT gibi bir eğitim iş yükü, çözüme ulaşma süresinde bir dünya rekoru olacak şekilde, 2.048 adet A100 GPU tarafından bir dakikadan kısa sürede ölçekli olarak çözülebilir.

Derin öğrenme öneri modelleri (DLRM) gibi devasa veri tablolarına sahip en büyük modeller için A100 80GB, düğüm başına 1,3 TB'a kadar birleşik belleğe ulaşır ve A100 40GB'a kıyasla 3 kata kadar daha yüksek verim sunar.

NVIDIA'nın MLPerf'teki liderliği, AI eğitimi için sektör genelindeki kıyaslama testinde birden fazla performans rekoru kırmıştır.

DERİN ÖĞRENME ÇIKARIMI
A100, çıkarım iş yüklerini optimize etmek için çığır açan özellikler sunar. FP32'den INT4'e kadar geniş bir hassasiyet aralığını hızlandırır. Multi-Instance GPU (MIG) teknolojisi, optimum bilgi işlem kaynağı kullanımı için birden fazla ağın tek bir A100 üzerinde eş zamanlı olarak çalışmasına olanak tanır. Yapısal seyreklik desteği ise A100'ün diğer çıkarım performansı kazanımlarının üzerine 2 kata kadar daha fazla performans sunar.

BERT gibi son teknoloji konuşma tabanlı AI modellerinde A100, çıkarım verimini CPU'lara kıyasla 249 kata kadar hızlandırır.

Otomatik konuşma tanıma için RNN-T gibi yığın boyutu sınırlı olan en karmaşık modellerde, A100 80GB'ın artırılmış bellek kapasitesi her bir MIG'nin boyutunu ikiye katlar ve A100 40GB'a kıyasla 1,25 kata kadar daha yüksek verim sağlar.

NVIDIA'nın pazar lideri performansı MLPerf Inference'ta kanıtlanmıştır. A100, bu liderliği daha da ileriye taşımak için 20 kat daha fazla performans getiriyor.

YÜKSEK PERFORMANSLI HESAPLAMA
Yeni nesil keşiflerin kapısını aralamak için bilim insanları, çevremizdeki dünyayı daha iyi anlamak amacıyla simülasyonlardan yararlanıyor.

NVIDIA A100, GPU'ların kullanıma sunulmasından bu yana HPC performansındaki en büyük sıçramayı gerçekleştirmek için çift duyarlıklı Tensor Çekirdeklerini sunuyor. En hızlı GPU belleğinin 80 GB'ı ile araştırmacılar, A100 üzerinde 10 saatlik, çift duyarlıklı bir simülasyonu dört saatin altına indirebilirler. HPC uygulamaları, tek duyarlıklı, yoğun matris çarpım işlemleri için 11 kata kadar daha yüksek verim elde etmek amacıyla TF32'den yararlanabilir.

En büyük veri kümelerine sahip HPC uygulamaları için A100 80GB'ın ek belleği, bir malzeme simülasyonu olan Quantum Espresso ile 2 kata kadar verim artışı sağlar. Bu devasa bellek ve benzeri görülmemiş bellek bant genişliği, A100 80GB'ı yeni nesil iş yükleri için ideal platform haline getiriyor.

YÜKSEK PERFORMANSLI VERİ ANALİTİĞİ
Veri bilimcilerinin devasa veri kümelerini analiz etmesi, görselleştirmesi ve içgörülere dönüştürmesi gerekir. Ancak yatay ölçeklendirme çözümleri, genellikle birden fazla sunucuya dağılmış veri kümeleri nedeniyle tıkanır.

A100 özellikli hızlandırılmış sunucular, bu iş yüklerinin üstesinden gelmek için gereken bilgi işlem gücünü (devasa bellek, 2 TB/sn'nin üzerinde bellek bant genişliği ve NVIDIA® NVLink® ve NVSwitch™ ile ölçeklenebilirlik) sağlar. InfiniBand, NVIDIA Magnum IO™ ve GPU ile hızlandırılmış veri analitiği için Apache Spark için RAPIDS Hızlandırıcısı da dahil olmak üzere RAPIDS™ açık kaynaklı kütüphaneler paketi ile birleştiğinde, NVIDIA veri merkezi platformu bu devasa iş yüklerini benzeri görülmemiş performans ve verimlilik seviyelerinde hızlandırır.

Büyük veri analitiği kıyaslamasında A100 80GB, A100 40GB'a kıyasla 2 kat artışla içgörüler sunarak patlama yapan veri kümesi boyutlarına sahip yeni ortaya çıkan iş yükleri için ideal bir uyum sağladı.

BİLİMSEL SİMÜLASYONLAR: Fizik, kimya ve çevre bilimlerinde daha hızlı içgörüler ve keşifler sağlayarak bilimsel araştırmaları ve simülasyonları hızlandırın.

MEDYA VE EĞLENCE: Yüksek çözünürlüklü grafikleri, videoları ve animasyonları ışık hızında işleyin. Kaliteden ödün vermeden izleyicilerinize olağanüstü görsel deneyimler sunun.

FİNANSAL MODELLEME: Büyük veri kümelerini analiz edin ve benzersiz bir hızla karmaşık finansal modellemeler gerçekleştirerek bilinçli karar verme süreçleri için kritik içgörüler sağlayın.

author

Preslav Dobrev

Yazar · CloudSigma

Preslav Dobrev, CloudSigma'da Kreatif Tasarımcı olarak görev yapmakta olup geleneksel ve yenilikçi pazarlama kanallarını kullanarak tutarlı bir kurumsal kimlik oluşturmaya odaklanmaktadır. Sanatsal vizyonu stratejik pazarlamayla harmanlayarak etkili marka anlatıları oluşturma konusunda oldukça yeteneklidir.

Yorumlar

Henüz yorum yapılmamış. İlk siz olun.