Yoğun Bilgi İşlem Yoğun Sunucu İş Yüklerine Sanal GPU’lar ile Güç Verin
NVIDIA vComputeServer
Yapay Zeka, Derin Öğrenme ve Veri Bilimi için Bilgi İşlemlerini Sanallaştırın
NVIDIA Sanal Hesaplama Sunucusu (vComputeServer), veri merkezlerinin GPU’larla sunucu sanallaştırmasını hızlandırmasını sağlar. Böylece yapay zeka, derin öğrenme ve veri bilimi gibi en yoğun bilgi işlem iş yükleri bir sanal makinede (VM) çalıştırılabilir.
ÖZELLİKLERİ
GPU Paylaşımı
GPU paylaşımı yalnızca NVIDIA vGPU teknolojisi ile mümkündür. Birden fazla VM’nin bir GPU’yu paylaşmasını sağlayarak GPU hızlandırması gerektiren daha hafif iş yükleri için kullanımı en üst düzeye çıkarır.
GPU Toplama
GPU toplama ile bir VM, yoğun bilgi işlem iş yükleri için gerekli olan birden fazla GPU’ya erişebilir. vComputeServer hem çoklu vGPU hem de eşler arası hesaplamayı destekler. Multi-vGPU ile GPU’lar doğrudan bağlı değildir; eşler arası daha yüksek bant genişliği için NVLink’ten geçerler.
Yönetim ve İzleme
vComputeServer; uygulama, misafir ve ana bilgisayar düzeyinde izleme için destek sağlar. Ayrıca, proaktif yönetim özellikleri, canlı geçiş , askıya alma ve devam ettirme ve vGPU yönetim SDK’sı aracılığıyla kullanıcı deneyimlerini etkileyen tüketim eğilimlerini ortaya çıkaran eşiklerin oluşturulmasını sağlar.
NGC
NVIDIA GPU Bulut (NGC), derin öğrenme , makine öğrenimi ve HPC için iş akışlarını basitleştiren ve artık NVIDIA vComputeServer ile sanallaştırılmış ortamları destekleyen GPU için optimize edilmiş bir yazılım merkezidir .
İşler Arası Bilgi İşlem
NVIDIA ® NVLink ™ , artık neredeyse NVIDIA sanal GPU (vGPU) teknolojisi ile desteklenen çoklu GPU sistem yapılandırmaları için daha yüksek bant genişliği, daha fazla bağlantı ve gelişmiş ölçeklenebilirlik sağlayan yüksek hızlı, doğrudan GPU’dan GPU’ya bir bağlantıdır .
ECC ve Sayfa Emekliliği
Hata düzeltme kodu (ECC) ve sayfanın kullanımdan kaldırılması, veri bozulmasına duyarlı işlem uygulamaları için daha yüksek güvenilirlik sağlar. Özellikle GPU’ların çok büyük veri kümelerini işlediği ve / veya uzun süre uygulamaları çalıştıran büyük ölçekli küme hesaplama ortamlarında önemlidir.
NVIDIA vComputeServer GPU Önerileri
| NVIDIA T4 | NVIDIA V 100 (SXM2) | |
| RT Çekirdekleri | 48 | – |
| Tensör Çekirdekleri | 320 | 640 |
| CUDA ® Çekirdekler | 2.560 | 5,120 |
| Hafıza | 16 GB GDDR6 | 32 GB HBM2 |
| FP 16 / FP 32 (karışık hassasiyet) | 64 TFLOPS | 125 TFLOPS |
| FP 32 (tek kesinlik) | 8.1 TFLOPS | 15.7 TFLOPS |
| FP 64 (çift kesinlik) | – | 7.8 TFLOPS |
| NVLink: VM başına GPU sayısı | – | 8’e kadar |
| ECC ve Sayfa Emekliliği |
+
|
+
|
| VM başına çoklu GPU | 16’ya kadar | 16’ya kadar |
SIKÇA SORULAN SORULAR
VComputeServer’ın GRID vPC / vApps ve Quadro vDWS’den farkı nedir?
GRID vPC / vApps ve Quadro vDWS, bilgi çalışanları, yaratıcı veya teknik profesyoneller için tasarlanmış sanal grafikler için kullanılan bilgi işlem ürünleridir. vComputeServer, yapay zeka, derin öğrenme ve Veri Bilimi gibi yoğun işlem gerektiren sunucu iş yükleri içindir.
VComputeServer, GRID vPC / vApps ve Quadro vDWS ile aynı şekilde lisanslanıyor mu?
Hayır, vComputeServer GRID vPC / vApps ve Quadro vDWS’den farklı bir lisansa sahiptir. GRID vPC / vApps ve Quadro vDWS, eşzamanlı kullanıcı (CCU) tarafından kalıcı lisans veya yıllık abonelik olarak lisanslanır. VComputeServer sunucu hesaplama iş yükleri için olduğundan, lisans bir kullanıcı yerine GPU’ya bağlıdır. Bu nedenle, vComputeServer, GPU başına yıllık abonelik olarak lisanslanır.
VComputeServer ile hangi NVIDIA GPU’lar desteklenir?
VComputeServer için önerilen NVIDIA GPU’lar NVIDIA V100 ve NVIDIA T4’tür. Quadro RTX ™ 6000 ve RTX 8000’in yanı sıra NVIDIA P40, P100 ve P6’yı içeren Pascal tabanlı GPU’lar da desteklenmektedir.
Kapsayıcılar vComputeServer ile kullanılabilir mi?
Evet, kapsayıcılar vComputeServer ile VM’lerde çalıştırılabilir. NVIDIA NGC, derin öğrenme, makine öğrenimi ve HPC için kapsamlı bir GPU hızlandırmalı konteyner kataloğu sunar. İş yükleri, vComputeServer kullanılarak kaplar olmadan doğrudan bir VM’de de çalıştırılabilir.