NVIDIA L40
NVIDIA® L40
SKU: NVL40TCGPU-KIT
NVIDIA L40
Veri Merkezi için Benzeri Görülmemiş Görsel Hesaplama Performansı
Sanal iş istasyonlarından büyük ölçekli modelleme ve simülasyona kadar, modern görsel bilgi işlem ve bilimsel uygulamaların karmaşıklığı ve sayısı giderek artıyor. İşletmeler, giderek karmaşıklaşan bu iş yüklerinin çeşitli bilgi işlem taleplerini karşılamak için çok yönlü yeteneklerle olağanüstü performans ve ölçek sunabilen veri merkezi çözümlerine ihtiyaç duymaktadır.
NVIDIA L40, GPU ile hızlandırılmış uygulamalara yeni nesil grafik, işlem ve yapay zeka özellikleri sağlayarak veri merkezi için benzeri görülmemiş görsel bilgi işlem performansı sunar. Ada Lovelace GPU mimarisini temel alan L40, gerçek zamanlı ışın izleme özelliklerini geliştiren üçüncü nesil RT Çekirdeklerine ve bir petaflopun üzerinde çıkarım performansı sunmak için FP8 veri formatını destekleyen dördüncü nesil Tensor Çekirdeklerine sahiptir. Bu yeni özellikler, yüksek performanslı sanal iş istasyonu örneklerinden NVIDIA Omniverse’deki büyük ölçekli dijital ikizlere kadar görsel bilgi işlem iş yükünü hızlandırmak için en yeni nesil CUDA Çekirdekleri ve 48 GB grafik belleği ile birleştirilmiştir. Aynı güçte önceki nesle göre iki kata kadar daha fazla performans sunan NVIDIA L40, modern veri merkezinin ihtiyaç duyduğu görsel bilgi işlem gücünü sağlamak için benzersiz bir şekilde uygundur.
CUDA Cores |
18176 |
|---|---|
Tensor Cores |
568 | Gen 4 |
RT Cores |
142 | Gen 3 |
GPU Memory |
48 GB GDDR6 ECC |
Memory Interface |
384-bit |
Memory Bandwidth |
864 GB/s |
Display Connectors |
4x DP 1.4a |
Maximum Digital Resolution |
4x 5K at 60 Hz | 2x 8K at 60 Hz 4x 4K at 120 Hz | 30-bit Color |
Form Factor |
4.4″ H x 10.5″ L | Dual Slot |
Thermal Solution |
Passive |
Maximum Power Consumption |
300 W |
1. L4’ün FP8’i T4’ün FP16’sına kıyasla.
2. 720p30’da 8x L4 AV1 düşük gecikmeli P1 ön ayar kodlaması.
3. 8x L4 vs 2S Intel 8362 CPU sunucu performans karşılaştırması: CV-CUDA ön ve son işleme, kod çözme, çıkarım (SegFormer), kodlama, TRT 8.6 ile uçtan uca video işlem hattı vs OpenCV kullanan sadece CPU işlem hattı.
ÖLÇEKLENEBİLİR ÇOKLU İŞ YÜKÜ PERFORMANSI
Yeni Nesil Grafikler
- NVIDIA L40, veri merkezindeki görsel bilgi işlem iş yükleri için en yüksek güç ve performans seviyesini sunar. Üçüncü nesil RT Çekirdekleri ve sektör lideri 48 GB GDDR6 bellek, önceki nesle göre iki kata kadar daha fazla gerçek zamanlı ışın izleme performansı sunarak gerçek zamanlı, tam gerçekçi, etkileşimli işleme, 3D tasarım, video akışı ve sanal prodüksiyon dahil olmak üzere yüksek kaliteli yaratıcı iş akışlarını hızlandırır – zorlu Medya ve Eğlence profesyonelleri için idealdir.
Yapısal Seyreklik
- Yapay zeka ağları büyüktür ve milyonlarca ila milyarlarca parametreye sahiptir. Doğru tahminler için bu parametrelerin hepsine gerek yoktur ve bazıları sıfıra dönüştürülerek doğruluktan ödün vermeden modeller “seyrek” hale getirilebilir. NVIDIA L40’taki Tensör Çekirdekleri seyrek modeller için 2 kata kadar daha yüksek performans sağlayabilir. Seyreklik özelliği yapay zeka çıkarımına daha kolay fayda sağlarken, model eğitiminin performansını da artırabilir.
Güçlü Hesaplama ve Yapay Zeka
- NVIDIA L40’ın çığır açan özellikleri; eğitim, çıkarım, veri bilimi ve grafik uygulamaları dahil olmak üzere veri merkezinde çalışan çok çeşitli yoğun işlem gerektiren iş yüklerini hızlandırır. En yeni dördüncü nesil Tensor Çekirdekleri, görsel bilgi işlem iş yüklerini hızlandırmak ve derin öğrenme ve çıkarım uygulamaları için çığır açan performans sunmak için gelişmiş yapay zeka özellikleri sunar.
Her Derin Öğrenme Çerçevesi, 700+ GPU Hızlandırmalı Uygulama
- NVIDIA L40 GPU, derin öğrenme, HPC ve veri analitiği için NVIDIA veri merkezi platformunun temel bir bileşenidir. Her büyük derin öğrenme çerçevesini hızlandırır ve 700’den fazla HPC uygulamasını hızlandırır. Masaüstü bilgisayarlardan sunuculara ve bulut hizmetlerine kadar her yerde kullanılabilir ve hem çarpıcı performans kazanımları hem de maliyet tasarrufu fırsatları sunar.
Veri Merkezine Hazır
- 24 x 7 kurumsal veri merkezi operasyonları için tasarlanan ve geniş ölçekte dağıtım için optimize edilen NVIDIA L40, kurumsal sınıf bileşenler, güç tasarruflu donanım ve dahili güven kökü ile güvenli önyükleme gibi özellikler kullanır. L40, veri merkezi iş yükleri için en yüksek düzeyde performans ve güvenilirlik sunar. Çift yuvalı, güç tasarruflu bir tasarıma sahip olan L40, önde gelen sistem üreticilerinin çok çeşitli NVIDIA Sertifikalı Sistemlerinde kullanılabilir.
Sanallaştırma Yetenekleri
- Yapay zeka, Derin öğrenme, FP32 yüksek performanslı bilgi işlem (HPC) ve fotogerçekçi ışın izlemeli grafikler gibi sanallaştırılmış bilgi işlem iş yükleri, hatta temel kurumsal uygulamalar ve genel amaçlı üretkenlik yazılımları (%90’ı GPU hızlandırması kullanır) NVIDIA vApps (vApps), NVIDIA vPC (vPC) ve NVIDIA RTX Virtual Workstation (vWS) ile desteklenebilir.