EDGE COMPUTING İÇİN NVIDIA EGX PLATFORMU

İşletmeler artık Edge Computing alanında faaliyette. Fabrika katlarında, mağazalarda, şehir sokaklarında, acil bakım tesislerinde. Edge Computing tarafından işlenecek milyarlarca IoT sensöründen veri akışı sağlanıyor ve gerektiğinde gerçek zamanlı kararlar alıyor. Tüm bunlar – akıllı perakende, sağlık, üretim, ulaşım ve şehirler – hızlandırılmış AI’nın gücünü en üst düzeye çıkaran NVIDIA EGX platformu ile mümkün olmaktadır.

GERÇEK ZAMANLI YAPAY ZEKA

NVIDIA EGX platformu, dağıtımı kolay bir bulut yerel yazılım yığını, bir dizi onaylanmış sunucu ve cihaz ve ürünleri ve hizmetleri aracılığıyla EGX sunan geniş bir ortak ekosistemiyle hızlandırılmış AI bilgi işlemin gücünü uç noktalara taşıyor.

AI Konteynerları

NGC kayıt defteri, EGX için Kubernetes’te dağıtım için Helm çizelgeleri de dahil olmak üzere geniş bir GPU hızlandırmalı yazılım yelpazesine sahiptir. NGC kapları, NVIDIA tarafından ayarlanmış, test edilmiş ve optimize edilmiş en üst düzey AI ve veri bilimi yazılımlarını kapsar. Kayıt defteri ayrıca, kullanıcılara güçlü yazılım dağıtımını veya özelleştirilmiş çözümler oluşturmayı kolaylaştıran üçüncü taraf etki alanına özgü, önceden eğitilmiş modellere ve Kubernetes’e hazır Helm çizelgelerine erişim sağlar.

Cloud Native, Edge-First

NVIDIA EGX, BT’nin GPU sunucularını hızlı ve kolay bir şekilde tedarik etmesini sağlayan yerel bulut, önce gelen ve ölçeklenebilir bir yazılım yığınıdır. EGX’in birincil bileşeni, GPU etkin Kubernetes kümelerinin sağlanması için gerekli tüm bileşenlerin dağıtımını standartlaştıran ve otomatikleştiren NVIDIA GPU Operatörüdür.

EGX Hazır Sunucular

EGX donanım portföyü , birkaç watt’ta görüntü tanıma gibi görevler için saniyede yarım trilyon işlem (TOPS) işleme sağlayabilen küçük NVIDIA® Jetson Nano ™ ile başlar . Ayrıca , gerçek zamanlı konuşma tanıma ve diğer karmaşık AI deneyimleri ile yüzlerce kullanıcıya hizmet etmek için 10.000’den fazla TOPS sunan , NVIDIA T4 sunucularının tam bir rafına kadar ölçeklendirilir.

 

 

Edge’den Veri Merkezine AI Ölçeklenebilirliği

NVIDIA EGX platformu, akıllı bir şehirdeki Jetson Nano taşıma trafik kameralarından bir perakende mağazanın arka odasına kurulu NVIDIA GPU’ların bulunduğu tek bir edge sunucusuna kadar ölçeklenebilir NGC-Ready for Edge onaylı sunucular içerir. Hangi form faktörü olursa olsun, NVIDIA EGX yığını, kartlar arasında uyumludur ve bu sayede işletmelerin kameralardan ve cihazlardan uzak büyük ölçekli bir veri merkezine kadar hızlı ve verimli bir şekilde ölçeklendirilmesini sağlar.

 

AI ve 5G ile IoT Devrimini Hızlandırma

5G, 10X daha düşük gecikme süresi ve 1000X bant genişliği sağlayan yeni bir kablosuz iletişim çağında başlıyor. Ayrıca telekomünikasyon şirketlerinin (telcos) müşterilere dinamik olarak benzersiz hizmetler sunmasını sağlayacak ağ dilimleme kavramını da tanıtmaktadır. Telcos 5G’ye geçiş yaparken, AI ve artırılmış gerçeklikten sanal gerçeklik ve oyunlara kadar telco kenarında bir dizi yazılım tanımlı uygulama çalıştırmaya çalışacaklar. NVIDIA EGX ve yeni NVIDIA Aerial SDK ile GPU hızlandırmalı ve yazılım tanımlı sanal radyo erişim ağları (vRAN’lar) sandığınızdan daha çabuk geliyor.

Edge Dağıtımı için BT Basitliği

NVIDIA EGX Stack ile, uzak sistemlere yazılım yüklemenin geleneksel BT sorunları ortadan kalkar. Dümen grafikleri, kapsayıcılar ve sürekli entegrasyon ve sürekli dağıtım (CI / CD) kullanarak, kuruluşlar artık güncellenmiş AI kaplarını dakikalar içinde zahmetsizce dağıtabilir.

Kubernetes tabanlı NVIDIA GPU Operatörü, GPU ve CPU düğümleri arasında benzersiz işletim sistemi (OS) görüntülerine ihtiyaç duyma sorununu çözer; bunun yerine, GPU Operatörü bir Tesla GPU’yu desteklemek için ihtiyacınız olan her şeyi bir araya getirir – sürücü, konteyner çalışma zamanı, aygıt eklentisi ve bir Helm grafiğiyle dağıtım ile izleme. Şimdi, tek bir altın ana görüntü hem CPU hem de GPU düğümlerini kapsar.

Kubernetes Yönetim Platformlarıyla Uyumlu

Üretim sınıfı, kurumsal Kubernetes kümesini dağıtma, ölçeklendirme ve yönetme yeteneği çok önemlidir. EGX yığın mimarisi, önde gelen hibrit bulut platform ortakları tarafından desteklenir: Canonical, Cisco Container Platform (CCP), Microsoft Azure, Nutanix, Red Hat ve VMware. GPU Operatörü için destekleri, bu kümelerin GPU iş yükleri için yapılandırılmasını ve optimum, tutarlı bir şekilde çalışmasını sağlar.

 

 

ENDÜSTRİLER ARASINDA EDGE COMPUTING

NVIDIA EGX platformu, sektör lideri AI uygulamaları ve çerçeveleri için tek ve birleştirici bir temel sağlar.

PERAKENDE
İMALAT
TELEKOM
AKILLI ŞEHİRLER
SAĞLIK HİZMETİ

Seagate olarak, sabit disk okuma ve yazma kalitesini denetlemek için üretim tesislerimizde akıllı uç GPU tabanlı bir vizyon çözümü kullandık. NVIDIA EGX platformu, kenardaki çıkarımı önemli ölçüde hızlandırır ve insan operatörlerinin geçmişte göremediği ince kusurları görmemizi sağladı. Üretim verimliliğinde yüzde 10’a varan bir iyileşme ve gelişmiş verimlilik ve daha iyi kaliteden yüzde 300’e kadar YG elde etmeyi umuyoruz.

– Bruce King, Kıdemli Veri Bilimcisi, Seagate Technology

Yapay zeka, hassas sağlık için temeldir ve buluttan kenara ve doğrudan tıbbi cihazlarda yaygın olarak bulunmalıdır. NVIDIA’nın EGX’i, GE Healthcare’in hızlı [manyetik rezonans (MR)] edinme süreleri sağlamasına, görüntü kalitesini iyileştirmesine ve NVIDIA T4 GPU’ları doğrudan tıbbi cihazlarımıza yerleştirerek değişkenliği azaltır – hepsi de hasta sonuçlarını iyileştirme hedefimiz. Gerçek zamanlı, kritik bakım kullanım durumları, yapay zeka gerektirir. Bu nedenle Edison istihbarat teklifimizi yarattık ve AI’yı tıbbi cihazlarımıza ve Edison edge cihazlarımıza getirmek için NVIDIA ile ortaklık kurduk ve neden AI’ı demokratikleştirmek için ACR AI-LAB ile çalışıyoruz.

– Jason Polzin, Doktora, GE Healthcare MR Uygulamaları Genel Müdürü

Red Hat, hibrit buluttan kenara kadar her türlü iş yükü, kapladığı alan ve konum için tutarlı bir deneyim sunmayı taahhüt eder. Müşteriler Red Hat OpenShift ve NVIDIA EGX özellikli platformları birleştirerek, dağıtılmış işlemlerini tutarlı, yüksek performanslı, kapsayıcı merkezli bir ortamla daha iyi optimize edebilir.

– Chris Wright, Teknoloji Müdürü, Red Hat

 

EGX için Kurumsal Sınıf Yazılım Yığını

NVIDIA EGX yığını, NVIDIA sürücüleri, bir Kubernetes eklentisi, bir konteyner çalışma zamanı ve NVIDIA TensorRT ™, TensorRT Inference Server ve DeepStream dahil kapsayıcı AI çerçeveleri ve uygulamaları içeren optimize edilmiş bir yazılım yığınıdır. NVIDIA EGX yığını, NGC Ready for Edge sunucuları için optimize edilmiştir ve kurulum için Helm grafikleri NVIDIA NGC kayıt defterinde bulunacaktır.