NVIDIA GRACE CPU

Dünyanın En Büyük Modellerini

Eğitmek İçin Özel Amaçlı Üretildi

En Büyük AI ve HPC İş Yükleri için Çığır Açan CPU

Yapay zeka modelleri, yüz milyarlarca parametre ile konuşma yapay zekasını geliştirdikçe, onlarca terabaytlık veriden oluşan tablolar yerleştirerek derin tavsiye sistemlerini geliştirdikçe ve yeni bilimsel keşifler sağladıkça karmaşıklık ve boyutta patlıyor. Bu devasa modeller, günümüz sistemlerinin sınırlarını zorluyor. Doğruluk ve kullanışlılık için ölçeklendirmeye devam etmek, büyük bir bellek havuzuna hızlı erişim ve CPU ile GPU’nun sıkı bir şekilde bağlanmasını gerektirir.

NVIDIA'nın kurucusu ve CEO'su Jensen Huang'ın, NVIDIA Grace CPU'yu tanıttığı görülmesi gereken GTC açılış konuşmasını izleyin.

Karmaşık Sorunları Çözmek İçin Tasarlandı

NVIDIA Grace CPU, hızlandırılmış bilgi işlem için sıfırdan tasarlanmış bir CPU ve sunucu mimarisi oluşturmak için Arm® mimarisinin esnekliğinden yararlanır. Bu yenilikçi tasarım, günümüzün en hızlı sunucularına kıyasla 30 kata kadar daha yüksek toplu bant genişliği ve terabaytlarca veri çalıştıran uygulamalar için 10 kata kadar daha yüksek performans sağlayacaktır. NVIDIA Grace, bilim adamlarının ve araştırmacıların en karmaşık sorunları çözmek için dünyanın en büyük modellerini eğitmesini sağlamak için tasarlanmıştır.

En Son Teknik Yenilikler

Dördüncü Nesil NVIDIA NVLink

En büyük AI ve HPC sorunlarını çözmek için hem yüksek kapasiteli hem de yüksek bant genişliğine sahip bellek (HBM) gerekir. Dördüncü nesil NVIDIA® NVLink®, NVIDIA Grace CPU ve NVIDIA GPU’lar arasında saniyede 900 gigabayt (GB / sn) çift yönlü bant genişliği sunar. basitleştirilmiş programlanabilirlik. CPU ve GPU’lar arasındaki bu tutarlı, yüksek bant genişliğine sahip bağlantı, yarının en karmaşık AI ve HPC sorunlarını hızlandırmanın anahtarıdır.

ECC ile LPDDR5x Kullanan Yeni Yüksek Bant Genişlikli Bellek Alt Sistemi

Bellek bant genişliği, sunucu performansında kritik bir faktördür ve standart çift veri hızlı (DDR) bellek, toplam soket gücünün önemli bir bölümünü tüketir. NVIDIA Grace CPU, veri merkezinin taleplerini karşılamak için hata düzeltme kodu (ECC) gibi mekanizmalar aracılığıyla sunucu sınıfı güvenilirlik ile LPDDR5x belleği kullanan ilk sunucu CPU’sudur ve buna kıyasla 2 kat bellek bant genişliği ve 10 kata kadar daha iyi enerji verimliliği sağlar. bugünün sunucu belleğine. NVIDIA Grace LPDDR5x çözümü, büyük, yüksek performanslı, son seviye önbellekle birleştiğinde, büyük modeller için gerekli bant genişliğini sağlarken, yeni nesil iş yükleri için performansı en üst düzeye çıkarmak için sistem gücünü azaltır.

Yeni Nesil Kol Neoverse Çekirdekler

GPU’ların paralel hesaplama yetenekleri gelişmeye devam ettikçe, iş yükleri hala CPU üzerinde çalıştırılan seri görevlerle sınırlandırılabilir. Hızlı ve verimli bir CPU, maksimum iş yükü hızlandırma sağlamak için sistem tasarımının kritik bir bileşenidir. NVIDIA Grace CPU, yeni nesil Arm Neoverse ™ çekirdeklerini güç açısından verimli bir tasarımda yüksek performans sunmak için entegre ederek bilim adamlarının ve araştırmacıların hayatlarının işlerini yapmalarını kolaylaştırır.

” Yenilikçi bir bellek bant genişliği ve kapasite dengesiyle, bu yeni nesil sistem, kurumumuzun bilgi işlem stratejisini şekillendirecek. NVIDIA’nın yeni Grace CPU’su sayesinde, daha önce mümkün olandan daha büyük veri kümeleriyle yüksek kaliteli 3D simülasyonları ve analitiği kullanarak gelişmiş bilimsel araştırmalar sunabileceğiz. “
ANAHTAR NOTU İZLEBASIN BÜLTENİNİ OKUYUN

NVIDIA'nın kurucusu ve CEO'su Jensen Huang'ın, NVIDIA Grace CPU'yu tanıttığı görülmesi gereken GTC açılış konuşmasını sunmasını izleyin ve daha fazla bilgi için basın bültenini okuyun.