- ‘Grace’ CPU , enerji tasarruflu kol çekirdeklerini kullanarak dev yapay zeka modellerini eğiten sistemler için 10 kat daha yüksek performans artışı sağlıyor
- İsviçre Süper Hesaplama Merkezi ve ABD Enerji Bakanlığı Los Alamos Ulusal Laboratuvarı NVIDIA CPU ile Güçlendirilmiş Süper Bilgisayarları Oluşturan İlk
GTC – NVIDIA bugün, en karmaşık yapay zeka ve yüksek performanslı bilgi işlem iş yüklerinde günümüzün en hızlı sunucularının performansını 10 kat daha fazla sağlayacak olan Arm tabanlı bir işlemci olan ilk veri merkezi CPU’sunu duyurdu.
NVIDIA Grace ™ CPU, 10.000’den fazla mühendislik yıllık çalışmasının sonucu, her ikisi de ultra hızlı gerektiren muazzam veri kümelerini analiz eden doğal dil işleme , tavsiye sistemleri ve yapay zeka süper hesaplama dahil dünyanın en gelişmiş uygulamaları için bilgi işlem gereksinimlerini karşılamak üzere tasarlanmıştır. bilgi işlem performansı ve devasa bellek. Enerjiyi verimli kullanan Arm CPU çekirdeklerini yenilikçi bir düşük güçlü bellek alt sistemi ile birleştirerek yüksek performans ve mükemmel verimlilik sunar.
NVIDIA’nın kurucusu ve CEO’su Jensen Huang, “Öncü yapay zeka ve veri bilimi, günümüzün bilgisayar mimarisini sınırlarının ötesine zorluyor – düşünülemez miktarda veriyi işliyor,” dedi. “Lisanslı Arm IP’yi kullanan NVIDIA, Grace’i özellikle dev ölçekli AI ve HPC için bir CPU olarak tasarladı. GPU ve DPU ile birleştiğinde, Grace bize bilgi işlem için üçüncü temel teknolojiyi ve yapay zekayı ilerletmek için veri merkezini yeniden tasarlama becerisini sağlıyor. NVIDIA artık üç çipli bir şirket. “
Grace, 1 trilyondan fazla parametreye sahip yeni nesil NLP modellerinin eğitimi gibi iş yüklerini hedefleyen oldukça özel bir işlemcidir. NVIDIA GPU’larla sıkı bir şekilde birleştirildiğinde, Grace CPU tabanlı bir sistem, x86 CPU’larda çalışan günümüzün son teknoloji ürünü NVIDIA DGX ™ tabanlı sistemlerinden 10 kat daha hızlı performans sunacaktır.
Veri merkezlerinin büyük çoğunluğuna mevcut CPU’lar tarafından hizmet verilmesi beklenirken, ABD’nin bilgisayar programlama öncüsü Grace Hopper’ın adını taşıyan Grace, bilişimin niş bir segmentine hizmet edecek.
İsviçre Ulusal Süper Hesaplama Merkezi (CSCS) ve ABD Enerji Bakanlığı’nın Los Alamos Ulusal Laboratuvarı, ulusal bilimsel araştırma çabalarını desteklemek için Grace destekli süper bilgisayarlar inşa etme planlarını ilk duyuranlardır.
NVIDIA, veri hacmi ve yapay zeka modellerinin boyutu katlanarak büyüdükçe Grace’i tanıtıyor . Günümüzün en büyük AI modelleri milyarlarca parametre içeriyor ve her iki buçuk ayda bir ikiye katlanıyor. Bunları eğitmek, sistem darboğazlarını ortadan kaldırmak için bir GPU ile sıkıca bağlanabilen yeni bir CPU gerektirir.
NVIDIA, Arm’ın veri merkezi mimarisinin inanılmaz esnekliğinden yararlanarak Grace’i inşa etti. NVIDIA, yeni bir sunucu sınıfı CPU sunarak, dünyanın en acil sorunlarını çözmek için gereken inovasyonu sağlamak için seçimin anahtar olduğu AI ve HPC topluluklarında teknoloji çeşitliliği hedefini ilerletiyor.
Arm CEO’su Simon Segars, “Dünyanın en yaygın lisanslı işlemci mimarisi olan Arm, her gün inanılmaz yeni yollarla inovasyonu teşvik ediyor,” dedi. “NVIDIA’nın Grace veri merkezi CPU’sunu tanıtması, Arm’ın lisanslama modelinin, her yerde yapay zeka araştırmacılarının ve bilim adamlarının inanılmaz çalışmalarını daha da destekleyecek önemli bir buluşu nasıl mümkün kıldığını açıkça gösteriyor.”
Grace’in İlk Benimseyenler Bilimin Sınırlarını Zorluyor ve AI
CSCS ve Los Alamos Ulusal Laboratuvarı, Hewlett Packard Enterprise tarafından inşa edilen Grace destekli süper bilgisayarları 2023’te çevrimiçi hale getirmeyi planlıyor.
CSCS Direktörü Prof. Thomas Schulthess, “NVIDIA’nın yeni Grace CPU’su, hesaplama bilimindeki en zor problemlerin bazılarını çözmek için AI teknolojilerini ve klasik süper hesaplamayı birleştirmemize olanak tanıyor,” dedi. “Yeni NVIDIA CPU’yu büyük ve karmaşık bilimsel veri kümelerini işlemek ve analiz etmek için İsviçre’deki ve tüm dünyadaki kullanıcılarımıza sunmaktan heyecan duyuyoruz.”
Los Alamos Ulusal Laboratuvarı direktörü Thom Mason, “Yenilikçi bir bellek bant genişliği ve kapasite dengesiyle, bu yeni nesil sistem kurumumuzun bilgi işlem stratejisini şekillendirecek,” dedi. “NVIDIA’nın yeni Grace CPU’su sayesinde, daha önce mümkün olandan daha büyük veri kümeleriyle yüksek kaliteli 3D simülasyonları ve analitiği kullanarak gelişmiş bilimsel araştırmalar sunabileceğiz.”
Çığır Açan Performans
Sağlıyor Grace’in performansının temelinde, günümüzün önde gelen sunucularına kıyasla 30 kat daha yüksek toplu bant genişliği sağlamak için Grace ve NVIDIA GPU’lar arasında 900 GB / sn’lik rekor bir bağlantı sağlayan dördüncü nesil NVIDIA NVLink® ara bağlantı teknolojisi yatmaktadır.
Grace ayrıca, DDR4 belleğe kıyasla iki kat daha fazla bant genişliği ve 10 kat daha iyi enerji verimliliği sağlayacak yenilikçi bir LPDDR5x bellek alt sistemi kullanacak. Ek olarak, yeni mimari, programlanabilirliği basitleştirmek için sistemi ve HBM GPU belleğini birleştiren tek bir bellek adres alanıyla birleşik önbellek tutarlılığı sağlar.