GTM Teknoloji, Author at GTM Teknoloji

Nvidia ve Intel, Yeni Apple AI ve HPC Geliştirme Araçlarında Hoş Karşılanmıyor..

GTM Teknoloji — Thu, 18 Jul 2024 19:30:21 +0000

Yeni Mac geliştirici araçları, Apple’ın kendi ürettiği yongalardan yararlanacak ve HPC kullanıcılarının Intel veya Nvidia’nın paralel programlama çerçevelerini kullanma yeteneklerini sınırlayacak.

Apple’ın en son programlama çerçevesi olan Xcode 16, yakın zamanda düzenlenen WWDC konferansında tanıtıldı ve programlamayı ve uygulama entegrasyonunu kolaylaştırmak için yapay zekayı kullanan bir dizi yeni özelliğe sahip.

Ancak, aynı zamanda, kodu tahmin edebilen ve tamamlayabilen Code Complete gibi özelliklerle Swift programlama diline yeni yetenekler de ekler . SwiftAssist adlı bir diğer özellik ise kodlama sorularını yanıtlar ve API’lere yardımcı olur.

Apple’ın PC’leri artık GPU’lar, CPU’lar ve AI çipleri içeren kendi geliştirdiği Apple Silicon’ı kullanıyor. Mac’ler daha önce AMD ve Nvidia’dan x86 çiplerine ve GPU’lara güveniyordu ancak artık harici GPU’ları desteklemiyor. Bu, AI uygulamaları yazmak için sınırlı ortamlar sağlayarak Mac geliştiricilerini zor durumda bırakıyor.

Apple, WWDC’de geliştiricileri, makine öğrenimi modellerini kendi geliştirdikleri CPU’lar, GPU’lar ve sinir işlemcilerinden yararlanan CoreML formatına taşımaya teşvik etti.

CoreML (Kaynak: Apple)
CoreML Tools adlı açık kaynaklı bir Python paketi, PyTorch modellerini Apple’ın AI donanımıyla çalışacak şekilde dönüştürür. Geliştiriciler ayrıca JAX, TensorFlow veya MLX’i de kullanabilir.

Intel ve Nvidia, macOS desteğiyle vakit kaybetmiyor. Intel, OneAPI paralel programlama çerçevesinin en son 2024 sürümü için macOS desteğini çekti .

Apple, WWDC’de daha geniş kapsamlı yapay zeka planlarını paylaşarak, LLM öğrencilerine Google’ın Tensör İşleme Birimi konusunda eğitim verdiğini açıkladı.

Apple ayrıca Google’ın veri merkezlerinde barındırılacak kendi Özel Hesaplama Bulutunu da kurdu. Apple, buluttaki AI için Nvidia GPU’larına güvenmeyecek çünkü AI stratejisi güç verimliliğine odaklanmış durumda ve bunun için kendi aritmetik tekniklerine sahip. Nvidia’nın GPU’ları daha fazla güç tüketen daha büyük LLM’lerde eğitim ve çıkarım çalıştırıyor.

Nvidia, AI ve HPC CUDA programlama araçları için MacOS desteğini yıllar önce sonlandırdı. Geliştiricilerin Nvidia GPU’ları için uygulamalar oluşturmak üzere Linux veya Windows’a geçmeleri gerekecek.

CUDA, AI uygulamalarının Nvidia donanımında çalışması için gerekli araçları sağlar. Apple gibi Nvidia da müşterilerini donanım ve yazılımlarına bağlamaya çalışıyor. Nvidia’nın geliştirme araçları, ücretsiz olmayan AI Enterprise adlı bir pakette paketlenmiştir.

Apple’ın GPU’ları için optimize edilmiş Metal adlı kendi oyun ve AI çerçevesi vardır. Bir avuç çok eski AMD ve Nvidia GPU’su, artık yalnızca Apple’ın dahili GPU’suna ayrılmış olan Metal’i destekler.

Ancak Mac geliştiricileri bulutta barındırılan Nvidia GPU’larıyla çalışabilecekler, ki bu günümüzde çoğunlukla böyledir. Bulut sağlayıcıları genellikle PC işletim sistemlerine herhangi bir bağ olmadan Nvidia GPU’ları için çalışma ortamları sağlar.

The post Nvidia ve Intel, Yeni Apple AI ve HPC Geliştirme Araçlarında Hoş Karşılanmıyor.. appeared first on GTM Teknoloji.

Supermicro, Intel® Xeon® 6 İşlemcilere Dayalı E-çekirdeklere ve Yakında Sıvı Soğutmalı P-çekirdek Sistemlerine Dayalı Yeni X14 AI, Raf Tipi, Çoklu Düğüm ve Uç Sunucu Ailelerini Tanıttı

GTM Teknoloji — Thu, 18 Jul 2024 15:14:53 +0000

Supermicro’nun Genişletilmiş, Kanıtlanmış Portföyü, Bulut Yerel, Depolama İçin Optimize Edilmiş ve Ölçeklenebilir İş Yüklerinde Watt Başına Maksimum Performans İçin Tasarlanmış Sistemleri ve Yapay Zeka ve HPC Ortamları İçin Hava ve Sıvı Soğutmalı Sistemleri İçerir

Yapay Zeka, Bulut, Depolama ve 5G/Edge için Toplam BT Çözüm Sağlayıcısı olan Supermicro, Inc. (NASDAQ: SMCI), E çekirdekli Intel® Xeon® 6700 serisi işlemcileri destekleyen X14 sunucu portföyünü piyasaya sürüyor ve gelecekte P çekirdekli Intel Xeon 6900 serisi işlemcilere destek sağlayacak. Birkaç nesil boyunca kanıtlanmış platformlara dayanan yeni Supermicro X14 sunucuları, Hyper, CloudDC ve WIO platformları dahil olmak üzere kurumsal, bulut hizmeti sağlayıcısı, orta sınıf ve giriş seviyesi modelleri destekleyen bir raf tipi sunucu ailesiyle başlayarak en yeni Intel Xeon 6 işlemcileri destekliyor. Ayrıca, raf başına 34.560 çekirdeğe kadar yoğunluk ve verimlilik açısından optimize edilmiş çok düğümlü sunucular, SuperBlade®, BigTwin® ve GrandTwin® bu yeni işlemciyi içerecek. Supermicro’nun Petascale depolama sistemleri ve Hyper-E ve kısa derinlikli kompakt sistemler gibi Edge ve Telco için optimize edilmiş sunucular da mevcut olacak. Gelecekte, yüksek performanslı sistemler yakında P çekirdekli Intel Xeon 6900 serisi işlemcilerle mevcut olacak. P çekirdekli Intel Xeon 6 işlemcili sistemler, AI iş yükleri için 2-3 kat* daha iyi performans ve 2,8 kat* daha yüksek bellek bant genişliği sunacak. E çekirdekli Intel Xeon 6 işlemcileri kullanan gelecekteki sistemlerin önceki nesillere göre 2,5 kat* daha yüksek raf yoğunluğu ve watt başına 2,4 kat* performans iyileştirmesi sunması bekleniyor; bu da bir veri merkezinin PUE’sinin 1,05 kadar düşük bir seviyeye düşmesiyle sonuçlanacak.

“Supermicro, veri merkezi ölçeğinde sıvı soğutma dahil olmak üzere ölçekte iş yüküne göre optimize edilmiş çözümler tasarlama, oluşturma ve sunma konusunda sektör lideridir. Yeni X14 sunucular müşterilerimize daha da fazla esneklik ve özelleştirme seçenekleri sunacak,” dedi Supermicro’nun başkanı ve CEO’su Charles Liang. “Supermicro X14 ürün aileleri, şimdiye kadar tasarladığımız en güçlü ve esnek sistemlerimizdir ve veri merkezinden uç noktaya kadar çok çeşitli uygulamalar için optimize edilmiştir. Gelecekte veri merkezlerinin %20’sinin sıvı soğutmaya ihtiyaç duyacağını görüyoruz ve Supermicro, soğuk plakalardan soğutma kulelerine kadar eksiksiz bir çözüm sunmak için benzersiz bir konumdadır.”

Daha yüksek verimlilik ve daha düşük TCO için Supermicro, CPU ve GPU soğuk plakaları, soğutma dağıtım ünitesi, manifold, borular ve soğutma kulesi dahil olmak üzere her türlü dağıtıma eklenebilen sıvı soğutma çözümleri sunar; tüm bileşenler eksiksiz bir çözüm için şirket içinde geliştirilir ve üretilir.

E-çekirdeklere sahip yeni Intel Xeon 6 işlemciler, çekirdek başına tek bir iş parçacığına sahiptir. Daha az güç kullanarak aynı anda daha fazla eş zamanlı örneği çalıştırmak için daha önemli sayıda enerji tasarruflu çekirdekten yararlanan iş yükleri için optimize edilmiştir; örneğin bulut tabanlı CDN’ler, ağ mikro hizmetleri, Kubernetes gibi bulut tabanlı uygulamalar, uygulama DevOps’u, yapılandırılmamış veritabanları ve ölçeklenebilir analizler.

Yeni Intel Xeon 6 işlemcilerle desteklenen Supermicro X14 sistemleri, E-core ve P-core varyantları arasında pin uyumluluğuna sahiptir. Mevcut ve gelecekteki Supermicro sistemleri, düğüm başına 576 çekirdek, 8800 MT/s’ye kadar DDR5-6400 ve MCR DIMM’ler, CXL 2.0, daha geniş E1.S ve E3.S desteği ve 400G’ye kadar ağ özelliğine sahip olacaktır. Yeni Intel Xeon 6 işlemciler, önceki nesil Intel Xeon işlemcilerin yükseltilmiş bir versiyonu olan 6700 serisinde ve performansı en üst düzeye çıkarmak için yepyeni bir işlemci sınıfı olan 6900 serisinde mevcut olacaktır. Intel Xeon 6900 serisi işlemciler daha fazla çekirdek, daha yüksek TDP, artırılmış bellek kanalları ve MCR DIMM desteği sunacaktır. Supermicro X14 platformu aynı zamanda büyük bulut servis sağlayıcıları ve hiper ölçekleyiciler için karmaşıklığı azaltan ve bakımı basitleştiren OCP Veri Merkezi Modüler Donanım Sistemini (DC-MHS) destekleyen ilk Supermicro platformudur.

“Intel, ‘5 yılda 4 düğüm’ sunma yol haritasını yürütüyor ve Xeon 6 ile bulut tabanlı ve ölçeklenebilir iş yükleri için ilk kurumsal sınıf Verimli çekirdek ürünlerimiz de dahil olmak üzere devrim niteliğinde yeni işlemci özellikleri sunuyoruz,” diyor Intel’de Xeon 6 E-Core Ürünleri Başkan Yardımcısı ve Genel Müdürü Ryan Tabrah. “Bu yeni işlemciler, Supermicro gibi ortaklarımızın her zamankinden daha yoğun ve daha verimli yeni Xeon sistemleri geliştirmesini sağlayarak müşterilerin TCO’yu düşürürken iş hedeflerine ulaşmalarına yardımcı oluyor.”

Supermicro’nun X14 sistemleri portföyü performans açısından optimize edilmiş ve enerji açısından verimlidir, iyileştirilmiş yönetilebilirlik ve güvenlik içerir, açık endüstri standartlarını destekler ve raf ölçeğinde optimize edilmiştir. 1.350 sıvı soğutmalı raf dahil olmak üzere ayda 5.000 raflık küresel üretim kapasitesiyle Supermicro’nun uzman mühendisleri, sektör lideri pazara sunma süresiyle eksiksiz sistemler tasarlayabilir, oluşturabilir, doğrulayabilir ve teslim edebilir.

Bugün E-çekirdeklere sahip Intel Xeon 6700 serisi işlemcilerle piyasaya sürülüyor:

SuperBlade® – Supermicro’nun AI, Veri Analitiği, HPC, Bulut ve Kurumsal iş yükleri için optimize edilmiş yüksek performanslı, yoğunluk açısından optimize edilmiş ve enerji açısından verimli çok düğümlü platformu. Bu yeni blade sistemleriyle, bir raf 34.560’a kadar Xeon işlem çekirdeğine sahip olabilir.

Hyper – Ölçeklenebilir bulut iş yükleri için tasarlanmış, depolama ve G/Ç esnekliğiyle çok çeşitli uygulama ihtiyaçlarına özel uyum sağlayan amiral gemisi performanslı raf tipi sunucular.

CloudDC – Esnek G/Ç ve depolama yapılandırmaları ve maksimum veri çıkışı için çift AIOM yuvası (PCIe 5.0; OCP 3.0 uyumlu) ile OCP Veri Merkezi Modüler Donanım Sistemi’ne (DC-MHS) dayalı bulut veri merkezleri için hepsi bir arada platform.

WIO – Belirli kurumsal gereksinimler için gerçekten optimize edilmiş sistemler sunmak amacıyla uygun maliyetli bir mimaride esnek G/Ç yapılandırmaları sunar.

BigTwin® – Düğüm başına çift işlemci ve sıcak değiştirilebilir araçsız tasarımla üstün yoğunluk, performans ve servis kolaylığı sağlayan 2U 2-Node veya 2U 4-Node platformu. Bu sistemler, üstün yoğunluk ve verim için E3.S sürücü desteği de dahil olmak üzere yeni modellerle bulut, depolama ve medya iş yükleri için idealdir.

GrandTwin® – Tek işlemci performansı ve bellek yoğunluğu için özel olarak üretilmiş, ön (soğuk koridor) sıcak değiştirilebilir düğümler ve daha kolay servis edilebilirlik için ön veya arka G/Ç özelliğine sahiptir. Artık daha iyi depolama yoğunluğu ve verimi için E1.S sürücülerle birlikte mevcuttur.

Hyper-E – Edge ortamlarında dağıtım için optimize edilmiş amiral gemisi Hyper ailemizin gücünü ve esnekliğini sunar. Edge dostu özellikler arasında kısa derinlikli bir şasi ve ön G/Ç bulunur ve Hyper-E’yi edge veri merkezleri ve telekomünikasyon dolapları için uygun hale getirir. Bu kısa derinlikli sistemler 3’e kadar yüksek performanslı GPU veya FPGA kartını destekler.

Edge/Telco – Telekom kabini ve Edge veri merkezi kurulumu için optimize edilmiş kompakt form faktörlerinde yüksek yoğunluklu işlem gücü. İsteğe bağlı DC güç yapılandırmaları ve 55° C’ye (131° F) kadar geliştirilmiş çalışma sıcaklıkları.

Petascale Depolama – EDSFF E1.S ve E3.S sürücülerle sektör lideri depolama yoğunluğu ve performansı, tek bir 1U veya 2U şaside benzeri görülmemiş kapasite ve performans sağlar.

Yakında çıkacak olan P çekirdekli Intel Xeon 6 6900 serisi işlemcilerle:

PCIe GPU’lu GPU Sunucuları – Çarpıcı performans kazanımları ve maliyet tasarrufları sağlamak için gelişmiş hızlandırıcıları destekleyen sistemler. Bu sistemler HPC, AI eğitimi, işleme ve VDI iş yükleri için tasarlanmıştır.

Evrensel GPU Sunucuları – Bunlar büyük ölçekli AI eğitimi ve büyük dil modelleri için en güçlü sunuculardır. En son PCIe, OAM ve NVIDIA SXM teknolojileri dahil olmak üzere GPU seçenekleriyle üstün performans ve servis kolaylığı sağlayan açık, modüler, standartlara dayalı sunucular.

Yeni Çok Düğümlü Sunucular – HPC, veri merkezi, finansal hizmetler, üretim ve bilimsel araştırma uygulamaları için optimize edilmiş yüksek yoğunluklu 2U4N sistemleri. Önden erişilebilir servis tasarımı, esnek G/Ç ve sürücü yapılandırmalarıyla soğuk koridor servis edilebilirliğine olanak tanır.

^*^4. Nesil Intel Xeon Ölçeklenebilir İşlemcilerle Karşılaştırıldığında . 21 Ağustos 2023 itibarıyla önceki nesle göre mimari projeksiyonlara dayanmaktadır. Sonuçlarınız değişebilir.

Supermicro Sunucu çözümleriyle ilgili Türkiye yetkili distribütörü GTM Teknoloji’yle iletişime geçebilirsiniz.

info@gtmteknoloji.com

The post Supermicro, Intel® Xeon® 6 İşlemcilere Dayalı E-çekirdeklere ve Yakında Sıvı Soğutmalı P-çekirdek Sistemlerine Dayalı Yeni X14 AI, Raf Tipi, Çoklu Düğüm ve Uç Sunucu Ailelerini Tanıttı appeared first on GTM Teknoloji.

Supermicro, NVIDIA Blackwell ve NVIDIA HGX H100/H200 için Raf Ölçekli Tak ve Çalıştır Sıvı Soğutmalı AI Süper Kümelerini Tanıttı – Yapay Zeka Çağında Sıvı Soğutmayı Bonusla Ücretsiz Hale Getiren Radikal Yenilikler

GTM Teknoloji — Thu, 18 Jul 2024 15:09:53 +0000

San Jose, Kaliforniya, Taipei, Tayvan — 5 Haziran 2024 – Yapay Zeka, Bulut, Depolama ve 5G/Uç için Toplam BT Çözüm Sağlayıcısı olan Supermicro, Inc. (NASDAQ: SMCI) , NVIDIA AI Enterprise yazılım platformu için optimize edilmiş, SuperCluster’ları ile sektörler genelindeki işletmeler için üretken AI benimsenmesini hızlandıran bulut tabanlı çözümler için tasarlanmış, kullanıma hazır sıvı soğutmalı bir AI veri merkezi sunuyor . NVIDIA yakın zamanda tanıttığı Blackwell GPU’lar, tek bir GPU’da 20 PetaFLOPS’u tamamen ortaya çıkarabiliyor ve önceki GPU’lara göre 4 kat daha iyi yapay zeka eğitimi ve 30 kat daha iyi çıkarım performansı sunabiliyor ve ek maliyet tasarrufları sağlıyor. Piyasaya ilk sunma stratejisi doğrultusunda Supermicro, yakın zamanda yeni NVIDIA HGX ^TM B100, B200 ve GB200 Grace Blackwell Superchip için NVIDIA Blackwell mimarisi tabanlı ürünlerden oluşan eksiksiz bir ürün yelpazesi duyurdu .

“Supermicro, raf ölçeğinde sıvı soğutmalı AI çözümleri oluşturma ve dağıtma konusunda sektöre öncülük etmeye devam ediyor,” diyor Supermicro’nun başkanı ve CEO’su Charles Liang. “Sıvı soğutmalı veri merkezleri neredeyse ücretsiz olabilir ve elektrik kullanımındaki devam eden azalma ile müşteriler için bir bonus değer sağlayabilir. Çözümlerimiz, endüstrilerdeki müşteriler için NVIDIA AI Enterprise yazılımı ile optimize edilmiştir ve dünya standartlarında verimlilikle küresel üretim kapasitesi sunuyoruz. Sonuç olarak, NVIDIA HGX H100 ve H200 ile sıvı soğutmalı veya hava soğutmalı anahtar teslimi kümelerimizin teslimat süresini ve ayrıca yaklaşan B100, B200 ve GB200 çözümlerini azaltabiliyoruz. Soğuk plakalardan CDU’lara ve soğutma kulelerine kadar, raf ölçeğindeki toplam sıvı soğutma çözümlerimiz devam eden veri merkezi güç kullanımını %40’a kadar azaltabilir.”

COMPUTEX 2024’te Supermicro, NVIDIA Blackwell GPU için optimize edilmiş, 10U hava soğutmalı ve 4U sıvı soğutmalı NVIDIA HGX B200 tabanlı sistem dahil olmak üzere yaklaşan sistemlerini tanıtıyor. Ayrıca Supermicro, NVIDIA NVLink Anahtarları ile 72 birbirine bağlı GPU içeren 8U hava soğutmalı NVIDIA HGX B100 sistemi ve Supermicro’nun NVIDIA GB200 NVL72 rafını ve NVIDIA H200 NVL PCIe GPU’larını ve yeni duyurulan NVIDIA GB200 NVL2 mimarisini destekleyen yeni NVIDIA MGX™ sistemlerini sunacak.

NVIDIA’nın kurucusu ve CEO’su Jensen Huang, “Üretken AI, tüm bilgi işlem yığınının sıfırlanmasını sağlıyor; yeni veri merkezleri GPU hızlandırmalı olacak ve AI için optimize edilecek,” dedi. “Supermicro, trilyon dolarlık küresel veri merkezlerinin AI çağına göre optimize edilmesini sağlayan, NVIDIA hızlandırmalı son teknoloji bilgi işlem ve ağ çözümleri tasarladı.”

Büyük dil modellerinin hızlı gelişimi ve Meta’nın Llama-3 ve Mistral’in Mixtral 8x22B gibi açık kaynaklı modellerin sürekli olarak yeni tanıtılması, günümüzün en son teknoloji AI modellerini işletmeler için daha erişilebilir hale getiriyor. AI altyapısını basitleştirme ve erişilebilirliği en uygun maliyetli şekilde sağlama ihtiyacı, AI devriminin mevcut baş döndürücü hızını desteklemek için son derece önemlidir. Supermicro bulut tabanlı AI SuperCluster, NVIDIA AI Enterprise’ı kullanarak anında erişim ve taşınabilirlik bulut kolaylığı arasındaki boşluğu kapatır ve AI projelerinin pilot uygulamadan üretime sorunsuz bir şekilde her ölçekte taşınmasına olanak tanır. Bu, kendi kendine barındırılan sistemler veya şirket içi büyük veri merkezleri dahil olmak üzere güvenli bir şekilde yönetilen verilerle her yerde çalışma esnekliği sağlar.

Sektörlerdeki işletmelerin üretken AI kullanım durumlarını hızla denemesiyle Supermicro, deneylerden ve AI uygulamalarının pilot uygulamasından üretim dağıtımına ve büyük ölçekli veri merkezi AI’sına sorunsuz ve esnek bir geçiş sağlamak için NVIDIA ile yakın bir şekilde iş birliği yapmaktadır. Bu sonuç, NVIDIA AI Enterprise yazılım platformuyla raf ve küme düzeyinde optimizasyon yoluyla elde edilir ve ilk keşiften ölçeklenebilir AI uygulamasına kadar sorunsuz bir yolculuk sağlar.

Yönetilen hizmetler altyapı seçimlerini, veri paylaşımını ve üretken AI stratejisi kontrolünü tehlikeye atar. NVIDIA AI Enterprise’ın bir parçası olan NVIDIA NIM mikro hizmetleri, dezavantajlar olmadan yönetilen üretken AI ve açık kaynaklı dağıtım avantajları sunar. Mikro hizmetlerle çok yönlü çıkarım çalışma zamanı, açık kaynaklıdan NVIDIA’nın temel modellerine kadar çok çeşitli modellerde üretken AI dağıtımını hızlandırır. Ayrıca NVIDIA NeMoTM, kurumsal düzeyde çözümler için veri düzenleme, gelişmiş özelleştirme ve geri alma ile artırılmış üretim (RAG) ile özel model geliştirmeye olanak tanır. NVIDIA NIM, Supermicro’nun NVIDIA AI Enterprise’a hazır Süper Kümeleri ile birleştirildiğinde, ölçeklenebilir, hızlandırılmış Üretken AI üretim dağıtımlarına giden en hızlı yolu sağlar.

Supermicro’nun mevcut jeneratif AI SuperCluster ürünleri şunlardır:

5 rafta (1 özel ağ rafı dahil) ölçeklenebilir bir hesaplama birimi olarak 256 H100/H200 GPU’lu sıvı soğutmalı Supermicro NVIDIA HGX H100/H200 SuperCluster
9 rafta (1 özel ağ rafı dahil) ölçeklenebilir bir hesaplama birimi olarak 256 HGX H100/H200 GPU’lu hava soğutmalı Supermicro NVIDIA HGX H100/H200 SuperCluster
9 rafta (1 özel ağ rafı dahil) ölçeklenebilir bir hesaplama birimi olarak 256 GH200 GraceTM Hopper Süperçip’li Supermicro NVIDIA MGX GH200 SuperCluster

Supermicro SuperCluster’lar, uçtan uca üretken AI özelleştirmesi için NVIDIA NIM mikro hizmetleri ve NVIDIA NeMo platformu ile NVIDIA AI Enterprise’a hazırdır ve NVIDIA Quantum-2 InfiniBand’in yanı sıra GPU başına 400 Gb/s ağ hızına sahip yeni NVIDIA Spectrum-X Ethernet platformu için on binlerce GPU’ya sahip büyük bir kümeye ölçeklenebilirlik için optimize edilmiştir.

Supermicro’nun yakında sunacağı SuperCluster ürünleri şunlardır:

Supermicro NVIDIA HGX B200 SuperCluster , sıvı soğutmalı
Supermicro NVIDIA HGX B100/B200 SuperCluster , hava soğutmalı
Supermicro NVIDIA GB200 NVL72 veya NVL36 SuperCluster , sıvı soğutmalı

Supermicro’nun SuperCluster çözümleri LLM eğitimi, derin öğrenme ve yüksek hacimli ve toplu boyut çıkarımı için optimize edilmiştir. Supermicro’nun L11 ve L12 doğrulama testi ve yerinde dağıtım hizmeti müşterilere kusursuz bir deneyim sunar. Müşteriler, bir veri merkezinde kolay dağıtım ve sonuçlara daha hızlı ulaşma için tak ve çalıştır ölçeklenebilir birimler alırlar.

Supermicro çözümleriyle ilgili Türkiye Yetkili satıcısı ve katma değerli distribütörü GTM Teknoloji ile iletişime geçin.

info@gtmteknoloji.com

The post Supermicro, NVIDIA Blackwell ve NVIDIA HGX H100/H200 için Raf Ölçekli Tak ve Çalıştır Sıvı Soğutmalı AI Süper Kümelerini Tanıttı – Yapay Zeka Çağında Sıvı Soğutmayı Bonusla Ücretsiz Hale Getiren Radikal Yenilikler appeared first on GTM Teknoloji.

Supermicro, Yapay Zeka ve Kurumsal Raf Ölçekli Sıvı Soğutmalı Çözümlerin Büyümesini Desteklemek İçin Silikon Vadisi’nde ve Dünya Genelinde 3 Yeni Üretim Tesisi Ekliyor

GTM Teknoloji — Thu, 18 Jul 2024 14:58:30 +0000

San Jose, Kaliforniya, 17 Haziran 2024 – Yapay Zeka, Bulut, Depolama ve 5G/Uç için Toplam BT Çözümü Sağlayıcısı olan Supermicro, Inc. (NASDAQ: SMCI), sıvı soğutmalı veri merkezlerine olan talep arttıkça yeni kampüslerle Silikon Vadisi’nde büyümeye devam ediyor. Yeni tesisler, dünya çapındaki müşterilere teslimat için gereken süreyi azaltan yeni sıvı soğutmalı ekosistemin bir parçası olacak. Bu yeni tesisler, sistemlerden raflara ve su kulelerine kadar tüm tak ve çalıştır sıvı soğutmalı çözümleri sunmaya odaklanacak. Yapay Zeka fabrikaları daha yaygın hale geldikçe, sıvı soğutmalı veri merkezleri, yapay zeka odaklı iş yüklerine yönelik bu artan müşteri taleplerini karşılamak için kritik öneme sahip. Sıvı soğutmalı veri merkezleri, watt başına yapay zeka hesaplama performansı miktarını artırarak veri merkezi başına daha fazla performans sağlıyor. Ayrıca, elektrik tüketimi ve çevresel etki azalıyor ve operasyonel giderler geleneksel hava soğutmalı veri merkezlerine kıyasla %40’a kadar daha düşük olabiliyor.

“Supermicro, sıvı soğutmalı teknolojilerden faydalanan en yüksek performanslı üretken derin öğrenme ve çıkarım yapay zeka platformuna ve kümelerine sahiptir,” dedi Supermicro’nun başkanı ve CEO’su Charles Liang. “Birçok veri merkezi sahibi elektrik tasarrufu sağlayan Doğrudan Sıvı Soğutmalı çözümler arıyor. Supermicro, yapay zeka fabrikaları ve HPC pazarı için yapı taşı sıvı soğutmalı çözümler geliştiriyor. Sıvı soğutmalı veri merkezlerinin tarihsel olarak %1’den az bir orandan beklenen %15’e ve önümüzdeki iki yıl içinde tüm veri merkezi kurulumlarının %30’una kadar büyümesini öngörüyoruz. Bu genişleme, bu büyümenin çoğunluğunu ele geçirmemizi sağlayacak bir konuma getiriyor. Yeni veri merkezleri daha verimli çalışacak, karbon ayak izlerini azaltacak ve zamanla daha düşük elektrik kullanımıyla önemli operasyonel tasarruflar elde edilen hava soğutmalı veri merkezlerine kıyasla neredeyse ücretsiz olabilecek.”

Supermicro, her kuruluş ve bulut hizmeti sağlayıcısı için benzersiz olan zorlu iş yüklerine uygun doğru sunucu teknolojisini eşleştirmek için veri merkezi operatörleriyle yakın bir şekilde çalışmaya devam ediyor. Bu uygulamaya yönelik optimize edilmiş sunucuların çoğu, veri merkezinin genel operasyonel maliyetini düşüren sıvı soğutmalı olarak tasarlanmıştır.

Birçok müşterinin veri merkezlerinin içindeki sıvıları idare etme konusunda sınırlı deneyimi vardır ve bu da satıcıların kurulum ve kabul testlerini, gelecekteki bakım ve garanti hizmetiyle birlikte gerçekleştirmesini gerektirir. Yerinde destek kritik öneme sahiptir ve Supermicro’nun servis organizasyonu sıvı soğutma dağıtımları konusunda oldukça eğitimlidir.

Supermicro’nun Yapı Taşı sıvı soğutma çözümleri hakkında daha fazla bilgi edinmek için buraya tıklayın

“Supermicro’nun San Jose’de genişlemesinden ve veri merkezlerinin etkisini azaltma yolunda öncü olmasından heyecan duyuyoruz,” dedi San Jose, CA Belediye Başkanı Matt Mahan. “Supermicro, hem teknoloji hem de sürdürülebilirliğin sınırlarını zorlamaya devam eden bir şirket olarak Silikon Vadisi’nin en iyisini temsil ediyor.”

Toplam çözüm sağlayıcısı olarak Supermicro, verimli ve optimize edilmiş bir sıvı soğutmalı çözüm için gereken tüm bileşenleri sağlar. Supermicro tarafından optimize edilmiş soğuk plakalardan soğutma dağıtım manifoldlarına (CDM’ler), yedek soğutma dağıtım ünitelerine (CDU’lar) ve hatta harici soğutma kulesine kadar, uçtan uca çözümün tamamı Supermicro mühendisleri tarafından tasarlanır ve test edilir, bu da daha yüksek kaliteli bir çözümle sonuçlanır ve kuruluşların daha erken üretken olmasını sağlar.

Birçok Supermicro sunucusu, çok yüksek yoğunluklu 4U-8GPU sistemleri, Intel CPU tabanlı SYS-421GE-TNHR2-LCC veya AMD CPU tabanlı AS -4125GS-TNHR2-LCC gibi yapay zeka işleme için yüksek performanslı NVIDIA GPU’ları için açıkça tasarlanmıştır. Ayrıca, popüler 8U-8GPU sistemleri gibi birçok Supermicro sunucusu, Grace Hopper Superchip’i içeren NVIDIA tabanlı 1U ARS-111GL-NHR-LCC gibi sıvı soğutmaya hazırdır . Sıvı soğutmalı sunucular arasında, günümüzde mevcut olan en yüksek CPU ve GPU hesaplama yoğunluğunu sağlayan 8U-20 düğümlü SuperBlade® bulunur. 2U-4 düğümlü Supermicro BigTwin® ve 4U-8 düğümlü FatTwin® çok düğümlü sunucular, sıvı soğutma için optimize edilmiştir ve günümüzde yüksek hacimli üretimdedir.

Supermicro Sıvı Soğutmalı Çözümler için Türkiye distribütörü GTM Teknoloji ile iletişime geçebilirsiniz.

info@gtmteknoloji.com

The post Supermicro, Yapay Zeka ve Kurumsal Raf Ölçekli Sıvı Soğutmalı Çözümlerin Büyümesini Desteklemek İçin Silikon Vadisi’nde ve Dünya Genelinde 3 Yeni Üretim Tesisi Ekliyor appeared first on GTM Teknoloji.

AMD Zen 5 Mimarisi ve XDNA 2 Duyuruldu

GTM Teknoloji — Thu, 18 Jul 2024 09:42:43 +0000

AMD’nin 2024 Teknoloji Günü, en son gelişmelerin ardındaki ayrıntıları ortaya koydu ve özellikle en son Zen 5 CPU ve XDNA AI merkezli mimarileriyle ilgili çok fazla konuyu ele aldı. Bu etkinlik, AMD’nin AI verimliliğini, güç performansını ve birden fazla uygulamada sorunsuz entegrasyonu devrim niteliğinde değiştirme vizyonunu vurgulayarak, yüksek performanslı bilgi işlem sektöründeki liderliğini yeniden teyit etti.

Microsoft ile stratejik iş birliği, AMD’nin AI PC deneyimlerindeki liderliği için sahneyi hazırladı ve çok çeşitli uygulamalarda benzeri görülmemiş verimlilik, performans ve entegrasyon sağladı. 192 çekirdeğe ve 384 iş parçacığına kadar 5. Nesil EPYC CPU’lar, güç verimliliğinde ve AI hızlandırmada önemli kazanımlar vaat ediyor. Gelişmiş dal tahmini, çift kod çözme kanalları ve yeni bir Matematik Hızlandırma Birimi ile AMD, Zen 5’in selefine kıyasla tek çekirdekli AES-XTS performansında %35 iyileştirme ve makine öğrenimi görevlerinde %32 artış sağladığını söylüyor. AMD, işlem gücü ve verimliliğin sınırlarını zorlamaya devam ederken, Zen 5 mimarisi veri merkezi ve sunucu pazarlarında devrim yaratmaya hazır duruyor.

AMD Zen 5 mimarisi, AMD’nin masaüstü, sunucu, istemci ve gömülü uygulamalar için özel olarak tasarlanmış ürünler yaratmasına olanak tanıyan yenilikçi bir modüler tasarım kullanır. 4nm ve 3nm işlem teknolojilerini birleştirmek, Zen5 tabanlı ürünlerin çeşitli kullanım durumlarında optimize edilmiş performans ve güç verimliliği sunmasını sağlar.

AMD Zen 5

AMD’nin 2024 Tech Day’deki sunumunda Mark Papermaster, Zen 5 mimarisindeki önemli gelişmeleri, özellikle de 5. Nesil EPYC CPU’larını tanıttı. 2024’ün ikinci yarısında piyasaya sürülecek olan EPYC serisi, sunucu ve veri merkezi pazarlarında yoğunluk ve performans ölçümlerini uç noktalara taşıyarak eşsiz performans ve verimlilik sunmayı vaat ediyor.

5. Nesil EPYC CPU’lar çekirdek sayısını ve iş parçacığı kapasitesini önemli ölçüde artırdı. Bu geliştirmeler, TSMC ile devam eden ortaklık ve optimize edilmiş bir metal yığın sayesinde mümkün olan güç verimliliğindeki iyileştirmeleri de içeriyor. İkincisi, termal ve elektriksel performansı önemli ölçüde artırdı. Mimari, Zen 4’e kıyasla tek çekirdekli AES-XTS performansında %35’e kadar ve tek çekirdekli makine öğrenimi görevlerinde %32’ye kadar iyileştirme vaat eden yeni bir Matematik Hızlandırma Birimi sunarak gelişmiş AI hızlandırmasından yararlanıyor.

Zen 5’teki mimari gelişmeler kapsamlıdır. Talimat alma ve kod çözme aşamaları, gecikmeyi azaltmak ve doğruluğu artırmak için gelişmiş dal tahmini ve çift kod çözme kanallarıyla geliştirilmiştir. Tamsayı yürütme birimleri, daha büyük bir yürütme penceresi içinde 8 genişliğinde dağıtım/emeklilik yetenekleri ve daha birleşik bir ALU zamanlayıcısı ile önemli bir yükseltme görmektedir. Yükleme/depolama gelişmeleri, hem L1 önbelleğine hem de Kayan Nokta Birimine maksimum bant genişliğinin iki katı olan 48 KB 12 yollu L1 veri önbelleğini içerir; bu, veri ağırlıklı işlemler için çok önemlidir.

Zen 5 mimarisi ayrıca veri bant genişliğinde önemli iyileştirmeler içerir. 48KB 12 yollu L1 veri önbelleğiyle yükleme/depolama geliştirmeleri, veri yoğun işlemler için olmazsa olmaz olan L1 önbelleğine ve Kayan Nokta Birimine iki kat fazla bant genişliği sağlar. Mimarinin AVX-512 ve tam 512 bit veri yoluyla uçuş halinde daha fazla sayıda kayan nokta talimatını işleme yeteneği, AI ve vektör iş yüklerinde önemli performans kazanımları sağlar.

Kayan nokta ve vektör matematik birimi yürütme de önemli iyileştirmeler gördü. Tam 512 bit veri yolu ve altı boru hattına (kayan nokta ekleme işlemleri için iki çevrim gecikmesi sunar) sahip AVX-512, eş zamanlı kayan nokta talimatlarını yönetme yeteneğini önemli ölçüde artırır. Bu, özellikle vektör ve AI iş yüklerine fayda sağlar ve makine öğrenimi ve veri yoğun görevlerde önemli performans iyileştirmeleri sağlar. Bu, AMD’nin 512 bit performans elde etmek için 256 bit yolu “çift pompaladığı” Zen 4 ile tezat oluşturur.

XDNA

Yapay Zeka Grubu Kıdemli Başkan Yardımcısı Vamsi Boppana, AMD’nin yeni AI merkezli mimarisinin dönüştürücü potansiyelini özetledi. AI iş yüklerinin üstel büyümesi ve uzmanlaşması yenilikçi hesaplama mimarileri gerektiriyor ve AMD’nin buna cevabı XDNA 2 mimarisinin tanıtımı oldu.

Bu yeniliğin merkezinde, iletişim, 5G dağıtımı, savunma radar sinyali işleme, 3B bakış açıları için gerçek zamanlı yayın AI işleme ve sağlık görüntü işleme gibi çeşitli AI ve DSP uygulamalarındaki mirasıyla bilinen AMD XDNA mimarisi yer almaktadır. Mimari, geleneksel sabit hesaplama ve önbelleğe dayalı bellek hiyerarşilerinden daha esnek, uyarlanabilir bir modele geçiyor. Bu mekansal yeniden yapılandırılabilirlik ve döşenmiş veri akışı mimarisi, verimli çoklu görev ve garantili gerçek zamanlı performans sağlıyor.

Sunumda, AI iş yükleri için yüksek verimlilik ve performans sunmak üzere tasarlanmış entegre NPU’lu AMD’nin x86 işlemcisi vurgulandı. 3. Nesil AMD Ryzen AI işlemcileri, NPU yeteneklerinde önemli ilerlemeler sunarak 50 TOPS’a (Saniyede Trilyonlarca İşlem) kadar ulaşıyor ve 12’ye kadar CPU çekirdeği ve 16 GPU hesaplama birimi içeriyor. Bu işlemciler, Adobe, Black Magic ve Topaz Labs gibi platformlarda 100’den fazla AI odaklı deneyimi destekleyecek şekilde ayarlandı ve bu da onları yeni nesil AI PC deneyimlerinin merkezi haline getiriyor.

XDNA 2 mimarisi içindeki AI motoru, INT8 ve Block FP16 gibi çeşitli veri türleri için gelişmiş destek içerir ve bu da çeşitli AI uygulamaları genelinde yüksek performans ve doğruluk sağlar. Uyarlanabilir AI mimarisi, AMD’nin ürün portföyü genelinde ölçeklenebilir entegrasyona olanak tanır, mekansal yeniden yapılandırılabilirlik ve döşenmiş veri akışı mimarisi aracılığıyla verimli çoklu görev ve garantili gerçek zamanlı performans sunar.

Özellikle FP16 bloğu, neredeyse hiç doğruluk kaybı olmadan FP32 modelleri için anında değiştirme olanağı sunarak görüntü oluşturma, dil modelleri ve gerçek zamanlı ses ve video işleme gibi görevler için oldukça verimli hale getiriyor.

Öne çıkan özelliklerden biri, XDNA yapısını çalışma zamanında yapılandırma yeteneğidir. Bu, farklı boyutlarda birden fazla modeli aynı anda çalıştırmak için veri yolları ve NPU’nun segmentasyonu konusunda esneklik sağlar. Ayrıca, gelişmiş üretkenlik ve sürükleyici iş birliği için Copilot+ gibi AI destekli deneyimler sunma esnekliği de sağlar. Birleşik AI yazılım yığınını AMD’nin CPU, GPU ve NPU bileşenleri arasında entegre etmek, geniş model desteği ve optimize edilmiş performans sağlayarak geliştiricilerin binlerce AI modelini hızlı ve etkili bir şekilde dağıtmasını kolaylaştırır.

AMD XDNA 2 mimarisi, AI teknolojisinde önemli bir sıçramayı göstermektedir. Sekize kadar eş zamanlı mekansal akışla, önceki nesillerin güç verimliliğini iki katına çıkarır. Bu, AMD’nin çözümünü güçlü ve oldukça verimli hale getirerek, PC’lerde ve ötesinde AI uygulamalarının yeni bir döneminin yolunu açar.

3. Nesil AMD Ryzen AI işlemciler ayrıca yeni Güvenilir G/Ç yeteneklerini sunarak gelişmiş güvenlik özelliğine sahiptir. Bu güvenlik iyileştirmesi, hassas verileri korumak ve AI odaklı uygulamalarda güvenilir performansı garantilemek için önemlidir ve AMD’nin güvenli ve verimli AI çözümlerine olan bağlılığını güçlendirir.

AMD Zen 5 ve XDNA 2 Özellikleri

Zen 5 Mimarisi
Özellik	Detaylar
İşlem teknolojisi	4nm ve 3nm
Çekirdek Sayısı	192 çekirdeğe kadar
Konu Sayısı	384’e kadar iş parçacığı
Önbellek	48KB 12 yollu L1 veri önbelleği
Bant genişliği	L1 önbelleğine ve Kayan Nokta Birimine maksimum bant genişliğini iki katına çıkarın
Tamsayı Yürütme	8-geniş sevk/emeklilik, 6 ALU, 3 çarpan
Kayan Nokta Yürütme	Tam 512 bit veri yolu, 6 boru hattına sahip AVX-512
Yapay Zeka Hızlandırma	Yeni Matematik Hızlandırma Ünitesi
IPC Yükseltme	Zen 4’e göre ortalama %16 IPC artışı
Performans Kazanımları	Tek çekirdekli AES-XTS’de %35 iyileştirme, makine öğrenimi görevlerinde %32 artış
Güç verimliliği	Geliştirilmiş metal yığın ile performans/watt için optimize edilmiştir
Ürün Uygulamaları	Masaüstü, mobil, sunucu ve veri merkezi
XDNA 2 Mimarisi
AI Motoru Fayansları	32’ye kadar
AI Performansı	50 TOPS’a kadar
Çekirdek Sayısı	12 adede kadar CPU çekirdeği
GPU Hesaplama Birimleri	16’ya kadar
Desteklenen Veri Türleri	INT8, Blok FP16
Yeterlik	Önceki nesle kıyasla 2 kat güç verimliliği
Eşzamanlı Akışlar	8’e kadar
Güvenlik	Yeni Güvenilir IO yetenekleri
Yazılım yığını	CPU, GPU ve NPU genelinde birleşik AI yazılım yığını
Gerçek zamanlı Performans	Mekansal mimari ile garantili gerçek zamanlı performans
Uygulamalar	Oyun, eğlence, kişisel yapay zeka yardımı, içerik oluşturma, kurumsal üretkenlik

Curve Shaper ile Zen 5 Masaüstü Hız Aşırtma

Ryzen 7000 serisinin ayırt edici bir özelliği olan AMD’nin Curve Optimizer’ı, kullanıcıların PMFW/PBO’ya duyarlı dinamik voltaj ölçeklemesini veya voltaj azaltmasını etkinleştirmesine olanak tanır. Bu güçlü araç, ayarlanabilir “Curve Optimizer” adımlarıyla voltaj eğrisini dinamik olarak kaydırır ve frekans spektrumu boyunca değişken voltaj sağlar, daha yüksek frekanslarda daha fazla voltaj tahsis edilir. Kullanıcılar bu optimizasyonu çekirdek başına, CCD başına veya CPU başına uygulayabilir ve böylece CPU’larının performansı ve verimliliği üzerinde ayrıntılı kontrol sağlayabilir.

AMD, Curve Optimizer’ın temelleri üzerine inşa ederek, kullanıcıların alt voltaj eğrilerini yeniden şekillendirerek alt voltaj potansiyelini en üst düzeye çıkarmasını sağlayan gelişmiş bir geliştirme olan Curve Shaper’ı sunar. Curve Shaper, selefiyle aynı adımları kullanır. Yine de, kullanıcılara 15 ayrı frekans-sıcaklık bandından (üç sıcaklık bandı ve beş frekans bandı) adımları seçmeli olarak ekleme veya çıkarma esnekliği sağlar. Bu ince ayar yeteneği, kullanıcıların dengesizliklerin gözlemlendiği alanlarda voltaj eklerken, kararlı bantlardaki voltajı daha da düşürmelerine olanak tanır. Yeniden şekillendirilen eğri, Curve Optimizer kullanılarak daha fazla ayarlanabilen tüm çekirdeklere eşit olarak uygulanır.

Kapanış Düşünceleri

AMD Tech Day 2024, ürünlerin arkasındaki mühendislerle derinlemesine bir görüşme yapma fırsatına sahip olduğumuz harika bir etkinlikti. AMD’nin XDNA 2 mimarisi ve Zen 5 CPU’larındaki son gelişmeleri, AI ve yüksek performanslı bilgi işlem devrimine öncülük etme taahhüdünü vurguluyor. Çekirdek sayısı, iş parçacığı, güç verimliliği ve AI hızlandırmada çığır açan iyileştirmelerle AMD, endüstri standartlarını yeniden tanımlamaya ve masaüstü, mobil, sunucu ve veri merkezi uygulamalarında kapsamlı performans sağlayarak modern veri merkezli iş yüklerinin artan taleplerini karşılamaya hazırlanıyor.

The post AMD Zen 5 Mimarisi ve XDNA 2 Duyuruldu appeared first on GTM Teknoloji.