Intel Gaudi 3, NVIDIA H100'e göre hangi avantajları sunar?

Intel Gaudi 3, 128 GB HBM2e bellek (H100'ün 80 GB'ına karşı), 1.835 PFLOPS FP8 performansı ve standart Ethernet tabanlı scale-out ağ altyapısı sunar. InfiniBand zorunluluğu yoktur. Büyük LLM modellerinde ek quantization gerektirmeden çalışabilme avantajı ve fiyat/performans oranı dikkat çekicidir.

Supermicro SYS-822GA-NGR3 hangi yapay zeka modellerini çalıştırabilir?

8x Intel Gaudi 3 konfigürasyonu ile toplam 1 TB HBM2e bellek sunan bu platform; Llama 3.1 405B, Mixtral 8x22B, DeepSeek, Qwen, Stable Diffusion XL, Whisper ve tüm Hugging Face Transformers modellerini üretim düzeyinde inference ve fine-tuning için çalıştırabilir.

Hangi framework'ler Intel Gaudi 3 ile doğrudan çalışır?

PyTorch, Hugging Face Transformers, Optimum Habana, vLLM-fork, Text Generation Inference (TGI-Gaudi), DeepSpeed, PyTorch Lightning, Ray Train/Serve, LangChain ve LlamaIndex framework'leri Intel Gaudi 3 üzerinde native olarak desteklenir.

GTM Teknoloji'den Supermicro Gaudi 3 sunucu satın almanın avantajı nedir?

GTM Teknoloji, 2009 yılından beri Türkiye'nin resmi Supermicro distribütörüdür. NVIDIA NPN yetkili iş ortağı olarak hem NVIDIA hem de Intel Gaudi platformlarında uzman danışmanlık, POC desteği, Türkiye'de stok ve yerinde kurulum hizmeti sunar.

intel gaudi 3 nvidia alternatifi

Q: NVIDIA CUDA için yazılmış kodları Intel Gaudi 3 üzerinde çalıştırabilir miyim?

Evet, Hugging Face Transformers, PyTorch, Diffusers, PEFT ve TRL kullanan projelerin büyük çoğunluğu Optimum Habana kütüphanesi ile neredeyse hiç kod değişikliği gerektirmeden Gaudi 3 üzerinde çalışır. .to('cuda') yerine .to('hpu') kullanmak veya Trainer yerine GaudiTrainer'a geçmek çoğu senaryoda yeterlidir.

Dilan Bursalı — Wed, 22 Apr 2026 20:08:26 +0000

Intel Gaudi 3 vs NVIDIA GPU: Kod Değişikliği Olmadan Geçiş Rehberi | GTM Teknoloji

AI Altyapı · Teknik Rehber

Intel Gaudi 3, NVIDIA GPU'nun Gerçek Alternatifi mi? Kod Değişikliği Olmadan Geçiş Rehberi

CUDA ekosistemine alışkın yapay zeka geliştiricileri için Intel Gaudi 3 AI Accelerator nasıl bir fırsat sunuyor? Supermicro SYS-822GA-NGR3 8U sunucu ile LLM eğitimi ve inference için drop-in replacement yaklaşımı, desteklenen framework'ler ve pratik geçiş senaryoları.

📅 22 Nisan 2026 ⏱️ 12 dakika okuma 🏷️ AI Hardware, LLM, Intel Gaudi 3 ✍️ GTM Teknoloji AI Infrastructure Team

Neden Intel Gaudi 3 Ciddi Bir Alternatif?

Yapay zeka altyapısı pazarında NVIDIA H100 ve H200 GPU'ları hâlâ fiili standart konumunda. Ancak artan talep, yüksek fiyatlar ve tedarik süreleri, kurumsal alıcıları alternatif arayışına itti. Intel'in Habana Labs satın alımının meyvesi olan Intel Gaudi 3 AI Accelerator, özellikle LLM inference ve fine-tuning iş yüklerinde fiyat/performans dengesiyle öne çıkıyor.

Geliştiriciler için en kritik soru şu: "CUDA için yazdığım kodlarımı sıfırdan yazmam gerekecek mi?" Cevap büyük oranda hayır. Intel'in SynapseAI yazılım yığını ve Hugging Face'in Optimum Habana kütüphanesi, PyTorch tabanlı projelerin büyük çoğunluğunu neredeyse hiç kod değişikliği gerektirmeden Gaudi 3 üzerinde çalıştırmanıza olanak tanıyor.

128

GB HBM2e Bellek

H100'ün 80 GB'ına karşı %60 daha fazla bellek kapasitesi. Büyük modeller için ek quantization gerektirmez.

1.835

PFLOPS FP8

H100 ile rekabetçi hesaplama gücü, BF16'da aynı performans.

24×

200 GbE RDMA Port

Standart Ethernet tabanlı scale-out, InfiniBand zorunluluğu yok.

3.7

TB/s HBM Bandwidth

Transformer mimarilerinin memory-bound darboğazlarını aşmak için tasarlandı.

Gaudi 3 Mimarisi: Teknik Özet

Intel Gaudi 3, TSMC 5nm sürecinde üretilen iki compute die'dan oluşuyor. Her paket 8 Matrix Multiplication Engine (MME), 64 Tensor Processor Core (TPC) ve 24 adet 200 Gbps RoCE v2 RDMA NIC içeriyor. Bu heterojen mimari, matris çarpımı operasyonlarını MME'ye, diğer tüm deep learning operasyonlarını ise programlanabilir TPC cluster'ına yönlendiriyor.

96 MB on-die SRAM ve 12.8 TB/s iç bant genişliği, transformer katmanlarındaki GEMM çıktılarının HBM'e yazılmadan cache'de tutulmasını sağlıyor — bu, özellikle uzun context length'li LLM inference senaryolarında belirgin bir avantaj. OAM (Open Accelerator Module) form faktöründeki HL-325L kart 900W TDP ile çalışıyor ve PCIe Gen5 x16 üzerinden host bağlantısı sağlıyor.

Gaudi 2 ile Gaudi 3 Karşılaştırması

Özellik	Gaudi 2	Gaudi 3	İyileşme
FP8 Performans	0.8 PFLOPS	1.835 PFLOPS	2.3×
BF16 Performans	0.43 PFLOPS	1.835 PFLOPS	4.0×
HBM Kapasite	96 GB	128 GB	+33%
HBM Bandwidth	2.45 TB/s	3.7 TB/s	+50%
Network Bandwidth	600 GB/s	1.200 GB/s	2.0×
Process	TSMC 7nm	TSMC 5nm	—

Drop-in Replacement: Kod Değişikliği Gerekli Mi?

NVIDIA CUDA ekosisteminden gelen bir geliştiricinin en büyük endişesi genellikle yazılım portunun maliyetidir. Intel'in stratejisi burada net: PyTorch'u birinci sınıf vatandaş olarak desteklemek ve Hugging Face ile sıkı iş birliği yapmak. Sonuç olarak çoğu senaryoda yapmanız gereken tek değişiklik, cihaz tanımını "cuda"'dan "hpu"'ya çevirmek.

Önce / Sonra: PyTorch Örneği

# NVIDIA CUDA (önce)
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("meta-llama/Llama-3.1-70B")
model = model.to("cuda")  # ← sadece bu satır değişecek

# Intel Gaudi 3 (sonra)
import torch
import habana_frameworks.torch as htorch
from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("meta-llama/Llama-3.1-70B")
model = model.to("hpu")  # ← hepsi bu kadar
    

Hugging Face Trainer Örneği

# NVIDIA ile
from transformers import Trainer, TrainingArguments

training_args = TrainingArguments(output_dir="./out", ...)
trainer = Trainer(model=model, args=training_args, ...)

# Intel Gaudi 3 ile (Optimum Habana)
from optimum.habana import GaudiTrainer, GaudiTrainingArguments

training_args = GaudiTrainingArguments(
    output_dir="./out",
    use_habana=True,
    use_lazy_mode=True,
    ...
)
trainer = GaudiTrainer(model=model, args=training_args, ...)
    

✓ Pratik Sonuç

Hugging Face Transformers, Diffusers, PEFT (LoRA/QLoRA) veya TRL (RLHF/DPO) kullanan projelerin büyük çoğunluğu, import satırlarında yapılacak 2-3 değişiklikle Gaudi 3 üzerinde çalışır. Tipik bir LoRA fine-tuning pipeline'ı, 30 dakika içinde Gaudi 3'e taşınabilir.

Desteklenen Framework'ler ve Araçlar

Intel Gaudi 3 ekosistemi, production AI altyapılarında karşılaşacağınız framework'lerin büyük çoğunluğunu native olarak destekliyor:

Framework / Araç	Kullanım Alanı	Destek Durumu
PyTorch	Genel deep learning	Native
Hugging Face Transformers	NLP, LLM, Vision	Optimum Habana
Hugging Face Diffusers	Stable Diffusion, SDXL	Optimum Habana
vLLM	Production LLM serving	vLLM-fork (Intel)
TGI (Text Generation Inference)	HuggingFace inference server	TGI-Gaudi
DeepSpeed	Multi-card training, ZeRO	Native
PEFT (LoRA/QLoRA)	Parameter-efficient fine-tuning	Optimum Habana
TRL	RLHF, DPO, SFT	Optimum Habana
PyTorch Lightning	Eğitim framework'ü	Native
Ray Train / Serve	Dağıtık eğitim/serving	Native
LangChain / LlamaIndex	RAG, agent pipeline	Backend üzerinden
Custom CUDA Kernels (Triton, CUTLASS)	Özel hızlandırma	TPC-C ile yeniden yazım
bitsandbytes (4-bit/8-bit)	INT8/NF4 quantization	FP8/INT8 alternatif yolu
TensorRT-LLM	NVIDIA inference optimizer	Intel-özel araçlar kullanılır

Tak-Çalıştır Çalışan AI Modelleri

Intel ve Supermicro'nun yayınladığı benchmark sonuçlarına göre, aşağıdaki modeller Supermicro SYS-822GA-NGR3 platformunda (8x Gaudi 3) üretim düzeyinde test edilmiştir:

Large Language Models

Llama 3.1 (8B, 70B, 405B) — Inference ve fine-tuning, FP8 quantization ile
Llama 2 (7B, 13B, 70B) — Tam test edilmiş, 1.5×–2.0× Gaudi 2 performansı
Mistral 7B / Mixtral 8x7B / 8x22B — MoE mimarisi destekli
Falcon 40B / 180B — UAE TII modelleri
Qwen 2 / Qwen 2.5 — Alibaba modelleri
DeepSeek V2 / V3 — Code ve Chat varyantları
Phi-3 / Phi-4 — Microsoft compact modeller
Gemma 2 / Gemma 3 — Google open modeller

Vision & Multimodal

Stable Diffusion XL, SD 3 — Text-to-image generation
FLUX.1 — Black Forest Labs yeni nesil image gen
CLIP, BLIP, BLIP-2 — Vision-language encoder
LLaVA, LLaVA-NeXT — Multimodal LLM
ViT, Swin Transformer — Image classification
Whisper (small/medium/large-v3) — Otomatik konuşma tanıma

Klasik NLP ve Embedding

BERT, RoBERTa, DeBERTa — Classification, NER, QA
Sentence-Transformers — RAG için embedding üretimi
T5, FLAN-T5, BART — Seq2seq görevler

💡 Benchmark Notu

Supermicro'nun dahili testlerine göre, SYS-822GA-NGR3 (8x Gaudi 3, Xeon 6960P) konfigürasyonu Llama 3.1 70B (2K input / 128 output) inference'ında Gaudi 2 nesline göre yaklaşık 2× performans artışı, Llama 3.1 405B (128 in / 4K out)'te ise ~5.800 tokens/sec throughput sağlıyor. Testler Optimum Habana + FP8 dataset ile yapıldı.

Intel Gaudi 3 vs NVIDIA H100 Karşılaştırması

Yatırım kararı öncesi net bir karşılaştırma için iki platformun kritik özelliklerini yan yana koyalım:

Özellik	Intel Gaudi 3 (HL-325L)	NVIDIA H100 (SXM5)
Proses	TSMC 5nm	TSMC 4N (5nm türevi)
HBM Bellek	128 GB HBM2e	80 GB HBM3
HBM Bandwidth	3.7 TB/s	3.35 TB/s
FP8 Performans	1.835 PFLOPS	1.979 PFLOPS
BF16 Performans	1.835 PFLOPS	0.989 PFLOPS
TDP	900W (OAM)	700W (SXM5)
Scale-Out Ağ	24× 200GbE RDMA (on-chip)	NVLink 900 GB/s + harici InfiniBand
Ekosistem	Open (PyTorch, oneAPI, SynapseAI)	Kapalı (CUDA, proprietary)
Framework Desteği	PyTorch, HF, vLLM (fork), DeepSpeed	PyTorch, TensorFlow, TensorRT-LLM
Tipik Fiyat Konumu	Düşük	Premium

⚠️ Gerçekçi Bir Değerlendirme

H100, özellikle multi-node eğitim ve olgun TensorRT-LLM pipeline'larında hâlâ avantajlı. Gaudi 3'ün güçlü olduğu alan ise tek node / 8-kart inference, LoRA fine-tuning ve Ethernet tabanlı scale-out'un tercih edildiği dağıtık senaryolar. Kararınızı iş yükünüze göre verin — genel bir cevap yok.

Supermicro SYS-822GA-NGR3: 8U AI Training SuperServer

Intel Gaudi 3'ü veri merkezinizde kullanmanın en doğrudan yolu, Intel'in referans tasarımını temel alan Supermicro SYS-822GA-NGR3 platformu. Bu 8U rack sunucu, 8 adet Gaudi 3 OAM hızlandırıcıyı universal baseboard (HLB-325) üzerinde all-to-all topolojide birbirine bağlıyor ve tek kasada 1 TB HBM2e toplam bellek sunuyor.

Ön Plana Çıkan Ürün

Supermicro SuperServer SYS-822GA-NGR3

8U AI Training Platformu · 8x Intel Gaudi 3 OAM · Dual Intel Xeon 6900 serisi P-core

GPU

8× Gaudi 3 OAM HL-325L

CPU

Dual Xeon 6900 128C/256T

Bellek

6 TB DDR5 24 DIMM, 8800MT/s MRDIMM

Scale-Out

6× OSFP 800GbE on-board

Depolama

8× NVMe Gen5 + 2× M.2 NVMe

PCIe

Gen5 x16 2×FHFL + 2×x8 FHFL

Güç

8× 3000W Titanium Level (4+4)

Form Faktör

8U Rackmount 140 kg net

Ürün Sayfasını Gör Teklif İsteyin

Tipik Kullanım Senaryoları

Büyük ölçekli LLM inference servisi: Llama 3.1 70B/405B ile enterprise chatbot, RAG backend
Multi-modal LLM eğitimi: Vision + text birleşik modeller
İlaç keşfi (drug discovery): AlphaFold benzeri protein modelleri
Endüstriyel otomasyon: Vision transformer tabanlı kalite kontrol
İklim ve hava durumu modellemesi: Büyük simülasyonlar
Finansal hizmetler: Dolandırıcılık tespiti, risk modelleme

Geçiş Öncesi Dikkat Edilmesi Gereken Noktalar

Dürüst olmak gerekirse, her AI iş yükü Gaudi 3'e 1:1 taşınmıyor. Geçiş planı yaparken şu konuları değerlendirin:

Ek Uyarlama Gerektiren Durumlar

Custom CUDA kernels: Triton veya CUTLASS ile yazılmış özel kernel'ler, Gaudi'nin TPC-C diliyle yeniden yazılmalı.
bitsandbytes quantization: NF4/INT8 quantization için Gaudi'nin kendi FP8/INT8 yolları kullanılır; API farklı.
Flash Attention özel implementasyonları: Gaudi kendi optimize attention kernel'ini kullanır; genellikle transparan ama API uyumu için test edilmeli.
TensorRT-LLM bağımlı pipeline'lar: Intel'in kendi inference optimization araçlarına (Habana Collective Communications Library / HCCL, Neural Compressor) geçilir.
NCCL multi-node: NCCL yerine HCCL kullanılır; Kubernetes operatör ve Slurm entegrasyonu farklıdır.

📌 Önerimiz: Önce POC, Sonra Ölçeklendirin

GTM Teknoloji olarak kurumsal müşterilerimize önce küçük ölçekli bir Proof of Concept yapmayı öneriyoruz: Mevcut Hugging Face pipeline'ınızı tek node Gaudi 3 üzerinde çalıştırın, throughput ve TCO karşılaştırmasını yapın. Tipik bir PoC süreci 2-4 hafta sürer ve hem teknik hem finansal tarafta net sonuç verir.

Neden GTM Teknoloji?

Türkiye'de Intel Gaudi 3 tabanlı Supermicro çözümlerine geçişte GTM Teknoloji A.Ş. size uçtan uca destek sunuyor:

2009'dan beri resmi Supermicro distribütörü

NVIDIA NPN yetkili iş ortağı

Proxmox resmi partner

Türkiye'de stoklu, hızlı teslimat

Yerinde kurulum ve POC desteği

AI altyapısında uzman mühendis kadrosu

Hem NVIDIA H100/H200/B200 hem de Intel Gaudi 3 platformlarında deneyimli ekibimizle, iş yükünüze en uygun çözümü tarafsız biçimde değerlendirip öneriyoruz. SAP HANA TDI, Ceph depolama, Proxmox sanallaştırma ve AI altyapısı entegrasyonunda tek tedarikçi üzerinden bütünleşik kurumsal çözüm sağlıyoruz.

Sık Sorulan Sorular

NVIDIA CUDA için yazılmış kodları Intel Gaudi 3 üzerinde çalıştırabilir miyim?

Nvidia ve Intel, Yeni Apple AI ve HPC Geliştirme Araçlarında Hoş Karşılanmıyor..

GTM Teknoloji — Thu, 18 Jul 2024 19:30:21 +0000

Yeni Mac geliştirici araçları, Apple’ın kendi ürettiği yongalardan yararlanacak ve HPC kullanıcılarının Intel veya Nvidia’nın paralel programlama çerçevelerini kullanma yeteneklerini sınırlayacak.

Apple’ın en son programlama çerçevesi olan Xcode 16, yakın zamanda düzenlenen WWDC konferansında tanıtıldı ve programlamayı ve uygulama entegrasyonunu kolaylaştırmak için yapay zekayı kullanan bir dizi yeni özelliğe sahip.

Ancak, aynı zamanda, kodu tahmin edebilen ve tamamlayabilen Code Complete gibi özelliklerle Swift programlama diline yeni yetenekler de ekler . SwiftAssist adlı bir diğer özellik ise kodlama sorularını yanıtlar ve API’lere yardımcı olur.

Apple’ın PC’leri artık GPU’lar, CPU’lar ve AI çipleri içeren kendi geliştirdiği Apple Silicon’ı kullanıyor. Mac’ler daha önce AMD ve Nvidia’dan x86 çiplerine ve GPU’lara güveniyordu ancak artık harici GPU’ları desteklemiyor. Bu, AI uygulamaları yazmak için sınırlı ortamlar sağlayarak Mac geliştiricilerini zor durumda bırakıyor.

Apple, WWDC’de geliştiricileri, makine öğrenimi modellerini kendi geliştirdikleri CPU’lar, GPU’lar ve sinir işlemcilerinden yararlanan CoreML formatına taşımaya teşvik etti.

CoreML (Kaynak: Apple)
CoreML Tools adlı açık kaynaklı bir Python paketi, PyTorch modellerini Apple’ın AI donanımıyla çalışacak şekilde dönüştürür. Geliştiriciler ayrıca JAX, TensorFlow veya MLX’i de kullanabilir.

Intel ve Nvidia, macOS desteğiyle vakit kaybetmiyor. Intel, OneAPI paralel programlama çerçevesinin en son 2024 sürümü için macOS desteğini çekti .

Apple, WWDC’de daha geniş kapsamlı yapay zeka planlarını paylaşarak, LLM öğrencilerine Google’ın Tensör İşleme Birimi konusunda eğitim verdiğini açıkladı.

Apple ayrıca Google’ın veri merkezlerinde barındırılacak kendi Özel Hesaplama Bulutunu da kurdu. Apple, buluttaki AI için Nvidia GPU’larına güvenmeyecek çünkü AI stratejisi güç verimliliğine odaklanmış durumda ve bunun için kendi aritmetik tekniklerine sahip. Nvidia’nın GPU’ları daha fazla güç tüketen daha büyük LLM’lerde eğitim ve çıkarım çalıştırıyor.

Nvidia, AI ve HPC CUDA programlama araçları için MacOS desteğini yıllar önce sonlandırdı. Geliştiricilerin Nvidia GPU’ları için uygulamalar oluşturmak üzere Linux veya Windows’a geçmeleri gerekecek.

CUDA, AI uygulamalarının Nvidia donanımında çalışması için gerekli araçları sağlar. Apple gibi Nvidia da müşterilerini donanım ve yazılımlarına bağlamaya çalışıyor. Nvidia’nın geliştirme araçları, ücretsiz olmayan AI Enterprise adlı bir pakette paketlenmiştir.

Apple’ın GPU’ları için optimize edilmiş Metal adlı kendi oyun ve AI çerçevesi vardır. Bir avuç çok eski AMD ve Nvidia GPU’su, artık yalnızca Apple’ın dahili GPU’suna ayrılmış olan Metal’i destekler.

Ancak Mac geliştiricileri bulutta barındırılan Nvidia GPU’larıyla çalışabilecekler, ki bu günümüzde çoğunlukla böyledir. Bulut sağlayıcıları genellikle PC işletim sistemlerine herhangi bir bağ olmadan Nvidia GPU’ları için çalışma ortamları sağlar.

The post Nvidia ve Intel, Yeni Apple AI ve HPC Geliştirme Araçlarında Hoş Karşılanmıyor.. appeared first on GTM Teknoloji.

Supermicro, Intel® Xeon® 6 İşlemcilere Dayalı E-çekirdeklere ve Yakında Sıvı Soğutmalı P-çekirdek Sistemlerine Dayalı Yeni X14 AI, Raf Tipi, Çoklu Düğüm ve Uç Sunucu Ailelerini Tanıttı

GTM Teknoloji — Thu, 18 Jul 2024 15:14:53 +0000

Supermicro’nun Genişletilmiş, Kanıtlanmış Portföyü, Bulut Yerel, Depolama İçin Optimize Edilmiş ve Ölçeklenebilir İş Yüklerinde Watt Başına Maksimum Performans İçin Tasarlanmış Sistemleri ve Yapay Zeka ve HPC Ortamları İçin Hava ve Sıvı Soğutmalı Sistemleri İçerir

Yapay Zeka, Bulut, Depolama ve 5G/Edge için Toplam BT Çözüm Sağlayıcısı olan Supermicro, Inc. (NASDAQ: SMCI), E çekirdekli Intel® Xeon® 6700 serisi işlemcileri destekleyen X14 sunucu portföyünü piyasaya sürüyor ve gelecekte P çekirdekli Intel Xeon 6900 serisi işlemcilere destek sağlayacak. Birkaç nesil boyunca kanıtlanmış platformlara dayanan yeni Supermicro X14 sunucuları, Hyper, CloudDC ve WIO platformları dahil olmak üzere kurumsal, bulut hizmeti sağlayıcısı, orta sınıf ve giriş seviyesi modelleri destekleyen bir raf tipi sunucu ailesiyle başlayarak en yeni Intel Xeon 6 işlemcileri destekliyor. Ayrıca, raf başına 34.560 çekirdeğe kadar yoğunluk ve verimlilik açısından optimize edilmiş çok düğümlü sunucular, SuperBlade®, BigTwin® ve GrandTwin® bu yeni işlemciyi içerecek. Supermicro’nun Petascale depolama sistemleri ve Hyper-E ve kısa derinlikli kompakt sistemler gibi Edge ve Telco için optimize edilmiş sunucular da mevcut olacak. Gelecekte, yüksek performanslı sistemler yakında P çekirdekli Intel Xeon 6900 serisi işlemcilerle mevcut olacak. P çekirdekli Intel Xeon 6 işlemcili sistemler, AI iş yükleri için 2-3 kat* daha iyi performans ve 2,8 kat* daha yüksek bellek bant genişliği sunacak. E çekirdekli Intel Xeon 6 işlemcileri kullanan gelecekteki sistemlerin önceki nesillere göre 2,5 kat* daha yüksek raf yoğunluğu ve watt başına 2,4 kat* performans iyileştirmesi sunması bekleniyor; bu da bir veri merkezinin PUE’sinin 1,05 kadar düşük bir seviyeye düşmesiyle sonuçlanacak.

“Supermicro, veri merkezi ölçeğinde sıvı soğutma dahil olmak üzere ölçekte iş yüküne göre optimize edilmiş çözümler tasarlama, oluşturma ve sunma konusunda sektör lideridir. Yeni X14 sunucular müşterilerimize daha da fazla esneklik ve özelleştirme seçenekleri sunacak,” dedi Supermicro’nun başkanı ve CEO’su Charles Liang. “Supermicro X14 ürün aileleri, şimdiye kadar tasarladığımız en güçlü ve esnek sistemlerimizdir ve veri merkezinden uç noktaya kadar çok çeşitli uygulamalar için optimize edilmiştir. Gelecekte veri merkezlerinin %20’sinin sıvı soğutmaya ihtiyaç duyacağını görüyoruz ve Supermicro, soğuk plakalardan soğutma kulelerine kadar eksiksiz bir çözüm sunmak için benzersiz bir konumdadır.”

Daha yüksek verimlilik ve daha düşük TCO için Supermicro, CPU ve GPU soğuk plakaları, soğutma dağıtım ünitesi, manifold, borular ve soğutma kulesi dahil olmak üzere her türlü dağıtıma eklenebilen sıvı soğutma çözümleri sunar; tüm bileşenler eksiksiz bir çözüm için şirket içinde geliştirilir ve üretilir.

E-çekirdeklere sahip yeni Intel Xeon 6 işlemciler, çekirdek başına tek bir iş parçacığına sahiptir. Daha az güç kullanarak aynı anda daha fazla eş zamanlı örneği çalıştırmak için daha önemli sayıda enerji tasarruflu çekirdekten yararlanan iş yükleri için optimize edilmiştir; örneğin bulut tabanlı CDN’ler, ağ mikro hizmetleri, Kubernetes gibi bulut tabanlı uygulamalar, uygulama DevOps’u, yapılandırılmamış veritabanları ve ölçeklenebilir analizler.

Yeni Intel Xeon 6 işlemcilerle desteklenen Supermicro X14 sistemleri, E-core ve P-core varyantları arasında pin uyumluluğuna sahiptir. Mevcut ve gelecekteki Supermicro sistemleri, düğüm başına 576 çekirdek, 8800 MT/s’ye kadar DDR5-6400 ve MCR DIMM’ler, CXL 2.0, daha geniş E1.S ve E3.S desteği ve 400G’ye kadar ağ özelliğine sahip olacaktır. Yeni Intel Xeon 6 işlemciler, önceki nesil Intel Xeon işlemcilerin yükseltilmiş bir versiyonu olan 6700 serisinde ve performansı en üst düzeye çıkarmak için yepyeni bir işlemci sınıfı olan 6900 serisinde mevcut olacaktır. Intel Xeon 6900 serisi işlemciler daha fazla çekirdek, daha yüksek TDP, artırılmış bellek kanalları ve MCR DIMM desteği sunacaktır. Supermicro X14 platformu aynı zamanda büyük bulut servis sağlayıcıları ve hiper ölçekleyiciler için karmaşıklığı azaltan ve bakımı basitleştiren OCP Veri Merkezi Modüler Donanım Sistemini (DC-MHS) destekleyen ilk Supermicro platformudur.

“Intel, ‘5 yılda 4 düğüm’ sunma yol haritasını yürütüyor ve Xeon 6 ile bulut tabanlı ve ölçeklenebilir iş yükleri için ilk kurumsal sınıf Verimli çekirdek ürünlerimiz de dahil olmak üzere devrim niteliğinde yeni işlemci özellikleri sunuyoruz,” diyor Intel’de Xeon 6 E-Core Ürünleri Başkan Yardımcısı ve Genel Müdürü Ryan Tabrah. “Bu yeni işlemciler, Supermicro gibi ortaklarımızın her zamankinden daha yoğun ve daha verimli yeni Xeon sistemleri geliştirmesini sağlayarak müşterilerin TCO’yu düşürürken iş hedeflerine ulaşmalarına yardımcı oluyor.”

Supermicro’nun X14 sistemleri portföyü performans açısından optimize edilmiş ve enerji açısından verimlidir, iyileştirilmiş yönetilebilirlik ve güvenlik içerir, açık endüstri standartlarını destekler ve raf ölçeğinde optimize edilmiştir. 1.350 sıvı soğutmalı raf dahil olmak üzere ayda 5.000 raflık küresel üretim kapasitesiyle Supermicro’nun uzman mühendisleri, sektör lideri pazara sunma süresiyle eksiksiz sistemler tasarlayabilir, oluşturabilir, doğrulayabilir ve teslim edebilir.

Bugün E-çekirdeklere sahip Intel Xeon 6700 serisi işlemcilerle piyasaya sürülüyor:

SuperBlade® – Supermicro’nun AI, Veri Analitiği, HPC, Bulut ve Kurumsal iş yükleri için optimize edilmiş yüksek performanslı, yoğunluk açısından optimize edilmiş ve enerji açısından verimli çok düğümlü platformu. Bu yeni blade sistemleriyle, bir raf 34.560’a kadar Xeon işlem çekirdeğine sahip olabilir.

Hyper – Ölçeklenebilir bulut iş yükleri için tasarlanmış, depolama ve G/Ç esnekliğiyle çok çeşitli uygulama ihtiyaçlarına özel uyum sağlayan amiral gemisi performanslı raf tipi sunucular.

CloudDC – Esnek G/Ç ve depolama yapılandırmaları ve maksimum veri çıkışı için çift AIOM yuvası (PCIe 5.0; OCP 3.0 uyumlu) ile OCP Veri Merkezi Modüler Donanım Sistemi’ne (DC-MHS) dayalı bulut veri merkezleri için hepsi bir arada platform.

WIO – Belirli kurumsal gereksinimler için gerçekten optimize edilmiş sistemler sunmak amacıyla uygun maliyetli bir mimaride esnek G/Ç yapılandırmaları sunar.

BigTwin® – Düğüm başına çift işlemci ve sıcak değiştirilebilir araçsız tasarımla üstün yoğunluk, performans ve servis kolaylığı sağlayan 2U 2-Node veya 2U 4-Node platformu. Bu sistemler, üstün yoğunluk ve verim için E3.S sürücü desteği de dahil olmak üzere yeni modellerle bulut, depolama ve medya iş yükleri için idealdir.

GrandTwin® – Tek işlemci performansı ve bellek yoğunluğu için özel olarak üretilmiş, ön (soğuk koridor) sıcak değiştirilebilir düğümler ve daha kolay servis edilebilirlik için ön veya arka G/Ç özelliğine sahiptir. Artık daha iyi depolama yoğunluğu ve verimi için E1.S sürücülerle birlikte mevcuttur.

Hyper-E – Edge ortamlarında dağıtım için optimize edilmiş amiral gemisi Hyper ailemizin gücünü ve esnekliğini sunar. Edge dostu özellikler arasında kısa derinlikli bir şasi ve ön G/Ç bulunur ve Hyper-E’yi edge veri merkezleri ve telekomünikasyon dolapları için uygun hale getirir. Bu kısa derinlikli sistemler 3’e kadar yüksek performanslı GPU veya FPGA kartını destekler.

Edge/Telco – Telekom kabini ve Edge veri merkezi kurulumu için optimize edilmiş kompakt form faktörlerinde yüksek yoğunluklu işlem gücü. İsteğe bağlı DC güç yapılandırmaları ve 55° C’ye (131° F) kadar geliştirilmiş çalışma sıcaklıkları.

Petascale Depolama – EDSFF E1.S ve E3.S sürücülerle sektör lideri depolama yoğunluğu ve performansı, tek bir 1U veya 2U şaside benzeri görülmemiş kapasite ve performans sağlar.

Yakında çıkacak olan P çekirdekli Intel Xeon 6 6900 serisi işlemcilerle:

PCIe GPU’lu GPU Sunucuları – Çarpıcı performans kazanımları ve maliyet tasarrufları sağlamak için gelişmiş hızlandırıcıları destekleyen sistemler. Bu sistemler HPC, AI eğitimi, işleme ve VDI iş yükleri için tasarlanmıştır.

Evrensel GPU Sunucuları – Bunlar büyük ölçekli AI eğitimi ve büyük dil modelleri için en güçlü sunuculardır. En son PCIe, OAM ve NVIDIA SXM teknolojileri dahil olmak üzere GPU seçenekleriyle üstün performans ve servis kolaylığı sağlayan açık, modüler, standartlara dayalı sunucular.

Yeni Çok Düğümlü Sunucular – HPC, veri merkezi, finansal hizmetler, üretim ve bilimsel araştırma uygulamaları için optimize edilmiş yüksek yoğunluklu 2U4N sistemleri. Önden erişilebilir servis tasarımı, esnek G/Ç ve sürücü yapılandırmalarıyla soğuk koridor servis edilebilirliğine olanak tanır.

^*^4. Nesil Intel Xeon Ölçeklenebilir İşlemcilerle Karşılaştırıldığında . 21 Ağustos 2023 itibarıyla önceki nesle göre mimari projeksiyonlara dayanmaktadır. Sonuçlarınız değişebilir.

Supermicro Sunucu çözümleriyle ilgili Türkiye yetkili distribütörü GTM Teknoloji’yle iletişime geçebilirsiniz.

info@gtmteknoloji.com

The post Supermicro, Intel® Xeon® 6 İşlemcilere Dayalı E-çekirdeklere ve Yakında Sıvı Soğutmalı P-çekirdek Sistemlerine Dayalı Yeni X14 AI, Raf Tipi, Çoklu Düğüm ve Uç Sunucu Ailelerini Tanıttı appeared first on GTM Teknoloji.

Supermicro, NVIDIA Blackwell ve NVIDIA HGX H100/H200 için Raf Ölçekli Tak ve Çalıştır Sıvı Soğutmalı AI Süper Kümelerini Tanıttı – Yapay Zeka Çağında Sıvı Soğutmayı Bonusla Ücretsiz Hale Getiren Radikal Yenilikler

GTM Teknoloji — Thu, 18 Jul 2024 15:09:53 +0000

San Jose, Kaliforniya, Taipei, Tayvan — 5 Haziran 2024 – Yapay Zeka, Bulut, Depolama ve 5G/Uç için Toplam BT Çözüm Sağlayıcısı olan Supermicro, Inc. (NASDAQ: SMCI) , NVIDIA AI Enterprise yazılım platformu için optimize edilmiş, SuperCluster’ları ile sektörler genelindeki işletmeler için üretken AI benimsenmesini hızlandıran bulut tabanlı çözümler için tasarlanmış, kullanıma hazır sıvı soğutmalı bir AI veri merkezi sunuyor . NVIDIA yakın zamanda tanıttığı Blackwell GPU’lar, tek bir GPU’da 20 PetaFLOPS’u tamamen ortaya çıkarabiliyor ve önceki GPU’lara göre 4 kat daha iyi yapay zeka eğitimi ve 30 kat daha iyi çıkarım performansı sunabiliyor ve ek maliyet tasarrufları sağlıyor. Piyasaya ilk sunma stratejisi doğrultusunda Supermicro, yakın zamanda yeni NVIDIA HGX ^TM B100, B200 ve GB200 Grace Blackwell Superchip için NVIDIA Blackwell mimarisi tabanlı ürünlerden oluşan eksiksiz bir ürün yelpazesi duyurdu .

“Supermicro, raf ölçeğinde sıvı soğutmalı AI çözümleri oluşturma ve dağıtma konusunda sektöre öncülük etmeye devam ediyor,” diyor Supermicro’nun başkanı ve CEO’su Charles Liang. “Sıvı soğutmalı veri merkezleri neredeyse ücretsiz olabilir ve elektrik kullanımındaki devam eden azalma ile müşteriler için bir bonus değer sağlayabilir. Çözümlerimiz, endüstrilerdeki müşteriler için NVIDIA AI Enterprise yazılımı ile optimize edilmiştir ve dünya standartlarında verimlilikle küresel üretim kapasitesi sunuyoruz. Sonuç olarak, NVIDIA HGX H100 ve H200 ile sıvı soğutmalı veya hava soğutmalı anahtar teslimi kümelerimizin teslimat süresini ve ayrıca yaklaşan B100, B200 ve GB200 çözümlerini azaltabiliyoruz. Soğuk plakalardan CDU’lara ve soğutma kulelerine kadar, raf ölçeğindeki toplam sıvı soğutma çözümlerimiz devam eden veri merkezi güç kullanımını %40’a kadar azaltabilir.”

COMPUTEX 2024’te Supermicro, NVIDIA Blackwell GPU için optimize edilmiş, 10U hava soğutmalı ve 4U sıvı soğutmalı NVIDIA HGX B200 tabanlı sistem dahil olmak üzere yaklaşan sistemlerini tanıtıyor. Ayrıca Supermicro, NVIDIA NVLink Anahtarları ile 72 birbirine bağlı GPU içeren 8U hava soğutmalı NVIDIA HGX B100 sistemi ve Supermicro’nun NVIDIA GB200 NVL72 rafını ve NVIDIA H200 NVL PCIe GPU’larını ve yeni duyurulan NVIDIA GB200 NVL2 mimarisini destekleyen yeni NVIDIA MGX™ sistemlerini sunacak.

NVIDIA’nın kurucusu ve CEO’su Jensen Huang, “Üretken AI, tüm bilgi işlem yığınının sıfırlanmasını sağlıyor; yeni veri merkezleri GPU hızlandırmalı olacak ve AI için optimize edilecek,” dedi. “Supermicro, trilyon dolarlık küresel veri merkezlerinin AI çağına göre optimize edilmesini sağlayan, NVIDIA hızlandırmalı son teknoloji bilgi işlem ve ağ çözümleri tasarladı.”

Büyük dil modellerinin hızlı gelişimi ve Meta’nın Llama-3 ve Mistral’in Mixtral 8x22B gibi açık kaynaklı modellerin sürekli olarak yeni tanıtılması, günümüzün en son teknoloji AI modellerini işletmeler için daha erişilebilir hale getiriyor. AI altyapısını basitleştirme ve erişilebilirliği en uygun maliyetli şekilde sağlama ihtiyacı, AI devriminin mevcut baş döndürücü hızını desteklemek için son derece önemlidir. Supermicro bulut tabanlı AI SuperCluster, NVIDIA AI Enterprise’ı kullanarak anında erişim ve taşınabilirlik bulut kolaylığı arasındaki boşluğu kapatır ve AI projelerinin pilot uygulamadan üretime sorunsuz bir şekilde her ölçekte taşınmasına olanak tanır. Bu, kendi kendine barındırılan sistemler veya şirket içi büyük veri merkezleri dahil olmak üzere güvenli bir şekilde yönetilen verilerle her yerde çalışma esnekliği sağlar.

Sektörlerdeki işletmelerin üretken AI kullanım durumlarını hızla denemesiyle Supermicro, deneylerden ve AI uygulamalarının pilot uygulamasından üretim dağıtımına ve büyük ölçekli veri merkezi AI’sına sorunsuz ve esnek bir geçiş sağlamak için NVIDIA ile yakın bir şekilde iş birliği yapmaktadır. Bu sonuç, NVIDIA AI Enterprise yazılım platformuyla raf ve küme düzeyinde optimizasyon yoluyla elde edilir ve ilk keşiften ölçeklenebilir AI uygulamasına kadar sorunsuz bir yolculuk sağlar.

Yönetilen hizmetler altyapı seçimlerini, veri paylaşımını ve üretken AI stratejisi kontrolünü tehlikeye atar. NVIDIA AI Enterprise’ın bir parçası olan NVIDIA NIM mikro hizmetleri, dezavantajlar olmadan yönetilen üretken AI ve açık kaynaklı dağıtım avantajları sunar. Mikro hizmetlerle çok yönlü çıkarım çalışma zamanı, açık kaynaklıdan NVIDIA’nın temel modellerine kadar çok çeşitli modellerde üretken AI dağıtımını hızlandırır. Ayrıca NVIDIA NeMoTM, kurumsal düzeyde çözümler için veri düzenleme, gelişmiş özelleştirme ve geri alma ile artırılmış üretim (RAG) ile özel model geliştirmeye olanak tanır. NVIDIA NIM, Supermicro’nun NVIDIA AI Enterprise’a hazır Süper Kümeleri ile birleştirildiğinde, ölçeklenebilir, hızlandırılmış Üretken AI üretim dağıtımlarına giden en hızlı yolu sağlar.

Supermicro’nun mevcut jeneratif AI SuperCluster ürünleri şunlardır:

5 rafta (1 özel ağ rafı dahil) ölçeklenebilir bir hesaplama birimi olarak 256 H100/H200 GPU’lu sıvı soğutmalı Supermicro NVIDIA HGX H100/H200 SuperCluster
9 rafta (1 özel ağ rafı dahil) ölçeklenebilir bir hesaplama birimi olarak 256 HGX H100/H200 GPU’lu hava soğutmalı Supermicro NVIDIA HGX H100/H200 SuperCluster
9 rafta (1 özel ağ rafı dahil) ölçeklenebilir bir hesaplama birimi olarak 256 GH200 GraceTM Hopper Süperçip’li Supermicro NVIDIA MGX GH200 SuperCluster

Supermicro SuperCluster’lar, uçtan uca üretken AI özelleştirmesi için NVIDIA NIM mikro hizmetleri ve NVIDIA NeMo platformu ile NVIDIA AI Enterprise’a hazırdır ve NVIDIA Quantum-2 InfiniBand’in yanı sıra GPU başına 400 Gb/s ağ hızına sahip yeni NVIDIA Spectrum-X Ethernet platformu için on binlerce GPU’ya sahip büyük bir kümeye ölçeklenebilirlik için optimize edilmiştir.

Supermicro’nun yakında sunacağı SuperCluster ürünleri şunlardır:

Supermicro NVIDIA HGX B200 SuperCluster , sıvı soğutmalı
Supermicro NVIDIA HGX B100/B200 SuperCluster , hava soğutmalı
Supermicro NVIDIA GB200 NVL72 veya NVL36 SuperCluster , sıvı soğutmalı

Supermicro’nun SuperCluster çözümleri LLM eğitimi, derin öğrenme ve yüksek hacimli ve toplu boyut çıkarımı için optimize edilmiştir. Supermicro’nun L11 ve L12 doğrulama testi ve yerinde dağıtım hizmeti müşterilere kusursuz bir deneyim sunar. Müşteriler, bir veri merkezinde kolay dağıtım ve sonuçlara daha hızlı ulaşma için tak ve çalıştır ölçeklenebilir birimler alırlar.

Supermicro çözümleriyle ilgili Türkiye Yetkili satıcısı ve katma değerli distribütörü GTM Teknoloji ile iletişime geçin.

info@gtmteknoloji.com

The post Supermicro, NVIDIA Blackwell ve NVIDIA HGX H100/H200 için Raf Ölçekli Tak ve Çalıştır Sıvı Soğutmalı AI Süper Kümelerini Tanıttı – Yapay Zeka Çağında Sıvı Soğutmayı Bonusla Ücretsiz Hale Getiren Radikal Yenilikler appeared first on GTM Teknoloji.

Supermicro, Yapay Zeka ve Kurumsal Raf Ölçekli Sıvı Soğutmalı Çözümlerin Büyümesini Desteklemek İçin Silikon Vadisi’nde ve Dünya Genelinde 3 Yeni Üretim Tesisi Ekliyor

GTM Teknoloji — Thu, 18 Jul 2024 14:58:30 +0000

San Jose, Kaliforniya, 17 Haziran 2024 – Yapay Zeka, Bulut, Depolama ve 5G/Uç için Toplam BT Çözümü Sağlayıcısı olan Supermicro, Inc. (NASDAQ: SMCI), sıvı soğutmalı veri merkezlerine olan talep arttıkça yeni kampüslerle Silikon Vadisi’nde büyümeye devam ediyor. Yeni tesisler, dünya çapındaki müşterilere teslimat için gereken süreyi azaltan yeni sıvı soğutmalı ekosistemin bir parçası olacak. Bu yeni tesisler, sistemlerden raflara ve su kulelerine kadar tüm tak ve çalıştır sıvı soğutmalı çözümleri sunmaya odaklanacak. Yapay Zeka fabrikaları daha yaygın hale geldikçe, sıvı soğutmalı veri merkezleri, yapay zeka odaklı iş yüklerine yönelik bu artan müşteri taleplerini karşılamak için kritik öneme sahip. Sıvı soğutmalı veri merkezleri, watt başına yapay zeka hesaplama performansı miktarını artırarak veri merkezi başına daha fazla performans sağlıyor. Ayrıca, elektrik tüketimi ve çevresel etki azalıyor ve operasyonel giderler geleneksel hava soğutmalı veri merkezlerine kıyasla %40’a kadar daha düşük olabiliyor.

“Supermicro, sıvı soğutmalı teknolojilerden faydalanan en yüksek performanslı üretken derin öğrenme ve çıkarım yapay zeka platformuna ve kümelerine sahiptir,” dedi Supermicro’nun başkanı ve CEO’su Charles Liang. “Birçok veri merkezi sahibi elektrik tasarrufu sağlayan Doğrudan Sıvı Soğutmalı çözümler arıyor. Supermicro, yapay zeka fabrikaları ve HPC pazarı için yapı taşı sıvı soğutmalı çözümler geliştiriyor. Sıvı soğutmalı veri merkezlerinin tarihsel olarak %1’den az bir orandan beklenen %15’e ve önümüzdeki iki yıl içinde tüm veri merkezi kurulumlarının %30’una kadar büyümesini öngörüyoruz. Bu genişleme, bu büyümenin çoğunluğunu ele geçirmemizi sağlayacak bir konuma getiriyor. Yeni veri merkezleri daha verimli çalışacak, karbon ayak izlerini azaltacak ve zamanla daha düşük elektrik kullanımıyla önemli operasyonel tasarruflar elde edilen hava soğutmalı veri merkezlerine kıyasla neredeyse ücretsiz olabilecek.”

Supermicro, her kuruluş ve bulut hizmeti sağlayıcısı için benzersiz olan zorlu iş yüklerine uygun doğru sunucu teknolojisini eşleştirmek için veri merkezi operatörleriyle yakın bir şekilde çalışmaya devam ediyor. Bu uygulamaya yönelik optimize edilmiş sunucuların çoğu, veri merkezinin genel operasyonel maliyetini düşüren sıvı soğutmalı olarak tasarlanmıştır.

Birçok müşterinin veri merkezlerinin içindeki sıvıları idare etme konusunda sınırlı deneyimi vardır ve bu da satıcıların kurulum ve kabul testlerini, gelecekteki bakım ve garanti hizmetiyle birlikte gerçekleştirmesini gerektirir. Yerinde destek kritik öneme sahiptir ve Supermicro’nun servis organizasyonu sıvı soğutma dağıtımları konusunda oldukça eğitimlidir.

Supermicro’nun Yapı Taşı sıvı soğutma çözümleri hakkında daha fazla bilgi edinmek için buraya tıklayın

“Supermicro’nun San Jose’de genişlemesinden ve veri merkezlerinin etkisini azaltma yolunda öncü olmasından heyecan duyuyoruz,” dedi San Jose, CA Belediye Başkanı Matt Mahan. “Supermicro, hem teknoloji hem de sürdürülebilirliğin sınırlarını zorlamaya devam eden bir şirket olarak Silikon Vadisi’nin en iyisini temsil ediyor.”

Toplam çözüm sağlayıcısı olarak Supermicro, verimli ve optimize edilmiş bir sıvı soğutmalı çözüm için gereken tüm bileşenleri sağlar. Supermicro tarafından optimize edilmiş soğuk plakalardan soğutma dağıtım manifoldlarına (CDM’ler), yedek soğutma dağıtım ünitelerine (CDU’lar) ve hatta harici soğutma kulesine kadar, uçtan uca çözümün tamamı Supermicro mühendisleri tarafından tasarlanır ve test edilir, bu da daha yüksek kaliteli bir çözümle sonuçlanır ve kuruluşların daha erken üretken olmasını sağlar.

Birçok Supermicro sunucusu, çok yüksek yoğunluklu 4U-8GPU sistemleri, Intel CPU tabanlı SYS-421GE-TNHR2-LCC veya AMD CPU tabanlı AS -4125GS-TNHR2-LCC gibi yapay zeka işleme için yüksek performanslı NVIDIA GPU’ları için açıkça tasarlanmıştır. Ayrıca, popüler 8U-8GPU sistemleri gibi birçok Supermicro sunucusu, Grace Hopper Superchip’i içeren NVIDIA tabanlı 1U ARS-111GL-NHR-LCC gibi sıvı soğutmaya hazırdır . Sıvı soğutmalı sunucular arasında, günümüzde mevcut olan en yüksek CPU ve GPU hesaplama yoğunluğunu sağlayan 8U-20 düğümlü SuperBlade® bulunur. 2U-4 düğümlü Supermicro BigTwin® ve 4U-8 düğümlü FatTwin® çok düğümlü sunucular, sıvı soğutma için optimize edilmiştir ve günümüzde yüksek hacimli üretimdedir.

Supermicro Sıvı Soğutmalı Çözümler için Türkiye distribütörü GTM Teknoloji ile iletişime geçebilirsiniz.

info@gtmteknoloji.com

The post Supermicro, Yapay Zeka ve Kurumsal Raf Ölçekli Sıvı Soğutmalı Çözümlerin Büyümesini Desteklemek İçin Silikon Vadisi’nde ve Dünya Genelinde 3 Yeni Üretim Tesisi Ekliyor appeared first on GTM Teknoloji.

Jensen Huang ve Mark Zuckerberg, SIGGRAPH 2024’te Grafiklerin ve Sanal Dünyaların Geleceğini Tartışacak

Serkan — Thu, 18 Jul 2024 14:50:46 +0000

NVIDIA kurucusu ve CEO’su Jensen Huang ile Meta kurucusu ve CEO’su Mark Zuckerberg, 29 Temmuz Pazartesi günü Denver’da düzenlenecek 50. SIGGRAPH grafik konferansında halka açık bir sohbet gerçekleştirecek .

İki lider, yapay zeka ve simülasyonun geleceğini ve grafik ile teknolojinin kesiştiği noktaya odaklanan SIGGRAPH’ta araştırmanın oynadığı önemli rolü ele alacak.

Huang, tartışmadan önce WIRED kıdemli yazarı Lauren Goode ile yeni bilişim devrimi için yapay zeka ve grafikleri ele almak üzere bir sohbette yer alacak .

Her iki sohbete de NVIDIA.com adresinden canlı olarak ve tekrar olarak ulaşılabilecek .

28 Temmuz-1 Ağustos tarihleri arasında gerçekleşecek konferanstaki katılımlar, SIGGRAPH’ın teknolojik inovasyondaki devam eden rolünü vurguluyor. Yaklaşık 100 katılımcı, grafiklerin geleceğe nasıl adım attığını sergileyecek.

SIGGRAPH İnovasyon Bölgesi’ni ziyaret eden katılımcılar, bilişim ve grafik alanında öncü girişimlerle karşılaşacak ve Huang gibi sektör liderlerinin görüşleri teknolojik ufuklara dair ipuçları sunacak.

Konferansın 1974 yılında Colorado, Boulder’da başlamasından bu yana SIGGRAPH yeniliğin ön saflarında yer aldı.

Dünyayı, Google Street View’ın on yıllar öncesindeki öncüsü olan “Aspen Film Haritası” gibi demolarla tanıştırdı ve animasyon sanatını yeniden tanımlayan Pixar’ın Luxo Jr. filminin ilk gösterimlerinden birini gerçekleştirdi.

Konferans, bilgisayar grafikleri alanında çığır açan araştırmalar için önde gelen mekan olmaya devam ediyor .

Ed Catmull’un 1974 tarihli doku haritalama üzerine makalesi, Turner Whitted’ın 1980 tarihli ışın izleme teknikleri üzerine makalesi ve James T. Kajiya’nın 1986 tarihli “The Rendering Equation” adlı eseri gibi modern görsel kültürü yeniden tanımlayan yayınlar ilk kez SIGGRAPH’ta görücüye çıktı.

Bu tür yenilikler artık dünya çapındaki endüstrilere yayılıyor.

İnovasyon Bölgesi’nde bir düzineden fazla girişim, grafik tabanlı gelişmeleri robotikten üretime, otonom araçlardan iklim bilimi de dahil olmak üzere bilimsel araştırmalara kadar çeşitli alanlara nasıl taşıdıklarını sergiliyor .

Öne çıkanlar arasında NVIDIA Earth-2’yi kullanarak hassas hava durumu bilgileri sağlayan ve kuruluşların iklim değişikliklerine uyum sağlamasına yardımcı olmak için erken uyarı sistemleri sunan Tomorrow.io yer alıyor .

Looking Glass, başlıklar olmadan 3D içerik deneyimleri sağlayan öncü holografik teknolojidir. Şirket, bunu mümkün kılmak için gerçek zamanlı ses, video ve artırılmış gerçeklik efektlerini geliştirmek amacıyla NVIDIA RTX 6000 Ada Generation GPU’ları ve NVIDIA Maxine teknolojisini kullanıyor.

Üretim girişimi nTop, NVIDIA GPU destekli imzalı mesafe alanlarını kullanarak bilgisayar destekli bir tasarım aracı geliştirdi. Araç, tasarım ve simülasyon platformları arasında gerçek zamanlı, yüksek doğrulukta görselleştirme ve iş birliğini etkinleştirmek için NVIDIA OptiX işleme motorunu ve iki yönlü bir NVIDIA Omniverse LiveLink bağlayıcısını kullanır.

Konferans katılımcıları ayrıca görsel bilişimde köklü bir yere sahip olan üretken yapay zekanın profesyonel grafikleri nasıl yeniden şekillendirdiğini de keşfedebilecekler .

31 Temmuz’da sektör liderleri ve geliştiriciler, Colorado Kongre Merkezi’nin 607 numaralı odasında Generative AI Günü için bir araya gelerek Bria AI, Cuebric, Getty Images, Replikant, Shutterstock ve diğer sektörlerden liderlerle görsel efektler, animasyon ve oyun geliştirme için son teknoloji çözümleri keşfedecek.

Konferansın konuşmacı kadrosu da aynı derecede ilgi çekici.

Huang ve Zuckerberg’in yanı sıra, MIT Medya Laboratuvarı’ndan Dava Newman ve Soul Machines’den Mark Sagar da biyomühendislik, tasarım ve dijital insanların kesişim noktalarını ele alacak önemli sunumcular arasında yer alacak.

Son olarak, SIGGRAPH’ın zengin mirasının bir parçası olarak, NVIDIA’da profesyonel grafiklerden sorumlu başkan yardımcısı Steven Parker’ın anısını ve katkılarını onurlandırmak için ilk Steven Parker Ödülü sunulacak. Etkileşimli ışın izleme ve bilgisayar grafikleri alanındaki öncü çalışmalarıyla tanınan Parker, alana ilham vermeye devam eden bir miras bıraktı.

Bu ayın sonlarında Denver’da düzenlenecek küresel teknoloji topluluğuna katılarak SIGGRAPH’ın teknolojinin geleceğini gösterme, tahmin etme ve şekillendirme konusunda neden ön saflarda yer almaya devam ettiğini keşfedin.

The post Jensen Huang ve Mark Zuckerberg, SIGGRAPH 2024’te Grafiklerin ve Sanal Dünyaların Geleceğini Tartışacak appeared first on GTM Teknoloji.

Mistral AI ve NVIDIA, Son Teknoloji Kurumsal AI Modeli Mistral NeMo 12B’yi Tanıttı

Serkan — Thu, 18 Jul 2024 14:42:49 +0000

Mistral AI ve NVIDIA, Son Teknoloji Kurumsal AI Modeli Mistral NeMo 12B’yi Tanıttı

Mistral NeMo’nun yüksek doğrulukta içerikleri işleyip üretme becerisi, şirketler için yeni fırsatlar yaratıyor.

Mistral AI ve NVIDIA bugün , geliştiricilerin sohbet robotlarını, çok dilli görevleri, kodlamayı ve özetlemeyi destekleyen kurumsal uygulamalar için kolayca özelleştirip dağıtabilecekleri yeni bir son teknoloji dil modeli olan Mistral NeMo 12B’yi yayınladı.

Mistral AI’nın eğitim verilerindeki uzmanlığını NVIDIA’nın optimize edilmiş donanım ve yazılım ekosistemiyle birleştiren Mistral NeMo modeli, farklı uygulamalar için yüksek performans sunuyor.

Mistral AI’nın kurucu ortağı ve baş bilim insanı Guillaume Lample, “NVIDIA ekibiyle iş birliği yaparak en üst düzey donanım ve yazılımlarından yararlandığımız için şanslıyız” dedi. “Birlikte, NVIDIA AI Enterprise dağıtımı sayesinde benzeri görülmemiş doğruluk, esneklik, yüksek verimlilik ve kurumsal düzeyde destek ve güvenlik sağlayan bir model geliştirdik.”

Mistral NeMo , en son NVIDIA mimarisine özel, ölçeklenebilir erişim sunan NVIDIA DGX Cloud AI platformunda eğitim aldı .

Süreci ilerletmek ve optimize etmek için, büyük dil modelleri üzerinde hızlandırılmış çıkarım performansı sağlayan NVIDIA TensorRT-LLM ve özel üretken yapay zeka modelleri oluşturmak için NVIDIA NeMo geliştirme platformu da kullanıldı.

Bu iş birliği NVIDIA’nın model oluşturma ekosistemini destekleme konusundaki kararlılığını vurguluyor.

Benzersiz Doğruluk, Esneklik ve Verimlilik Sunuyoruz

Çok yönlü konuşmalar, matematik, sağduyulu muhakeme, dünya bilgisi ve kodlamada mükemmel olan bu kurumsal düzeydeki yapay zeka modeli, çeşitli görevlerde hassas ve güvenilir performans sunar.

128K bağlam uzunluğuyla Mistral NeMo, kapsamlı ve karmaşık bilgileri daha tutarlı ve doğru bir şekilde işleyerek bağlamsal olarak alakalı çıktılar sağlar.

Yeniliği teşvik eden ve daha geniş AI topluluğunu destekleyen Apache 2.0 lisansı altında yayınlanan Mistral NeMo, 12 milyar parametreli bir modeldir. Ayrıca, model, bellek boyutunu azaltan ve doğrulukta herhangi bir bozulma olmadan dağıtımı hızlandıran model çıkarımı için FP8 veri biçimini kullanır.

Bu, modelin görevleri daha iyi öğrendiği ve çeşitli senaryoları daha etkili bir şekilde ele aldığı anlamına gelir; bu da onu kurumsal kullanım durumları için ideal hale getirir.

Mistral NeMo , NVIDIA TensorRT-LLM motorlarıyla performans açısından optimize edilmiş çıkarımlar sunan bir NVIDIA NIM çıkarım mikro servisi olarak paketlenmiştir .

Bu konteynerleştirilmiş format, her yere kolayca dağıtım imkânı sunarak çeşitli uygulamalar için gelişmiş esneklik sağlar.

Sonuç olarak, modeller birkaç gün yerine dakikalar içinde her yere dağıtılabiliyor.

NIM, NVIDIA AI Enterprise’ın bir parçası olan kurumsal düzeyde yazılım , özel özellik dalları, titiz doğrulama süreçleri ve kurumsal düzeyde güvenlik ve destek sunar.

Kapsamlı destek, NVIDIA AI uzmanına doğrudan erişim ve tanımlanmış hizmet seviyesi anlaşmaları ile güvenilir ve tutarlı performans sunar.

Açık model lisansı, işletmelerin Mistral NeMo’yu ticari uygulamalara sorunsuz bir şekilde entegre etmelerine olanak tanır.

Tek bir NVIDIA L40S, NVIDIA GeForce RTX 4090 veya NVIDIA RTX 4500 GPU’nun belleğine sığacak şekilde tasarlanan Mistral NeMo NIM, yüksek verimlilik, düşük hesaplama maliyeti ve gelişmiş güvenlik ve gizlilik sunuyor.

Gelişmiş Model Geliştirme ve Özelleştirme

Mistral AI ve NVIDIA mühendislerinin bir araya gelerek geliştirdiği uzmanlık, Mistral NeMo için eğitimi ve çıkarımı optimize etti.

Özellikle çok dillilik, kod ve çok turlu içerik konularında Mistral AI’nın uzmanlığından yararlanılarak eğitilen model, NVIDIA’nın tüm yığınında hızlandırılmış eğitimden faydalanıyor.

Megatron-LM ile verimli model paralellik teknikleri, ölçeklenebilirlik ve karma hassasiyetin kullanılmasıyla optimum performans için tasarlanmıştır.

Model, NVIDIA NeMo’nun bir parçası olan Megatron-LM kullanılarak , hızlandırılmış hesaplama, ağ yapısı ve eğitim verimliliğini artırmaya yönelik yazılımlar içeren NVIDIA AI mimarisinden oluşan DGX Cloud üzerinde 3.072 adet H100 80GB Tensor Core GPU ile eğitildi .

Kullanılabilirlik ve Dağıtım

Bulut, veri merkezi veya RTX iş istasyonu gibi her yerde çalışabilme esnekliğine sahip Mistral NeMo, çeşitli platformlardaki yapay zeka uygulamalarında devrim yaratmaya hazır.

Mistral NeMo’yu bugün ai.nvidia.com üzerinden bir NVIDIA NIM olarak deneyimleyin ; yakında indirilebilir bir NIM de geliyor.

The post Mistral AI ve NVIDIA, Son Teknoloji Kurumsal AI Modeli Mistral NeMo 12B’yi Tanıttı appeared first on GTM Teknoloji.

Yeni Nesil Video Editing : NVIDIA RTX Video HDR Desteği ve RTX Hızlandırılmış AI Özellikleri Ekliyor

Serkan — Thu, 18 Jul 2024 10:14:03 +0000

Yeni Nesil Video Düzenleme: Wondershare Filmora, NVIDIA RTX Video HDR Desteği ve RTX Hızlandırılmış AI Özellikleri Ekliyor

Twitch Gelişmiş Yayıncılık, OBS Studio ve XSplit Broadcaster’a geliyor; Temmuz Studio Driver yayınlanıyor; ve içerik yaratıcısı Kevin Stratvert, Wondershare Filmora’da yapay zeka destekli özelliklerin kullanımı için ipuçları paylaşıyor.

Editörün notu: Bu gönderi , öne çıkan sanatçıları kutlayan, yaratıcı ipuçları ve püf noktaları sunan ve NVIDIA Studio teknolojisinin yaratıcı iş akışlarını nasıl iyileştirdiğini gösteren NVIDIA Studio serimizin bir parçasıdır . Ayrıca yeni GeForce RTX GPU özellikleri, teknolojileri ve kaynakları ve bunların içerik oluşturmayı nasıl önemli ölçüde hızlandırdığını derinlemesine inceliyoruz .

Yapay zeka destekli araçlara sahip bir video düzenleme uygulaması olan Wondershare Filmora, artık NVIDIA RTX Video HDR’yi destekleyerek Blackmagic Design’ın DaVinci Resolve ve Cyberlink PowerDirector gibi düzenleme yazılımlarına katılıyor.

RTX Video HDR, video kalitesini önemli ölçüde artırarak, nihai çıktının günümüzde mevcut en iyi monitörlerle uyumlu olmasını sağlar.

Canlı yayın yazılımı OBS Studio ve XSplit Broadcaster artık Twitch Enhanced Broadcasting’i destekliyor ve yayıncılara istemci tarafı kodlama ve otomatik yapılandırmalar aracılığıyla video kalitesi üzerinde daha fazla kontrol sağlıyor. Twitch, OBS ve NVIDIA arasındaki iş birliğiyle geliştirilen özellik, dikey canlı video ve HEVC ve AV1 gibi gelişmiş kodekler dahil olmak üzere daha fazla ilerlemenin yolunu da açıyor.

Temmuz Studio Sürücüsüne bir yaz değerinde yaratıcı uygulama güncellemeleri dahil edildi ve bugün indirilmeye hazır. Yaratıcılar ve oyuncular için olmazsa olmaz bir arkadaş olan NVIDIA uygulama betasını yükleyin ve GeForce RTX PC’leri en son NVIDIA sürücüleri ve teknolojisiyle güncel tutun.

Grafik ve üretken yapay zeka alanındaki en son atılımları öğrenmek için NVIDIA’ya SIGGRAPH’ta katılın ve NVIDIA kurucusu ve CEO’su Jensen Huang ile WIRED’da kıdemli yazar olan Lauren Goode’un yer alacağı sohbete katılın. 29 Temmuz Pazartesi günü TSİ 14:30’da. Şimdi kaydolun .

Ve bu haftanın NVIDIA Studio’sunda yer alan sanatçı Kevin Stratvert, Wondershare Filmora’da yapay zeka destekli içerik oluşturma hakkında her şeyi paylaşıyor.

RTX Video HDR, standart dinamik aralıklı videoyu analiz edip HDR10 kalitesinde videoya dönüştürerek renk gamını genişletiyor, daha net, daha canlı kareler üretiyor ve daha fazla sürükleyicilik için derinlik hissini artırıyor.

RTX Video HDR ile Filmora kullanıcıları oyun videoları, seyahat vlog’ları veya etkinlik filmleri yapımcılığı için ideal olan yüksek kaliteli içerikler oluşturabilir.

RTX Video HDR’yi RTX Video Super Resolution ile birleştirmek — kenarları keskinleştirmek, özellikleri geri yüklemek ve videodaki eserleri kaldırmak için eğitilmiş modeller kullanan bir diğer yapay zeka destekli araç — görsel kaliteyi daha da artırır. RTX Video HDR, HDR10 uyumlu bir monitöre veya TV’ye bağlı bir NVIDIA RTX GPU gerektirir. Daha fazla bilgi için RTX Video SSS’ye bakın .

RTX GPU destekli bir bilgisayara sahip olanlar, dosyaları Filmora masaüstü uygulamasına gönderebilir ve yerel RTX hızlandırmasıyla düzenlemeye devam edebilir, GeForce RTX 4070 Ti veya üzeri GPU’larda çift kodlayıcıyla dışa aktarma işleminin hızını iki katına çıkarabilir.

Wondershare Filmora’nın yapay zeka destekli özellikleri hakkında daha fazla bilgi edinin

Filmora’da AI Özelliklerinin En Üst Düzeye Çıkarılması

Kevin Stratvert’in bir öğretmenin yüreği var; teknik bilgisini ve ipuçlarını başkalarıyla paylaşmayı her zaman sevmiştir.

Bir gün, “Kullanıcılara doğrudan bir şeyler açıklamak için neden bir YouTube videosu yapmıyorsun?” diye düşündü. İlk büyük hiti, Office.com aracılığıyla Microsoft Office’i ücretsiz edinme konusunda bir eğitimdi. Video milyonlarca görüntüleme ve tonlarca etkileşim aldı ve o zamandan beri içerik üretmeye devam etti.

Stratvert, “Ne kadar çok içerik yaratırsam, izleyicilerden o kadar çok soru ve geri bildirim aldım. Bu da doyamadığım bir yaratıcılık ve bağlantı döngüsünü ateşledi” dedi.

Yapay zekanın faydalarını açıklamak, özellikle Wondershare Filmora’daki yapay zeka destekli özelliklerle ilgili olduğu için Stratvert için özel bir ilgi alanı olmuştur. Bir YouTube videosunda, Filmora Video Editor Tutorial for Beginners , video editörlerinin iş akışlarını hızlandırmak için kullanabilecekleri yapay zeka efektlerini açıklıyor.

Örnekler şunları içerir:

Akıllı Düzenleme : Birden fazla dilde olmak üzere, otomatik olarak oluşturulan görüntü tabanlı transkriptleri düzenleyin.
Akıllı Kesme : İstenmeyen nesneleri kaldırın veya arka planı saniyeler içinde değiştirin.
Konuşmadan Metne : Otomatik olarak ilgi çekici açıklamalar, başlıklar ve altyazılar oluşturun.

Stratvert, “Yapay zeka, özellikle gerçekten fark yaratan ayrıntıları iyileştirmek için yaratıcı araç setimin önemli bir parçası haline geldi,” dedi. “Bu teknik görevleri ele alarak, yapay zeka içerik oluşturmaya daha fazla odaklanmak için zamanımı serbest bırakıyor ve tüm süreci daha sorunsuz ve daha verimli hale getiriyor.”

Stratvert ayrıca kullanıcıların yerel verileriyle etkileşime girmesine, çeşitli yapay zeka modellerini kurmasına ve yapılandırmasına, CLIP ve daha fazlasını kullanarak hem metin hem de görüntü çıktıları için yapay zekayı etkili bir şekilde yönlendirmesine olanak tanıyan bir teknoloji olan NVIDIA ChatRTX ile deneyler yapıyor .

NVIDIA Broadcast, Stratvert’e web konferansları ve canlı yayınlar için profesyonel bir kurulum sağlamada etkili olmuştur. Uygulamanın arka plan gürültüsünü giderme ve sanal arka plan gibi özellikleri, ekranda profesyonel bir görünüm sağlamaya yardımcı olur. Özellikle, ortamda değişkenleri kontrol etmenin zor olabileceği ev stüdyosu ortamlarında faydalıdır.

Stratvert, içerik oluşturma sürecinde GeForce RTX 4070 ekran kartının önemine vurgu yapıyor .

“RTX GPU ile, zorlu senaryolarda bile render sürelerinde ve oynatmanın akıcılığında çarpıcı bir iyileşme fark ettim,” dedi. “Ek olarak, RTX GPU’ların gelişmiş yetenekleri, gerçek zamanlı ışın izleme ve AI destekli düzenleme özellikleri gibi daha yoğun görevleri destekliyor ve bu da düzenlemelerimde yeni yaratıcı olasılıklar yaratabiliyor.”

Stratvert’in web sitesindeki video eğitimlerine göz atın .

The post Yeni Nesil Video Editing : NVIDIA RTX Video HDR Desteği ve RTX Hızlandırılmış AI Özellikleri Ekliyor appeared first on GTM Teknoloji.

AMD Zen 5 Mimarisi ve XDNA 2 Duyuruldu

GTM Teknoloji — Thu, 18 Jul 2024 09:42:43 +0000

AMD’nin 2024 Teknoloji Günü, en son gelişmelerin ardındaki ayrıntıları ortaya koydu ve özellikle en son Zen 5 CPU ve XDNA AI merkezli mimarileriyle ilgili çok fazla konuyu ele aldı. Bu etkinlik, AMD’nin AI verimliliğini, güç performansını ve birden fazla uygulamada sorunsuz entegrasyonu devrim niteliğinde değiştirme vizyonunu vurgulayarak, yüksek performanslı bilgi işlem sektöründeki liderliğini yeniden teyit etti.

Microsoft ile stratejik iş birliği, AMD’nin AI PC deneyimlerindeki liderliği için sahneyi hazırladı ve çok çeşitli uygulamalarda benzeri görülmemiş verimlilik, performans ve entegrasyon sağladı. 192 çekirdeğe ve 384 iş parçacığına kadar 5. Nesil EPYC CPU’lar, güç verimliliğinde ve AI hızlandırmada önemli kazanımlar vaat ediyor. Gelişmiş dal tahmini, çift kod çözme kanalları ve yeni bir Matematik Hızlandırma Birimi ile AMD, Zen 5’in selefine kıyasla tek çekirdekli AES-XTS performansında %35 iyileştirme ve makine öğrenimi görevlerinde %32 artış sağladığını söylüyor. AMD, işlem gücü ve verimliliğin sınırlarını zorlamaya devam ederken, Zen 5 mimarisi veri merkezi ve sunucu pazarlarında devrim yaratmaya hazır duruyor.

AMD Zen 5 mimarisi, AMD’nin masaüstü, sunucu, istemci ve gömülü uygulamalar için özel olarak tasarlanmış ürünler yaratmasına olanak tanıyan yenilikçi bir modüler tasarım kullanır. 4nm ve 3nm işlem teknolojilerini birleştirmek, Zen5 tabanlı ürünlerin çeşitli kullanım durumlarında optimize edilmiş performans ve güç verimliliği sunmasını sağlar.

AMD Zen 5

AMD’nin 2024 Tech Day’deki sunumunda Mark Papermaster, Zen 5 mimarisindeki önemli gelişmeleri, özellikle de 5. Nesil EPYC CPU’larını tanıttı. 2024’ün ikinci yarısında piyasaya sürülecek olan EPYC serisi, sunucu ve veri merkezi pazarlarında yoğunluk ve performans ölçümlerini uç noktalara taşıyarak eşsiz performans ve verimlilik sunmayı vaat ediyor.

5. Nesil EPYC CPU’lar çekirdek sayısını ve iş parçacığı kapasitesini önemli ölçüde artırdı. Bu geliştirmeler, TSMC ile devam eden ortaklık ve optimize edilmiş bir metal yığın sayesinde mümkün olan güç verimliliğindeki iyileştirmeleri de içeriyor. İkincisi, termal ve elektriksel performansı önemli ölçüde artırdı. Mimari, Zen 4’e kıyasla tek çekirdekli AES-XTS performansında %35’e kadar ve tek çekirdekli makine öğrenimi görevlerinde %32’ye kadar iyileştirme vaat eden yeni bir Matematik Hızlandırma Birimi sunarak gelişmiş AI hızlandırmasından yararlanıyor.

Zen 5’teki mimari gelişmeler kapsamlıdır. Talimat alma ve kod çözme aşamaları, gecikmeyi azaltmak ve doğruluğu artırmak için gelişmiş dal tahmini ve çift kod çözme kanallarıyla geliştirilmiştir. Tamsayı yürütme birimleri, daha büyük bir yürütme penceresi içinde 8 genişliğinde dağıtım/emeklilik yetenekleri ve daha birleşik bir ALU zamanlayıcısı ile önemli bir yükseltme görmektedir. Yükleme/depolama gelişmeleri, hem L1 önbelleğine hem de Kayan Nokta Birimine maksimum bant genişliğinin iki katı olan 48 KB 12 yollu L1 veri önbelleğini içerir; bu, veri ağırlıklı işlemler için çok önemlidir.

Zen 5 mimarisi ayrıca veri bant genişliğinde önemli iyileştirmeler içerir. 48KB 12 yollu L1 veri önbelleğiyle yükleme/depolama geliştirmeleri, veri yoğun işlemler için olmazsa olmaz olan L1 önbelleğine ve Kayan Nokta Birimine iki kat fazla bant genişliği sağlar. Mimarinin AVX-512 ve tam 512 bit veri yoluyla uçuş halinde daha fazla sayıda kayan nokta talimatını işleme yeteneği, AI ve vektör iş yüklerinde önemli performans kazanımları sağlar.

Kayan nokta ve vektör matematik birimi yürütme de önemli iyileştirmeler gördü. Tam 512 bit veri yolu ve altı boru hattına (kayan nokta ekleme işlemleri için iki çevrim gecikmesi sunar) sahip AVX-512, eş zamanlı kayan nokta talimatlarını yönetme yeteneğini önemli ölçüde artırır. Bu, özellikle vektör ve AI iş yüklerine fayda sağlar ve makine öğrenimi ve veri yoğun görevlerde önemli performans iyileştirmeleri sağlar. Bu, AMD’nin 512 bit performans elde etmek için 256 bit yolu “çift pompaladığı” Zen 4 ile tezat oluşturur.

XDNA

Yapay Zeka Grubu Kıdemli Başkan Yardımcısı Vamsi Boppana, AMD’nin yeni AI merkezli mimarisinin dönüştürücü potansiyelini özetledi. AI iş yüklerinin üstel büyümesi ve uzmanlaşması yenilikçi hesaplama mimarileri gerektiriyor ve AMD’nin buna cevabı XDNA 2 mimarisinin tanıtımı oldu.

Bu yeniliğin merkezinde, iletişim, 5G dağıtımı, savunma radar sinyali işleme, 3B bakış açıları için gerçek zamanlı yayın AI işleme ve sağlık görüntü işleme gibi çeşitli AI ve DSP uygulamalarındaki mirasıyla bilinen AMD XDNA mimarisi yer almaktadır. Mimari, geleneksel sabit hesaplama ve önbelleğe dayalı bellek hiyerarşilerinden daha esnek, uyarlanabilir bir modele geçiyor. Bu mekansal yeniden yapılandırılabilirlik ve döşenmiş veri akışı mimarisi, verimli çoklu görev ve garantili gerçek zamanlı performans sağlıyor.

Sunumda, AI iş yükleri için yüksek verimlilik ve performans sunmak üzere tasarlanmış entegre NPU’lu AMD’nin x86 işlemcisi vurgulandı. 3. Nesil AMD Ryzen AI işlemcileri, NPU yeteneklerinde önemli ilerlemeler sunarak 50 TOPS’a (Saniyede Trilyonlarca İşlem) kadar ulaşıyor ve 12’ye kadar CPU çekirdeği ve 16 GPU hesaplama birimi içeriyor. Bu işlemciler, Adobe, Black Magic ve Topaz Labs gibi platformlarda 100’den fazla AI odaklı deneyimi destekleyecek şekilde ayarlandı ve bu da onları yeni nesil AI PC deneyimlerinin merkezi haline getiriyor.

XDNA 2 mimarisi içindeki AI motoru, INT8 ve Block FP16 gibi çeşitli veri türleri için gelişmiş destek içerir ve bu da çeşitli AI uygulamaları genelinde yüksek performans ve doğruluk sağlar. Uyarlanabilir AI mimarisi, AMD’nin ürün portföyü genelinde ölçeklenebilir entegrasyona olanak tanır, mekansal yeniden yapılandırılabilirlik ve döşenmiş veri akışı mimarisi aracılığıyla verimli çoklu görev ve garantili gerçek zamanlı performans sunar.

Özellikle FP16 bloğu, neredeyse hiç doğruluk kaybı olmadan FP32 modelleri için anında değiştirme olanağı sunarak görüntü oluşturma, dil modelleri ve gerçek zamanlı ses ve video işleme gibi görevler için oldukça verimli hale getiriyor.

Öne çıkan özelliklerden biri, XDNA yapısını çalışma zamanında yapılandırma yeteneğidir. Bu, farklı boyutlarda birden fazla modeli aynı anda çalıştırmak için veri yolları ve NPU’nun segmentasyonu konusunda esneklik sağlar. Ayrıca, gelişmiş üretkenlik ve sürükleyici iş birliği için Copilot+ gibi AI destekli deneyimler sunma esnekliği de sağlar. Birleşik AI yazılım yığınını AMD’nin CPU, GPU ve NPU bileşenleri arasında entegre etmek, geniş model desteği ve optimize edilmiş performans sağlayarak geliştiricilerin binlerce AI modelini hızlı ve etkili bir şekilde dağıtmasını kolaylaştırır.

AMD XDNA 2 mimarisi, AI teknolojisinde önemli bir sıçramayı göstermektedir. Sekize kadar eş zamanlı mekansal akışla, önceki nesillerin güç verimliliğini iki katına çıkarır. Bu, AMD’nin çözümünü güçlü ve oldukça verimli hale getirerek, PC’lerde ve ötesinde AI uygulamalarının yeni bir döneminin yolunu açar.

3. Nesil AMD Ryzen AI işlemciler ayrıca yeni Güvenilir G/Ç yeteneklerini sunarak gelişmiş güvenlik özelliğine sahiptir. Bu güvenlik iyileştirmesi, hassas verileri korumak ve AI odaklı uygulamalarda güvenilir performansı garantilemek için önemlidir ve AMD’nin güvenli ve verimli AI çözümlerine olan bağlılığını güçlendirir.

AMD Zen 5 ve XDNA 2 Özellikleri

Zen 5 Mimarisi
Özellik	Detaylar
İşlem teknolojisi	4nm ve 3nm
Çekirdek Sayısı	192 çekirdeğe kadar
Konu Sayısı	384’e kadar iş parçacığı
Önbellek	48KB 12 yollu L1 veri önbelleği
Bant genişliği	L1 önbelleğine ve Kayan Nokta Birimine maksimum bant genişliğini iki katına çıkarın
Tamsayı Yürütme	8-geniş sevk/emeklilik, 6 ALU, 3 çarpan
Kayan Nokta Yürütme	Tam 512 bit veri yolu, 6 boru hattına sahip AVX-512
Yapay Zeka Hızlandırma	Yeni Matematik Hızlandırma Ünitesi
IPC Yükseltme	Zen 4’e göre ortalama %16 IPC artışı
Performans Kazanımları	Tek çekirdekli AES-XTS’de %35 iyileştirme, makine öğrenimi görevlerinde %32 artış
Güç verimliliği	Geliştirilmiş metal yığın ile performans/watt için optimize edilmiştir
Ürün Uygulamaları	Masaüstü, mobil, sunucu ve veri merkezi
XDNA 2 Mimarisi
AI Motoru Fayansları	32’ye kadar
AI Performansı	50 TOPS’a kadar
Çekirdek Sayısı	12 adede kadar CPU çekirdeği
GPU Hesaplama Birimleri	16’ya kadar
Desteklenen Veri Türleri	INT8, Blok FP16
Yeterlik	Önceki nesle kıyasla 2 kat güç verimliliği
Eşzamanlı Akışlar	8’e kadar
Güvenlik	Yeni Güvenilir IO yetenekleri
Yazılım yığını	CPU, GPU ve NPU genelinde birleşik AI yazılım yığını
Gerçek zamanlı Performans	Mekansal mimari ile garantili gerçek zamanlı performans
Uygulamalar	Oyun, eğlence, kişisel yapay zeka yardımı, içerik oluşturma, kurumsal üretkenlik

Curve Shaper ile Zen 5 Masaüstü Hız Aşırtma

Ryzen 7000 serisinin ayırt edici bir özelliği olan AMD’nin Curve Optimizer’ı, kullanıcıların PMFW/PBO’ya duyarlı dinamik voltaj ölçeklemesini veya voltaj azaltmasını etkinleştirmesine olanak tanır. Bu güçlü araç, ayarlanabilir “Curve Optimizer” adımlarıyla voltaj eğrisini dinamik olarak kaydırır ve frekans spektrumu boyunca değişken voltaj sağlar, daha yüksek frekanslarda daha fazla voltaj tahsis edilir. Kullanıcılar bu optimizasyonu çekirdek başına, CCD başına veya CPU başına uygulayabilir ve böylece CPU’larının performansı ve verimliliği üzerinde ayrıntılı kontrol sağlayabilir.

AMD, Curve Optimizer’ın temelleri üzerine inşa ederek, kullanıcıların alt voltaj eğrilerini yeniden şekillendirerek alt voltaj potansiyelini en üst düzeye çıkarmasını sağlayan gelişmiş bir geliştirme olan Curve Shaper’ı sunar. Curve Shaper, selefiyle aynı adımları kullanır. Yine de, kullanıcılara 15 ayrı frekans-sıcaklık bandından (üç sıcaklık bandı ve beş frekans bandı) adımları seçmeli olarak ekleme veya çıkarma esnekliği sağlar. Bu ince ayar yeteneği, kullanıcıların dengesizliklerin gözlemlendiği alanlarda voltaj eklerken, kararlı bantlardaki voltajı daha da düşürmelerine olanak tanır. Yeniden şekillendirilen eğri, Curve Optimizer kullanılarak daha fazla ayarlanabilen tüm çekirdeklere eşit olarak uygulanır.

Kapanış Düşünceleri

AMD Tech Day 2024, ürünlerin arkasındaki mühendislerle derinlemesine bir görüşme yapma fırsatına sahip olduğumuz harika bir etkinlikti. AMD’nin XDNA 2 mimarisi ve Zen 5 CPU’larındaki son gelişmeleri, AI ve yüksek performanslı bilgi işlem devrimine öncülük etme taahhüdünü vurguluyor. Çekirdek sayısı, iş parçacığı, güç verimliliği ve AI hızlandırmada çığır açan iyileştirmelerle AMD, endüstri standartlarını yeniden tanımlamaya ve masaüstü, mobil, sunucu ve veri merkezi uygulamalarında kapsamlı performans sağlayarak modern veri merkezli iş yüklerinin artan taleplerini karşılamaya hazırlanıyor.

The post AMD Zen 5 Mimarisi ve XDNA 2 Duyuruldu appeared first on GTM Teknoloji.