Mistral AI ve NVIDIA, Son Teknoloji Kurumsal AI Modeli Mistral NeMo 12B’yi Tanıttı

Benzersiz Doğruluk, Esneklik ve Verimlilik Sunuyoruz 

Çok yönlü konuşmalar, matematik, sağduyulu muhakeme, dünya bilgisi ve kodlamada mükemmel olan bu kurumsal düzeydeki yapay zeka modeli, çeşitli görevlerde hassas ve güvenilir performans sunar.

128K bağlam uzunluğuyla Mistral NeMo, kapsamlı ve karmaşık bilgileri daha tutarlı ve doğru bir şekilde işleyerek bağlamsal olarak alakalı çıktılar sağlar.

Yeniliği teşvik eden ve daha geniş AI topluluğunu destekleyen Apache 2.0 lisansı altında yayınlanan Mistral NeMo, 12 milyar parametreli bir modeldir. Ayrıca, model, bellek boyutunu azaltan ve doğrulukta herhangi bir bozulma olmadan dağıtımı hızlandıran model çıkarımı için FP8 veri biçimini kullanır.

Bu, modelin görevleri daha iyi öğrendiği ve çeşitli senaryoları daha etkili bir şekilde ele aldığı anlamına gelir; bu da onu kurumsal kullanım durumları için ideal hale getirir.

Mistral NeMo , NVIDIA TensorRT-LLM motorlarıyla performans açısından optimize edilmiş çıkarımlar sunan bir NVIDIA NIM çıkarım mikro servisi olarak paketlenmiştir .

Bu konteynerleştirilmiş format, her yere kolayca dağıtım imkânı sunarak çeşitli uygulamalar için gelişmiş esneklik sağlar.

Sonuç olarak, modeller birkaç gün yerine dakikalar içinde her yere dağıtılabiliyor.

NIM, NVIDIA AI Enterprise’ın bir parçası olan kurumsal düzeyde yazılım , özel özellik dalları, titiz doğrulama süreçleri ve kurumsal düzeyde güvenlik ve destek sunar.

Kapsamlı destek, NVIDIA AI uzmanına doğrudan erişim ve tanımlanmış hizmet seviyesi anlaşmaları ile güvenilir ve tutarlı performans sunar.

Açık model lisansı, işletmelerin Mistral NeMo’yu ticari uygulamalara sorunsuz bir şekilde entegre etmelerine olanak tanır.

Tek bir NVIDIA L40S, NVIDIA GeForce RTX 4090 veya NVIDIA RTX 4500 GPU’nun belleğine sığacak şekilde tasarlanan Mistral NeMo NIM, yüksek verimlilik, düşük hesaplama maliyeti ve gelişmiş güvenlik ve gizlilik sunuyor.