Nvidia Grace CPU ve Nvidia H100, Nvidia GTC 2022’de tanıtıldı. Nvidia bugün yeni nesil Hopper GPU mimarisini ve Hopper H100 GPU’yu ve GPU’yu yüksek performanslı bir CPU ile birleştiren ve ve “Grace CPU Superchip” olarak adlandırılan yeni bir veri merkezi yongasını (Nvidia’nın diğer Grace süper yongası ile karıştırılmamalı) tanıttı.
Nvidia Grace CPU: Özellikleri, fiyatı ve çıkış tarihi
Nvidia GPU Superchip, şirketin özel veri merkezi CPU’suna yönelik ilk girişim olarak öne çıkıyor. Intel tarafından sızdırılan bilgilere göre Arm tabanlı işlemci, şaşırtıcı bir şekilde 144 çekirdeğe ve saniyede 1 terabayt bellek bant genişliğine sahip olacak. Aslında, Nvidia’nın NVLink ara bağlantısı üzerinden bağlanan iki Grace CPU’yu birleştirir – bu, Apple’ın M1 Ultra mimarisiyle karşılaştırılabilir.
Gücünü hızlı LPDDR5X bellekten alacak olan yeni CPU’nun geleneksel sunucuların performansının 2 katını sunması ve 2023’ün ilk yarısında teslim edilmesi bekleniyor. Nvidia, işlemcinin SPECrate®2017_int_base testinde 740 puana ulaşacağını ve üst düzey AMD ve Intel veri merkezi işlemcileriyle kafa kafaya gideceğini tahmin ediyor. (Bunlardan bazıları daha yüksek puan alsa da, watt başına daha düşük performans verir.)
“Yeni bir veri merkezi türü ortaya çıktı: zeka geliştirmek için uçsuz bucaksız verileri işleyen ve iyileştiren yapay zeka fabrikaları. Grace CPU Superchip, en yüksek performansı ve bellek bant genişliğinin yanında NVIDIA yazılım platformlarını tek bir yongada sunuyor ve dünyanın yapay zeka altyapısının işlemcisi olarak parlayacak.”
-Nvidia’nın kurucusu ve CEO’su Jensen Huang
Bu yeni işlemci, birçok yönden, geçen yıl duyurulan Grace Hopper Superchip ve CPU’nun geliştirilmiş hali. Grace Hopper Superchip, CPU ve GPU’yu tek bir işlemci üzerinde sistem tasarımında birleştirir. 2023’ün ilk yarısında piyasaya sürülecek olan bu sistem, büyük modeller için 600 GB bellek GPU’yu içerecek ve Nvidia, bellek bant genişliğinin temel bir sunucunun GPU’sundan 30 kat daha fazla olacağını iddia ediliyor. Nvidia’ya göre bu işlemciler, “dev ölçekli” yapay zeka ve yüksek performanslı bilgi işlem uygulamaları için tasarlandı.
Grace CPU Superchip, bağımsız CPU’lar veya sekiz adede kadar Hopper tabanlı GPU’ya sahip sunucular oluşturmak için kullanılabilen Arm v9 tabanlı bir SoC’dir.
Şirket, “önde gelen HPC, süper bilgi işlem, hiper ölçek ve bulut müşterileri” ile çalıştığını ve bu sistemlerin eninde sonunda size yakın bir bulut sağlayıcısında kullanılabileceğini ima ediyor.
Fiyat hakkında henüz bir bilgi paylaşılmadı.
Apple’ın M1 Ultra’sı gerçekten Nvidia GeForce RTX 3090’dan iyi mi?
Nvidia H100 GPU: Özellikleri, fiyatı ve çıkış tarihi
Nvidia, Hopper ile bir dizi yeni ve geliştirilmiş teknolojiyi piyasaya sürüyor. Ancak mimarinin, birçok uygulama için tercih edilen makine öğrenme tekniği haline gelen ve GPT-3 ve asBERT gibi güç modelleri olan trafo modellerine vurgusu belki de en önemli olanı.
H100 yongasının yeni Transformer Engine’i, model eğitimini altı kata kadar hızlandırmayı vaat ediyor ve bu yeni mimari ayrıca Nvidia’nın çok sayıda düğümü birbirine bağlamak için yeni NVLink Anahtar sistemini de içerdiğinden, bu yongalar tarafından desteklenen devasa sunucu kümeleri, daha az ek yük ile devasa ağları desteklemek için ölçeklenebilecek.
“En büyük yapay zeka modellerinin günümüzün bilgi işlem platformlarında eğitilmesi aylar gerektirebilir. Bu işletmeler için çok uzun bir süre. Yapay zeka, yüksek performanslı bilgi işlem ve veri analitiği, büyük dilli modeller gibi bazı modellerin trilyonlarca parametreye ulaşmasıyla karmaşık bir hale geliyor. NVIDIA Hopper mimarisi, büyüyen ağları ve veri kümelerini işlemek için muazzam bilgi işlem gücü ve hızlı bellek ile bu yeni nesil AI iş yüklerini hızlandırmak için sıfırdan inşa edildi.”
-Dave Salvator
Yeni Transformer Engine‘de, 8-bit hassasiyet ve 16-bit yarı hassasiyeti gerektiği gibi birleştirebilen ve hassas kalan Tensör Çekirdekleri kullanılıyor.
Fiyat hakkında henüz bir bilgi paylaşılmadı.
