NVIDIA GTC 2024’ün ilk gününde bize getirdiği yenilikler

NVIDIA GTC 2024 (GPU Teknolojisi Konferansı) yıllar sonra ilk kez yüz yüze gerçekleşti. Geçtiğimiz yıllarda pandemi yüzünden gerçekleşemeyen ya da internet üzerinde yapılan etkinlik bu sene San Jose’de yapılıyor. Yenilikçiler, araştırmacılar, bilim insanları ve teknoloji meraklıları için teknoloji devinin son yeniliklerini görme imkanı sunan bu heyecan verici etkinlikte, bu yıl yapay zeka, derin öğrenme, otonom araçlar, insansı robotlar ve güvenlik sistemleri mimarisi öne çıkan konular arasındaydı.

NVIDIA GTC 2024’ün ilk günde yaşanan önemli gelişmeler

NVIDIA GTC 2024 etkinliği birçok yenilikle geldi. İlk gününde etkileyici bir giriş yapan şirket geleceğe dönük birçok yeni teknoloji duyurdu. Firma ayrıca direkt olarak kullanıma sunulacak bazı gelişmeleri de paylaştı. Bunların arasında yeni nesil bir ekran kartı mimarisi, kuantum bilgisayarlara erişim, işletmelerin yapay zeka modellerini kolayca devreye almalarını, optimize etmelerini sağlayan bir araç bununla birlikte yapay zeka ve yüksek performanslı hesaplama (HPC) iş yüklerini optimize etmek için tasarlanmış özel bilgi işlem platform yer alıyor. NVIDIA GTC 2024 etkinliğindeki öne çıkanlar:

• Blackwell mimarisi
• Kuantum simülasyonu
• NVIDIA NIM yazılım yığını
• NVIDIA OVX sistemleri

Blackwell mimarisi nedir?

Blackwell mimarisinin temeli 6 yeni teknolojiye (GPU, HBM3e, NVLink, PCIe, hesaplama, veri sıkıştırma) sahiplik yapıyor. Bu altı çığır açan teknolojinin bütünü oluşturulduğu zaman, hızlandırılmış hesaplamanın sınırlarını yeniden çizen bir makina ortaya çıkıyor. Veri işlemeyi geliştirmekten ilaç tasarımını devrimleştirmeye kadar birçok alanda NVIDIA yeni bir standart belirliyor. Amazon ve Microsoft gibi önemli firmalar da Blackwell’in dönüştürücü potansiyelini şimdiden benimsemiş durumda. NVIDIA GTC 2024 etkinliğinde tanıtılan bu yeni ekran kartı mimarisi oldukça dikkat çekici. Hem yeni nesil ekran kartlarında hem de veri banklarında kullanılacak teknoloji çarpıcı verilerle geliyorlar.

Blackwell GPU’lar, iki yongada 208 milyar transistör barındırıyor. Bu, TSMC’nin iki retikül sınırlamalı 4NP prosesi sayesinde mümkün hale geliyor. Bu yaklaşım, yarı iletken üretim tekniklerinin sınırlarını zorluyor ve yongaları 10TB/s’lik şaşırtıcı bir arayüzle birbirine bağlamanın yeni bir yolunu sunuyor. Chiplet tasarımlarına doğru bu adım, NVIDIA’nın geleneksel sınırları aşma arzusunu yansıtıyor. Blackwell 3 farklı temel model bulunuyor. Bunlar H100, B100 ve B200 aralarındaki farklar ise:

Temel modellere ek olarak daha gelişmiş modellerde içeren Blackwell geniş ve kapsamlı bir kitleye kendini ulaştırmaya çalışacak. Blackwell, FP4 ve FP6 hesaplama yeteneği ile daha az model performansı karşılığında daha verimli model eğitimi sunuyor. Bu, platformun karmaşık bir yönü ve verimlilik ile hassasiyet arasında ince bir denge kurmayı içeriyor. Gelişmiş modeller arasında yer alan GB200 ise Meta ve Microsoft gibi firmaların ilgisini çekmiş durumda. Blackwell, hızlandırılmış hesaplama ve yapay zeka çağında NVIDIA’nın yenilikleri gelecekteki sanayi devriminin katalizörü olabilir.

GB200 nedir?

NVIDIA’nın en güçlü veri bankasını temsil edecek GB200’ün sunduğu özellikler gerçekten ilgi çekici. NVIDIA’nın Quantum-X800 InfiniBand ve Spectrum-X800 Ethernet platformlarına yapılan göndermeler, bağlantı ve bant genişliğinde bir üst seviyeye geçişi işaret ediyor. Özellikle 800Gb/s kapasitesinden bahsedilmesi, NVIDIA’nın PCIe Gen6’nın sağlayabileceği yüksek performans avantajlarını yakından takip ettiğini gösteriyor. NVIDIA GTC 2024 etklinliğinde sunulan bu veri bankası ileriye dönük olarak tasarlandı ve güncelleme yapılarak gelişmesi planlanıyor.

GB200’ün çift GPU kurulumu ve gelişmiş ağ seçenekleri, NVIDIA’nın HPC’nin geleceğine yönelik vizyonunu temsil ediyor. Bu vizyonun ana çıktısı, tek tek bileşenlerin ham gücünden ziyade, bunların uyumlu ve ölçeklenebilir bir sistem içerisinde orkestra edilebileceği yönünde. Daha yüksek derecelerde bağlantı kurmanın önünü açmak ve hesaplama gücü ile veri aktarım oranları arasında iyi bir denge sağlamak suretiyle, NVIDIA, özellikle gitgide artan model boyutları ve hesaplama talepleriyle baş etmede yapay zeka araştırması ve geliştirmesi alanlarındaki en kritik zorlukları ele alıyor.

Kuantum simülasyonu nedir?

NVIDIA GTC 2024 etkinliğinin ilk gününde kuantum bilgisayarlar da ele alındı. Kuantum simülasyonu, kuantum bilgisayarların henüz erişilebilir olmamasından doğan zorluğu aşmak için klasik bilgisayarlardaki kuantum sistemlerinin davranışını taklit etmeyi amaçlar. Bu taklit, geleneksel bilgisayarların yapamayacağı şekillerde yeni kimyasallar, ilaçlar ve materyal tasarımlarını araştırmak için kullanılabilir. NVIDIA’nın Quantum Simulation Cloud hizmetinin önemi burada ön plana çıkıyor:

• Erişilebilirlik: Çoğu kurum, gerçek kuantum bilgisayarlara henüz erişim sağlayamıyor. NVIDIA’nın Quantum Simulation Cloud ise araştırmacıların güçlü klasik bilgisayar donanımları kullanarak kuantum algoritmaları ve uygulamaları üzerinde deney yapmalarını mümkün kılıyor.
• CUDA-Q desteği: NVIDIA’nın açık kaynaklı CUDA-Q platformunu temel alması, araştırmacıların tanıdıkları bir programlama ortamında çalışma imkanı tanıyor ve kuantum hesaplama kavramlarıyla uğraşırken kullanım kolaylığı sağlıyor.
• İş birlikleri: Toronto Üniversitesi, Classiq ve QC Ware gibi kuruluşlarla ortaklıklar, NVIDIA’nın kuantum hesaplama inovasyonunda itici bir güç olma kararlılığının bir göstergesi. Bu tür iş birlikleri, sektörü daha ileriye taşıyacak uzmanlık ve kaynakların bir araya getirilmesini sağlıyor.

Kuantum simülasyonlarının daha erişilebilir hale gelmesi kimya, malzeme bilimi ve ilaç keşfinde kuantum hesaplama tekniklerinin benimsenmesini hızlandırabilir. Öğrenciler ve araştırmacılar; karmaşık kuantum algoritmalarını gerçek kuantum donanım ihtiyacı olmadan test edip tasarlayarak daha hızlı bir öğrenme eğrisinden faydalanabilirler. Quantum Simulation Cloud üzerinde farklı kuantum algoritmaları denemeye imkan bularak, nihayetinde gerçek kuantum donanımlarda daha verimli uygulamaların temelini oluşturacak, yeni algoritma keşiflerine kapı aralanabilir.

NVIDIA NIM yazılım yığını nedir?

NVIDIA GTC 2024 konferansında şirket, işletmelere özel aplikasyonlar geliştirme imkanı sunan düzinelerce yapay zeka mikro hizmetlerini içeren NVIDIA NIM yazılım yığınının lansmanını yaptı. Bu hizmetler, şirketlerin popüler yapay zeka modellerinde en etkin sonuçları almaları ve uygulamalarında geniş bir yelpazede kullanabilecekleri NVIDIA CUDA-X mikro hizmetleriyle geliştirme süreçlerini hızlandırmalarını sağlıyor.

NVIDIA kurucusu ve CEO’su Jensen Huang, “Köklü işletme platformları yapay zeka yardımcı pilotlarına dönüştürülebilecek bir veri madeni üzerinde konumlanıyor. İş ortaklarımız ile birlikte hazırlanan bu konteyner tabanlı yapay zeka mikro hizmetleri, her sektördeki kurumun bir yapay zeka şirketine dönüşmelerinin yapıtaşlarını oluşturuyor.” açıklamasında bulundu.

NVIDIA NIM, işletmelerin kendi platformlarında özelleştirilmiş uygulamalar oluşturup, süreçlerini yönetirken fikri mülkiyet haklarını korumasını sağlayacak şekilde tasarlandı. NVIDIA’nın CUDA platformu üzerine inşa edilen bu bulut tabanlı mikro hizmetler kataloğu iki düzineyi aşkın popüler yapay zeka modelinin optimize edilmiş şekilde kullanabilmesini sağlayan NVIDIA NIM mikro hizmetlerini içeriyor. Üstelik NVIDIA’nın hızlandırılmış yazılım geliştirme kitleri, kütüphaneleri ve araçlarına artık bilgi erişimine dayalı nesil (RAG), güvenlik tedbirleri, veri işleme, yüksek performanslı hesaplama (HPC) ve daha fazlası için NVIDIA CUDA-X mikro hizmetleri olarak ulaşılabiliyor. Bunun yanında NVIDIA, sağlık hizmetlerine yönelik 20’den fazla NIM ve CUDA-X mikro hizmetlerini de duyurdu.

Dikkatle seçilmiş mikro hizmetler, NVIDIA’nın tam kapsamlı hesaplama platformuna yeni bir katman ekliyor. Bu katman, yapay zeka model geliştiricileri, platform ve hizmet tedarikçileri ile işletmeleri; bulut, veri merkezleri, iş istasyonları ve kişisel bilgisayarlar üzerinde yüz milyonlarca NVIDIA CUDA kurulu sisteminde özel yapay zeka modellerinin optimize edilmiş biçimde çalışmasını sağlayacak standart bir yol ile birbirine bağlıyor.

Adobe, Cadence, CrowdStrike, Getty Images, SAP, ServiceNow ve Shutterstock gibi lider uygulama, veri ve siber güvenlik platform sağlayıcıları, NVIDIA AI Enterprise 5.0 sisteminde sunulan yeni NVIDIA yapay zeka mikro hizmetlerine erişen ilk şirketler arasında yerlerini aldılar.

NVIDIA OVX sistemleri nedir?

NVIDIA GTC 2024 kapsamında birçok yapay zeka teknoloji tanıtacağını tahmin ediyorduk. NVIDIA OVX sistemleri de bunlar arasında yer alıyor. Yapay zekanın çeşitli alanlarda hızla büyümesiyle birlikte NVIDIA, karmaşık yapay zeka ve grafik yoğun iş yüklerini optimize etmek için tasarlanmış bir çözüm olan OVX bilgi işlem sistemlerini tanıttı. NVIDIA, yapay zekanın yüksek performanslı depolama alanındaki önemini kabul ederek, DDN, Dell PowerScale, NetApp, Pure Storage ve WEKA gibi devlerle depolama çözümü ortaklığı programı başlattı.

Yeni program, depolama çözümlerini doğrulamak için standart bir yol sunarak kurumsal yapay zeka iş yükleri için optimum performans ve ölçeklenebilirlik sağlayacak. NVIDIA’nın titiz testleri sayesinde bu depolama sistemleri yapay zeka uygulamalarındaki zorlu gereksinimleri yansıtacak şekilde çeşitli parametrelere göre doğrulanıyor.

https://www.youtube.com/watch?v=JQdyzQdMRS0&ab_channel=NVIDIA

NVIDIA GTC 2024 etkinliğinde tanıtılan ve onaylanan NVIDIA L40S GPU’ların yanı sıra kapsamlı yazılım ile ağ çözümleriyle donatılmış OVX sunucuları, farklı veri merkezi ortamlarına uyum sağlayan esnek bir mimari sunuyor. Bu yaklaşım sadece verilerin bulunduğu konumda bilgi işlem sürecini hızlandırmakla kalmıyor, aynı zamanda verimlilik ve düşük maliyet göz önünde bulundurularak yapay zekanın ihtiyaçlarına da özel bir şekilde hitap ediyor. NVIDIA OVX sunucuları güçlü GPU’larla donatılmış durumda, böylece gelişmiş bilgi işlem yetenekleri, yüksek hızlı depolama birimlerine erişim ve düşük gecikmeli ağ bağlantısı sağlıyor. Bu, özellikle sohbet robotları ve geniş çaplı veri işlemesi gereken arama araçları gibi zorlu uygulamalar için hayati önem taşıyor.

NVIDIA GTC 2024’ün ilk günü, yapay zeka ve hesaplama alanında önemli gelişmelerin, ürünlerin tanıtıldığı bir şekilde sona erdi. NVIDIA, Blackwell mimarisi, kuantum simülasyonu, NVIDIA NIM yazılım yığını ve NVIDIA OVX sistemleri gibi yenilikleri tanıttı. Sonuç olarak, NVIDIA GTC 2024, yapay zeka ve hesaplama alanında önemli gelişmelerin ve ürünlerin tanıtıldığı bir etkinlik oldu. Etkinliğin tam etkisi zamanla ortaya çıkacak.

Öne çıkan kaynak görseli: NVIDIA GTC 2024