CUDA çekirdeği nedir ve ne işe yarar

Ekran kartı satın alırken veya mevcut GPU’nuzun performansını değerlendirirken teknik özellikler tablosunda karşınıza pek çok farklı terim çıkar. Bu terimlerden en önemlilerinden biri olan CUDA çekirdeklerinin ne işe yaradığını anlamak, bir GPU’nun gerçek performans potansiyelini kavramak için kritik öneme sahiptir. NVIDIA grafik işlemcilerinin temel yapı taşları olan bu küçük işlem birimleri, modern bilgi işlem dünyasında grafik işlemeden yapay zeka uygulamalarına kadar geniş bir yelpazede görev üstlenir.

CUDA çekirdeği nedir ve ne işe yarar

Aşağıda CUDA çekirdeklerinin ne olduğunu, tarihsel gelişimini, kullanım alanlarını ve GPU performansı üzerindeki etkilerini bulabilirsiniz.

CUDA çekirdeği nedir?

• CUDA çekirdekleri, en basit tanımıyla NVIDIA GPU’larda bulunan paralel işlem birimleridir. “Compute Unified Device Architecture” kavramının kısaltması olan CUDA, ilk olarak 2006 yılında paralel hesaplama yeteneğini ve NVIDIA’nın komut setine erişimi sağlayan API’leri tanımlamak için kullanılmaya başladı.
• Bu çekirdekler, hesaplamalar yaparak ve görevleri CPU ile paralel olarak yürüterek GPU’ların hem grafik işleme hem de genel amaçlı bilgi işlem görevlerinde aktif rol oynamasını sağlar.
• CUDA çekirdekleri verileri eşzamanlı olarak işlemek için birlikte uyum içinde çalışır, böylece geleneksel CPU işlemeye kıyasla hesaplamalar çok daha hızlı hale gelir. Ayrıca her bir CUDA çekirdeği aynı anda birden fazla talimat yürütme yeteneğine sahiptir.
• Çalışma mantığını anlamak için basit bir örnek verelim: İşlemciyi bir su deposu olarak düşünün. Depoyu boşaltmak için borulara ihtiyacınız vardır. Daha fazla boru bağladığınızda depoyu daha hızlı boşaltırsınız. NVIDIA’nın çekirdekleri de bu borular gibi hareket eder — daha fazla CUDA çekirdeği, işlemi daha hızlı gerçekleştirme imkanı sunar.

Modern NVIDIA GPU’lardaki çekirdek türleri

• Modern NVIDIA GPU’lar üç farklı türde işlem çekirdeği ile birlikte gelir: CUDA çekirdekleri, temel paralel işlem yüklerini üstlenir.
• Tensor çekirdekleri, yapay zeka ve derin öğrenme gibi matris tabanlı hesaplamalarda uzmanlaşmıştır.
• Işın İzleme (Ray Tracing) çekirdekleri ise gerçekçi aydınlatma ve gölge hesaplamalarını yönetir. Her çekirdek türü farklı amaçlara yönelik olarak özel şekilde tasarlanmıştır.

CUDA çekirdeklerinin tarihsel gelişimi

• Fermi mimarisinde her biri 32 CUDA çekirdeğine sahip SM’ler (Streaming Multiprocessors) kullanıldı. Maksimum 16 SM ile toplam 512 CUDA çekirdeği birlikte çalışabiliyordu. Bu GPU’lar ayrıca maksimum 6 GB GDDR5 belleği destekliyordu.
• Kepler mimarisiyle CUDA çekirdeği sayısı üçe katlanarak 1536’ya çıkarıldı ve 28nm fabrikasyon teknolojisine geçildi.
• Maxwell ve Pascal mimarileri, SM başına 128 CUDA çekirdeği sunmaya devam etti. Maxwell’de tamsayı birimi kırpıldı ve özel çarpma birimi kaldırıldı.
• Turing mimarisi önemli değişiklikler getirdi: SM başına CUDA çekirdeği sayısı 64’e düşürüldü, Tensor çekirdekleri ve Işın İzleme çekirdekleri eklendi, TSMC’nin 12nm üretim teknolojisine geçildi. Ayrıca tamsayı ve kayan nokta birimleri ayrıldı.
• Ampere mimarisi 2. nesil Işın İzleme Çekirdeklerini getirdi. GA102 GPU’da 10.752 CUDA çekirdeği bulunuyor. Ampere’deki her CUDA çekirdeği saat döngüsü başına iki FP32 veya bir FP32 ve bir INT işlemi gerçekleştirebilir.
• Ada Lovelace mimarisi, kırpılmamış AD102 grafik kalıbında 12 GPC ve 144 SM ile toplam 18.432 CUDA çekirdeğine ulaşır. 3. nesil Ray Tracing ve 4. nesil Tensor çekirdekleri kullanılır. Ayrıca AV1 kodlama desteği sunan sekizinci nesil NVIDIA Encoder (NVENC) ile birlikte gelir.

CUDA çekirdeklerinin kullanım alanları

• Paralel işleme: CUDA çekirdekleri, GPU’nun aynı anda birden fazla hesaplama yapmasını sağlayarak CPU iş yükünü hafifletir ve karmaşık hesaplamaların çok daha kısa sürede tamamlanmasına olanak tanır.
• Grafik işleme: Vertex işleme, piksel gölgeleme, geometri işleme ve doku eşleme gibi grafikle ilgili görevler CUDA çekirdekleri üzerinde gerçekleşir. Oyun, sanal gerçeklik ve CAD uygulamalarında akıcı görsel deneyimler sunulur.
• Genel amaçlı GPU hesaplama (GPGPU): Bilimsel simülasyonlar, makine öğrenimi, veri analitiği gibi grafiklerin ötesindeki hesaplama görevleri CUDA çekirdeklerinin paralel işlem gücünden yararlanılarak hızlandırılır.
• CUDA Toolkit ve programlama: Geliştiriciler, CUDA Toolkit aracılığıyla GPU programlama modelleri ve kütüphanelerine erişir. Bu araç seti sayesinde CUDA özellikli GPU’larda çalışan kodlar yazılabilir ve paralel işleme yeteneklerinden yararlanılabilir.

CUDA çekirdekleri performansı nasıl etkiler?

• Bir GPU’nun performansını değerlendirirken göz önünde bulundurulması gereken pek çok faktör vardır: GPU saat hızları, mimari, bellek bant genişliği, bellek hızı, TMU’lar, VRAM ve ROP’lar performansı etkileyen unsurlardır.
• VRAM, nesneleri, dokuları, gölge haritalarını ve GPU aracılığıyla işlenen diğer tüm verileri tutar. VRAM’den erişmek, DRAM, SSD veya HDD’ye kıyasla çok daha hızlıdır.
• Aynı nesil içindeki GPU’ları karşılaştırırken CUDA sayısı iyi bir performans göstergesi olabilir. Örneğin GTX 960 1.024 CUDA’ya sahipken GTX 970 1.664 CUDA çekirdeği barındırır ve çok daha performanslıdır.
• Farklı nesil ve mimarilere sahip grafik kartlarını karşılaştırdığınızda ise işler değişir. GTX 1070, GTX 780 ile neredeyse aynı sayıda CUDA çekirdeğine sahiptir, ancak mimari farklar nedeniyle GTX 1070 çok daha üstündür. Yeni neslin tek bir CUDA çekirdeği, öncekine kıyasla çok daha güçlü olabilir.
• GPU’nuzun gerçek performansını anlamak için teknik detaylara takılmak yerine gerçek dünyadaki oyun veya hesaplama kıyaslamalarına bakmanız daha sağlıklı sonuçlar verir.

CUDA çekirdekleri, NVIDIA GPU’larının paralel hesaplama gücünün kalbinde yer alır. Grafik işlemeden yapay zeka uygulamalarına, bilimsel simülasyonlardan video düzenlemeye kadar geniş bir yelpazede kritik rol üstlenir. Bir GPU satın alırken veya performansını değerlendirirken CUDA çekirdeği sayısını göz önünde bulundurmak faydalı olsa da, mimari farklılıkları ve diğer teknik özellikleri de hesaba katmayı unutmayın.