NVIDIA Chat with RTX (RTX ile sohbet edin) yapay zeka dünyasına 13 Şubat 2024 tarihinde giriş yaptı. Dünya genelinde milyonlarca kişi tarafından kullanılan sohbet botlarına bir yenisi daha eklendi. Artık bu önemli yapay zeka NVIDIA RTX ile güçlendirilmiş Windows PC’lerde yer alıyor. NVIDIA getirdiği yeni özellik sayesinde yerel, hızlı ve özelleştirilebilir yapay zeka deneyimi sunuyor.
NVIDIA ile güçlendirilmiş Windows PC’lerine yönelik indirilebilir ve ücretsiz olan NVIDIA Chat with RTX, kullanıcıların kendi içerikleriyle sohbet botlarını kişiselleştirmelerini sağlayan bir teknoloji demosu olarak karşımıza çıkıyor. NVIDIA Chat with RTX kullanmak için RTX 30 serisi veya üstü bir grafik kartına ve en az 8 GB (VRAM) ekran kartı belleğine sahip bir GPU’ya ihtiyacınız var.
NVIDIA Chat with RTX nedir?
NVIDIA bu yapay zekayı geliştirmek için oldukça teknik bazı kendi teknolojilerinden faydalandı. NVIDIA Chat with RTX’in alt yapısında kullandığı teknolojiler:
- “Geri alınan artırılmış üretim” (RAG),
- NVIDIA TensorRT-LLM (Büyük dil modeli) yazılımı,
- NVIDIA RTX hızlandırmasını
NVIDIA şu an için sadece GeForce destekli Windows PC’lere bu özelliği demo olarak sundu. Diğer online yapay zekalardan farklı olarak kullanıcılar, NVIDIA Chat with RTX bilgisayarlarına kuracaklar. Bu durum size özel bir yapay zeka deneyimi sunacak. ChatGPT, Gemini ya da Llama 2 gibi kullanabileceksiniz.
Kullanıcılar, notlar veya kayıtlılar almak yerine artık sadece NVIDIA Chat with RTX sorabilirler. Böylelikle yapay zeka sizin için tüm notlarınızı ve hatırlatmalarınızı tutar. İlerleyen zamanlarda istenilen bilgi lazım olunca, sadece sorgularını yazabilirler. Örneğin, “Erzurum’lu arkadaşımın önerdiği restoran hangisiydi?” gibi bir soru sorabilir ve Chat with RTX, kullanıcının daha önce bu konu hakkında söylediği dosyaları bulup size restoranın ismini verir.
Yapay zeka, “.txt, .pdf, .doc/.docx ve .xml” gibi çeşitli dosya biçimlerini de destekliyor. Kullanıcılar, uygulamayı bu dosyaları içeren klasöre yönlendirdiklerinde, araç bunları saniyeler içinde kütüphanesine yükler. Ayrıca dosyaları düzenleme ve değiştirme de yapabilirsiniz.
Kullanıcılar ayrıca YouTube videolarından ve çalma listelerinden bilgileri dahil edebilirler. NVIDIA Chat with RTX’e bir video URL’si eklemek, kullanıcıların bu bilgiyi sohbet botlarına entegre etmelerini sağlıyor. Örneğin, favori içerik üreticinizin videolarından bir izleme listesi yaptırabilir ya da en iyi eğitim kaynaklarına dayalı hızlı öğretici videolar isteyebilir veya nasıl yapılır bilgilerinden oluşan bir kolaj oluşturabilirsiniz.
NVIDIA Chat with RTX, Windows RTX PC’lerinde ve iş istasyonlarında yüklü olarak çalıştığı için yapay zeka çevrimiçi rakiplerine göre çok hızlı sonuçlar üretiyor. Ayrıca gizliliğinize önem veren araç, verilerinizi cihazınızda tutuyor. Bulut tabanlı LLM hizmetlerine güvenmek yerine, Chat with RTX kullanıcıların hassas verileri bir üçüncü taraf ile paylaşmadan veya internet bağlantısı olmadan yerel bir PC’de işlemesine olanak tanıyor.
NVIDIA Chat with RTX sistem gereksinimleri
| Sistem Gereksinimi | Minimum |
|---|---|
| Grafik Kartı | NVIDIA GeForce RTX 30 Serisi veya daha yüksek |
| Video Belleği (VRAM) | En az 8GB |
| İşletim Sistemi | Windows 10 veya Windows 11 |
| Ekran Kartı Sürücüsü | En son NVIDIA GPU sürücüsü |
Chat with RTX, RTX GPU’ları ile LLM’leri hızlandırma potansiyelini göstermekte. Uygulama, GitHub’da bulunan TensorRT-LLM RAG geliştirici referans projesinden oluşturuldu. Eğer sizde bir geliştiriciyseniz, referans projeyi ücretsiz olarak kullanabilir ve kendi RAG tabanlı uygulamalarını RTX için TensorRT-LLM tarafından hızlandırılarak geliştirebilir ve dağıtabilirsiniz. Açık kaynaklı bu kod NVIDIA’nın konu hakkındaki dürüstlüğünü ve kullanıcı dostu olduğunu gösteriyor.
Ayrıca, NVIDIA Generative AI on NVIDIA RTX geliştirici yarışmasına katılabilirsiniz. RTX ile hızlandırılmış kendi RAG tabanlı uygulamasını veya eklentisini sunarak 23 Şubat Cuma gününe kadar şansınızı deneyin. Ödüller arasında GeForce RTX 4090 GPU gibi birçok güzel ürün bulunmakta.
ChatGPT artık hatırlayıp unutabilecek
Yukarıdaki bilgilere dayanarak, NVIDIA RTX Chat with RTX teknolojisi, yerel yapay zeka deneyimini yepyeni bir seviyeye taşıyor. Kullanıcılar, güçlü ve hızlı sonuçlarla verilerini güvenle işleyebilir ve özelleştirilmiş sohbet deneyimlerini kolayca oluşturabilirler. Bu, yapay zeka teknolojisinin kişiselleştirilmesi ve güvenli bir şekilde kullanılmasında önemli bir adım olarak karşımıza çıkıyor.
Öne çıkan kaynak görseli: NVIDIA
