Nvidia yerel yapay zeka modellerinin RTX bilgisayarlarda kurulmasını daha az adımlı hâle getiriyor. Şirket, llama.cpp temelli yeni entegrasyonlarını IFA 2026 kapsamında duyurdu. Hermes Agent, OpenClaw ve Perplexity Portable Computer bu desteği kullanacak ilk araçlar arasında yer alıyor. Kullanıcılar model indirme ve çalışma ortamı hazırlama işlemlerini uygulama içinden tamamlayabilecek.
Yeni seçenekler yerel modellerin sürücü, çalışma zamanı ve uyumlu dosya arama süreçlerini otomatikleştiriyor. Böylece komut satırında ayrı paketler kurma ihtiyacı azalıyor. Nvidia, geliştiricilerin yine ayrıntılı ayarlara erişebileceğini belirtiyor. Hazır kurulum ise ilk kez yerel model çalıştıracak bilgisayar sahiplerini hedefliyor.
Şirket llama.cpp ve vLLM için yaptığı iyileştirmelerin çıkarım hızını 1,9 kata kadar artırdığını söylüyor. Bu kazanç model, ekran kartı ve kullanılan bağlam uzunluğuna göre değişiyor. LM Studio ile Ollama güncellemeleri optimizasyonları doğrudan uygulamalara taşıyor. Nvidia Chat with RTX daha önce yerel dosyalarla çalışan benzer bir yaklaşım sunmuştu.
İLGİNİZİ ÇEKEBİLİR
Nvidia PAIR evdeki bilgisayarları yerel AI ağına bağlıyor
NVIDIA yapay zekânın en büyük platformlarından Hugging Face’i satın alıyor
Nvidia 3,5 milyar dolarlık yatırımla özel yapay zekâ çiplerine açılıyor
Nvidia RTX Spark ekimde geliyor, N1X 128 GB belleğe çıkıyor
Nvidia DLSS 5 için geri adım attı, RTX 40 desteği geliyor
Yerel çalışma seçeneği istemleri ve kişisel dosyaları bilgisayarda tutabiliyor. Ayrıca internet erişimi kesildiğinde model, donanımın kapasitesi içinde yanıt üretmeye devam ediyor. Büyük modeller için yüksek ekran kartı belleği ve yeterli depolama alanı gerekiyor. Nvidia, uyumlu model önerilerini her aracın kurulum ekranında gösterecek.
Yeni entegrasyonlar RTX bilgisayarda model indirme sürecini kısaltıyor
Hermes Agent ve OpenClaw çok adımlı görevleri yerel modellerle yürütmek için yeni kurulum yolunu kullanacak. Perplexity Portable Computer ise taşınabilir, cihaz üzerinde çalışan arama ve yardımcı özelliklerine odaklanacak. Uygulamaların kesin sürüm tarihleri geliştiricileri tarafından ayrı ayrı açıklanacak. Nvidia desteği tek bir kapalı uygulamayla sınırlandırmıyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
RTX 20 serisinden başlayan destek donanıma göre farklı performans seviyeleri sunacak. Daha yeni RTX kartları düşük hassasiyetli hesaplamalar ve geniş bellek kapasitesiyle daha büyük modelleri çalıştırabilecek. RTX 40 serisine genişleyen Nvidia desteği yazılım güncellemelerinin eski kartlara da ulaştığını gösteriyor. İndirme bağlantıları uygulamaların yeni sürümleriyle açılacak.
