Nvidia yerel yapay zeka kurulumunu tek adıma indiriyor

Nvidia yerel yapay zeka modellerinin RTX bilgisayarlarda kurulmasını daha az adımlı hâle getiriyor. Şirket, llama.cpp temelli yeni entegrasyonlarını IFA 2026 kapsamında duyurdu. Hermes Agent, OpenClaw ve Perplexity Portable Computer bu desteği kullanacak ilk araçlar arasında yer alıyor. Kullanıcılar model indirme ve çalışma ortamı hazırlama işlemlerini uygulama içinden tamamlayabilecek.

Yeni seçenekler yerel modellerin sürücü, çalışma zamanı ve uyumlu dosya arama süreçlerini otomatikleştiriyor. Böylece komut satırında ayrı paketler kurma ihtiyacı azalıyor. Nvidia, geliştiricilerin yine ayrıntılı ayarlara erişebileceğini belirtiyor. Hazır kurulum ise ilk kez yerel model çalıştıracak bilgisayar sahiplerini hedefliyor.

Şirket llama.cpp ve vLLM için yaptığı iyileştirmelerin çıkarım hızını 1,9 kata kadar artırdığını söylüyor. Bu kazanç model, ekran kartı ve kullanılan bağlam uzunluğuna göre değişiyor. LM Studio ile Ollama güncellemeleri optimizasyonları doğrudan uygulamalara taşıyor. Nvidia Chat with RTX daha önce yerel dosyalarla çalışan benzer bir yaklaşım sunmuştu.

Yerel çalışma seçeneği istemleri ve kişisel dosyaları bilgisayarda tutabiliyor. Ayrıca internet erişimi kesildiğinde model, donanımın kapasitesi içinde yanıt üretmeye devam ediyor. Büyük modeller için yüksek ekran kartı belleği ve yeterli depolama alanı gerekiyor. Nvidia, uyumlu model önerilerini her aracın kurulum ekranında gösterecek.

Yeni entegrasyonlar RTX bilgisayarda model indirme sürecini kısaltıyor

Hermes Agent ve OpenClaw çok adımlı görevleri yerel modellerle yürütmek için yeni kurulum yolunu kullanacak. Perplexity Portable Computer ise taşınabilir, cihaz üzerinde çalışan arama ve yardımcı özelliklerine odaklanacak. Uygulamaların kesin sürüm tarihleri geliştiricileri tarafından ayrı ayrı açıklanacak. Nvidia desteği tek bir kapalı uygulamayla sınırlandırmıyor.

RTX 20 serisinden başlayan destek donanıma göre farklı performans seviyeleri sunacak. Daha yeni RTX kartları düşük hassasiyetli hesaplamalar ve geniş bellek kapasitesiyle daha büyük modelleri çalıştırabilecek. RTX 40 serisine genişleyen Nvidia desteği yazılım güncellemelerinin eski kartlara da ulaştığını gösteriyor. İndirme bağlantıları uygulamaların yeni sürümleriyle açılacak.