Nvidia yerel yapay zeka modellerinin RTX bilgisayarlarda kurulmasını daha az adımlı hâle getiriyor. Şirket, llama.cpp temelli yeni entegrasyonlarını IFA 2026 kapsamında duyurdu. Hermes Agent, OpenClaw ve Perplexity Portable Computer bu desteği kullanacak ilk araçlar arasında yer alıyor. Kullanıcılar model indirme ve çalışma ortamı hazırlama işlemlerini uygulama içinden tamamlayabilecek.
Yeni seçenekler yerel modellerin sürücü, çalışma zamanı ve uyumlu dosya arama süreçlerini otomatikleştiriyor. Böylece komut satırında ayrı paketler kurma ihtiyacı azalıyor. Nvidia, geliştiricilerin yine ayrıntılı ayarlara erişebileceğini belirtiyor. Hazır kurulum ise ilk kez yerel model çalıştıracak bilgisayar sahiplerini hedefliyor.
Şirket llama.cpp ve vLLM için yaptığı iyileştirmelerin çıkarım hızını 1,9 kata kadar artırdığını söylüyor. Bu kazanç model, ekran kartı ve kullanılan bağlam uzunluğuna göre değişiyor. LM Studio ile Ollama güncellemeleri optimizasyonları doğrudan uygulamalara taşıyor. Nvidia Chat with RTX daha önce yerel dosyalarla çalışan benzer bir yaklaşım sunmuştu.
İLGİNİZİ ÇEKEBİLİR
Volvo, yeni otomatik sürüş sistemi için Nvidia ortaklığını genişletti
Yapay zeka ajanları internette erişim engelleriyle karşılaşıyor, ortaklıklar önem kazanıyor
North.cloud 60 milyon dolar aldı, bulut ve yapay zeka harcamasını yönetecek
Tencent, testteki yapay zeka ajanlarının beklenmeyen web işlemlerini doğruladı
Yapay zeka ajanları Hindistan’da şirketlerin gizli kayıtlarına erişti
Yerel çalışma seçeneği istemleri ve kişisel dosyaları bilgisayarda tutabiliyor. Ayrıca internet erişimi kesildiğinde model, donanımın kapasitesi içinde yanıt üretmeye devam ediyor. Büyük modeller için yüksek ekran kartı belleği ve yeterli depolama alanı gerekiyor. Nvidia, uyumlu model önerilerini her aracın kurulum ekranında gösterecek.
Yeni entegrasyonlar RTX bilgisayarda model indirme sürecini kısaltıyor
Hermes Agent ve OpenClaw çok adımlı görevleri yerel modellerle yürütmek için yeni kurulum yolunu kullanacak. Perplexity Portable Computer ise taşınabilir, cihaz üzerinde çalışan arama ve yardımcı özelliklerine odaklanacak. Uygulamaların kesin sürüm tarihleri geliştiricileri tarafından ayrı ayrı açıklanacak. Nvidia desteği tek bir kapalı uygulamayla sınırlandırmıyor.
RTX 20 serisinden başlayan destek donanıma göre farklı performans seviyeleri sunacak. Daha yeni RTX kartları düşük hassasiyetli hesaplamalar ve geniş bellek kapasitesiyle daha büyük modelleri çalıştırabilecek. RTX 40 serisine genişleyen Nvidia desteği yazılım güncellemelerinin eski kartlara da ulaştığını gösteriyor. İndirme bağlantıları uygulamaların yeni sürümleriyle açılacak.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
