Açık kaynaklı GPU Unlock projesi, NVIDIA GeForce RTX 30 serisindeki belirli hesaplama işlemlerini hızlandırmak için Linux çekirdek modülü sunuyor. yerel yapay zekâ çalıştıran kullanıcıları ilgilendiren proje, özellikle FP16 ve BF16 matris işlemlerine odaklanıyor. Geliştiricinin ve kullanıcıların paylaştığı ölçümler bazı görevlerde yüksek artış gösterse de bunlar bütün uygulamaların veya oyunların iki kat hızlanacağı anlamına gelmiyor.
GitHub’da Zagitta adıyla çalışan geliştirici, modülün değişiklik uygulanmamış NVIDIA sürücüsü kartı devralmadan önce bazı donanım ayarlarını değiştirdiğini anlatıyor. Proje, sürücüyü her yeni sürümde yeniden yamalama ihtiyacını azaltmayı amaçlıyor. Açıklama, bir UEFI uygulaması veya değiştirilmiş NVIDIA sürücüsü sunmadığını özellikle belirtiyor. Bununla birlikte araç, resmî bir NVIDIA performans güncellemesi niteliği taşımıyor.
Projenin RTX 3090 Ti için verdiği örnek tabloda, 450 W güç sınırındaki belirli matris testleri yer alıyor. Beş ölçümün ortanca değerlerine göre FP16 işlemi 87,46 TFLOPS’tan 118,39 TFLOPS’a çıkıyor. BF16 sonucu 87,50’den 157,41 TFLOPS’a, TF32 sonucu ise 42,58’den 82,61 TFLOPS’a yükseliyor. Bu rakamlar, ilgili test koşullarını temsil ediyor.
RTX 3090 Ti uyumluluk tartışması, sonuçların kullanıcı denemeleri üzerinden geliştiğini gösteriyor. Dolayısıyla listedeki her kart için aynı düzeyde doğrulama veya aynı kazanç bulunmuyor. Kart kimliği, güç sınırı, yazılım düzeni ve uygulamanın kullandığı hesaplama biçimi değerlendirmeyi değiştiriyor. Tek bir örneğin en yüksek sonucunu bütün seriye taşımamak gerekiyor.
Matris işlemindeki kazanç bütün uygulamalara aynı oranda taşınmıyor
Matris çarpımını yoğun kullanan yapay zekâ işleri bu tür değişikliklerden yararlanabiliyor. Ancak bir modelin çalışma sürecinin tamamı aynı tür işlemden oluşmuyor.
Bellek bant genişliğinin sınırladığı görevlerde, hesaplama birimlerinin hızlanması aynı oranda toplam kazanç yaratmıyor. Projenin kendi açıklaması da dil modeli yanıt üretiminin bazı aşamalarında ve INT8 işlerinde benzer bir artış beklemiyor.
Bunun yanında kullanıcı raporları, aynı GPU ailesinde bile güç sınırına bağlı farklılıklar gösteriyor. Bu nedenle kendi kartınız için anlamlı ölçüt, yalnızca sentetik TFLOPS sonucu değil, gerçekten kullandığınız uygulamanın tamamlanma süresi. Bir görüntü üretme iş akışıyla bir dil modelinin metin üretme süreci aynı darboğaza sahip olmayabilir. Bu ölçümler geliştiricilerin raporlarını temsil ediyor.
Projeye ilgi duyanların uyumluluk ve sorun kayıtlarını incelemesi gerekiyor. Çekirdek modülü, sıradan bir uygulama ayarından daha düşük düzeyde çalışıyor. Bu nedenle haberdeki performans rakamlarını hazır ve risksiz bir hızlandırma düğmesi gibi okumamak gerekiyor. Kurulum kararında kullanılan sistemin amacı ve geri dönüş planı önem taşıyor.
Mevcut veriler, RTX 30 serisinin bazı yapay zekâ işlerinde daha yüksek hesaplama verimine ulaşabileceğini gösteren kullanıcı raporları sunuyor. NVIDIA’nın bütün kartlar için onayladığı genel bir kazanç açıklaması bulunmuyor.
Projenin ilerlemesini değerlendirirken destek tablosundaki başarılı denemeler kadar başarısız veya henüz test edilmemiş yapılandırmaları da hesaba katmak gerekiyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir. Satış ortaklığı açıklaması
