NVIDIA, Nemotron 3.5 Transcribe ses modelini 28 Ekim’de geliştiricilere açtı. Model, 40 dilde konuşmayı metne çevirmenin yanında kayıttaki konuşmacıları ayırıyor, çeviri yapıyor ve ses içeriğine ilişkin soruları yanıtlıyor. Açık ağırlıklar, geliştiricilere kayıtları kendi donanımlarında işleme seçeneği veriyor. Duyuru, RTX Spark bilgisayarlara gelen yeni yapay zeka araçlarını da içeriyor.
Bir toplantı kaydında yalnızca söylenenleri satır satır almakla yetinmek gerekmiyor. Geliştirici, konuşmacıları ayrı işaretleme veya toplantıda alınan kararları çıkarma talimatı verebiliyor. Ürün adlarını ve alana özgü sözcükleri de isteme ekleyebiliyor. Böylece sistem, aynı ses dosyası üzerinde farklı görevleri metin talimatıyla yerine getiriyor.
NVIDIA’nın model kartı, toplam büyüklüğü ses kodlayıcısıyla birlikte 34 milyar parametre olarak veriyor. Her işlemde yaklaşık 4,3 milyar parametre etkinleşiyor. Bu iki rakamı birbirinin yerine kullanmamak gerekiyor. Daha az etkin parametre, modelin bütün ağırlıklarının aynı ölçüde küçük olduğu anlamına gelmiyor.
Model kartında bağlam uzunluğu 65.536 belirteç, desteklenen kayıt süresi ise bir saate kadar. Girdi tarafında sesle birlikte metin talimatı ve isteğe bağlı ek bağlam bulunuyor. Çıktı metin biçiminde geliyor ve görev desteklediğinde sözcük zamanlarını da içerebiliyor. Konuşmacı etiketleri kayıt içindeki kişileri birbirinden ayırıyor, gerçek dünyadaki kimliklerini doğrulamıyor.
Yerel çalıştırma seçenekleri donanıma göre değişiyor
NVIDIA, BF16 sürümünün yanında FP8 ve NVFP4 seçeneklerini de listeliyor. Ancak hassasiyet biçimini seçmek, bütün bilgisayarlarda aynı kurulumun çalışacağı anlamına gelmiyor. Model kartı, donanım ve çalıştırma yazılımı için ayrı uyumluluk bilgileri sunuyor. Geliştiricinin indirdiği sürümle kullandığı yazılımın desteğini birlikte kontrol etmesi gerekiyor.
Şirket, RTX Spark, DGX Spark, Jetson AGX Thor ve GeForce RTX 5090 için çalıştırma seçeneklerinden söz ediyor. Modelin ağırlıkları açık olsa da kullanım koşulları OpenMDW-1.1 lisansına bağlı. Ticari kullanım olanağı, ses kayıtlarının gizliliği ve ilgili diğer yükümlülükleri kendiliğinden ortadan kaldırmıyor.
RTX Spark tarafındaki diğer yenilik, NVIDIA App üzerinden ön plandaki uygulamayla arka plandaki yapay zeka ajanı arasında GPU kaynaklarını paylaştırmak. Denetim, uygulamanın System bölümündeki Advanced alanında yer alıyor. Windows’ta donanım hızlandırmalı GPU zamanlamasının açık olması gerekiyor. Bu ayar, ses modelinden ayrı bir sistem özelliği olarak geliyor.
NVIDIA ayrıca Liquid AI’ın metin, görüntü ve ses görevlerine uzanan LFM3 ailesi için yerel çalıştırma desteğini duyuruyor. Bu araçlar aynı bilgisayarda farklı iş akışlarını mümkün kılıyor, ancak açıklanan sıralama ve hız sonuçları üreticinin belirttiği test koşullarına dayanıyor. Teknoblog, bu yeni modeller için bağımsız karşılaştırmalı ölçüm yayımlamadı.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir. Satış ortaklığı açıklaması