Nvidia, kurumsal yapay zekâ ajanları ve kişisel bilgisayarlarda yerel olarak çalışabilen yapay zekâ uygulamaları için geliştirdiği yeni açık ağırlıklı modellerini tanıttı. Şirketin duyurduğu Nemotron 3.5 Super VL, 120 milyar parametreli yapısıyla özellikle işletmelerin sürekli çalışan yapay zekâ ajanlarına yönelik ihtiyaçlarını karşılamayı hedefliyor. Bunun yanında daha düşük donanım gereksinimleriyle çalışacak iki farklı Nemotron Bolt modeli de kullanıcılara sunuluyor. Yeni modeller, bulut tabanlı sistemlere bağımlılığı azaltmak isteyen kurumların yanı sıra yapay zekâ işlemlerini doğrudan kendi bilgisayarında gerçekleştirmeyi tercih eden kullanıcıları da hedefliyor. Nvidia böylelikle Nemotron model ailesini hem büyük ölçekli kurumsal altyapılar hem de yerel bilgisayar sistemleri için genişletmiş oluyor.
Nemotron 3.5 Super VL, şirketin daha büyük Nemotron 3 Ultra modeline kıyasla daha az parametre kullanmasına rağmen belirli görevlerde benzer doğruluk seviyelerine ulaşabiliyor. Nvidia’nın verdiği bilgilere göre model, özellikle komutları doğru şekilde yerine getirme ve harici araçları kullanma konusunda daha büyük modellerle karşılaştırılabilir sonuçlar sunuyor. Bu özellikler, farklı yazılım servisleriyle iletişim kuran ve birden fazla aşamadan oluşan görevleri yerine getiren yapay zekâ ajanları açısından öne çıkıyor. Bunun yanı sıra modelin belirli kurumsal iş akışlarına uyarlanabilmesi, şirketlerin kendi verileriyle özelleştirilmiş sistemler geliştirmesine olanak tanıyor. Açık ağırlıklı yapısı sayesinde kuruluşlar modeli kendi altyapılarında çalıştırabiliyor ve ihtiyaçlarına göre ek eğitim süreçlerinden geçirebiliyor.
Nvidia’nın Açık Modeller ve Yazılım Başkan Yardımcısı Kari Briski, yeni modellerle ilgili açıklamasında Nvidia altyapısında yapay zekâ ajanları çalıştırmak isteyen kuruluşların farklı donanım seviyelerine uygun seçeneklere erişebileceğini belirtti. Briski’ye göre şirketler, modelin yetenekleri ile kullanılacağı ortamın donanım koşulları arasında kesin bir tercih yapmak zorunda kalmayacak. Nvidia, özellikle kurumların kendi veri merkezlerinde çalıştırabildiği modellerin sunduğu esnekliğe dikkat çekiyor. Kapalı sistemlerden farklı olarak Nemotron 3.5 Super VL’nin şirketlere ait verilerle yeniden eğitilebilmesi ve kurumların kontrolündeki altyapılarda kullanılabilmesi mümkün. Bu yaklaşım, hassas verilerini üçüncü taraf bulut hizmetlerine göndermek istemeyen işletmeler için alternatif oluşturuyor.
Nvidia Nemotron 3.5 Super VL ve Bolt modelleri neler sunuyor?
Nvidia, Nemotron 3.5 Super VL’nin belirli yapay zekâ ajanı görevlerine yönelik ek eğitimden geçirildiğinde Anthropic ve OpenAI’ın bazı rakip modellerinden daha hızlı sonuç üretebildiğini öne sürüyor. Şirketin karşılaştırmalarında belge analizi, finansal muhasebe, bilimsel deneyler, sağlık sigortası taleplerinin değerlendirilmesi ve güvenlik saldırılarına karşı dayanıklılık gibi farklı kullanım alanları bulunuyor. Bununla birlikte bu performans iddialarının Nvidia tarafından paylaşılan test sonuçlarına dayandığını belirtmek gerekiyor. Modellerin gerçek kullanım koşullarındaki başarısı, kullanılan donanım, görevlerin karmaşıklığı ve eğitim verileri gibi unsurlara bağlı olarak değişebiliyor. Dolayısıyla daha yüksek işlem hızı, her senaryoda daha iyi sonuç alınacağı anlamına gelmiyor.
Şirket, Nemotron 3.5 Super VL’yi kullanan kuruluşlar arasında Skydance, EY, Ramp, CrowdStrike, Perplexity ve Salesforce gibi isimlerin bulunduğunu da açıkladı. Farklı sektörlerden şirketlerin listede yer alması, modelin yalnızca tek bir kurumsal kullanım alanına odaklanmadığını gösteriyor. Nvidia’nın Nemotron ailesinde daha önce de çok modlu yapay zekâ, akıl yürütme, yazılım geliştirme, matematik ve kurumsal otomasyon gibi görevler için hazırlanmış modeller bulunuyordu. Yeni Super VL modeli de bu seçenekleri genişletiyor. Öte yandan modelin kurumlara uyarlanması, yalnızca ağırlık dosyalarının erişilebilir olmasıyla sınırlı değil; veri güvenliği, altyapı yönetimi ve modelin düzenli olarak değerlendirilmesi gibi ek gereksinimleri de beraberinde getiriyor.
Nvidia’nın duyurusundaki diğer modeller ise kişisel bilgisayarlarda ve daha küçük ölçekli sistemlerde çalıştırılmak üzere hazırlanan Nemotron Bolt seçenekleri oldu. Nemotron 3.5 Bolt 74B-A9B 24GB, toplam 74 milyar parametreye sahip ve yerel yapay zekâ ajanı görevleri için tasarlanmış bir model olarak öne çıkıyor. Nvidia, modelin işlem hızı ile akıl yürütme becerileri arasında denge kurmasını hedefliyor. Çok aşamalı görevleri tamamlama, araç çağırma ve internette gezinme gibi işlemler desteklenen kullanım alanları arasında bulunuyor. Daha küçük Bolt E4B modeli ise özellikle kullanıcılarla doğal dil üzerinden iletişim kuran sohbet tabanlı yapay zekâ ajanlarına yönelik geliştirildi.
Bolt modelleri, Nvidia RTX Spark işlemcili yapay zekâ bilgisayarları ve DGX Spark tabanlı iş istasyonları gibi donanımlarda yerel olarak çalıştırılabilecek. Nvidia, Microsoft ve Dell gibi iş ortaklarının sunduğu bilgisayar sistemleriyle bu tür uygulamaların daha geniş bir kullanıcı kitlesine ulaşmasını amaçlıyor. Yerel çalışma özelliği sayesinde yapay zekâ ajanları, belirli görevleri yerine getirmek için sürekli olarak uzak sunuculara veri göndermek zorunda kalmayabiliyor. Bu durum özellikle kişisel belgeler, finansal bilgiler ve diğer hassas içeriklerle çalışan kullanıcılar açısından avantaj sağlayabilir. Ne var ki yerel modellerin performansı da bilgisayarın bellek kapasitesine, işlem gücüne ve yazılım desteğine bağlı olduğundan bütün sistemlerde aynı deneyimin elde edilmesi beklenmemeli.
Yapay zekâ ajanlarının kişisel bilgisayarlarda çalışması, veri gizliliği tartışmaları açısından da farklı bir seçenek sunuyor. Günümüzde birçok yapay zekâ asistanı, kullanıcıların takvimlerine, dosyalarına, e-postalarına ve çeşitli çevrim içi hesaplarına erişerek görevleri otomatikleştirebiliyor. Bu tür erişimler kullanışlı olsa da kişisel bilgilerin bulut hizmetleriyle paylaşılması konusunda soru işaretleri oluşturabiliyor. Nvidia’nın yerel modellere odaklanması, belirli işlemlerin cihaz üzerinde tamamlanmasına ve verilerin kullanıcının kontrolündeki sistemlerde tutulmasına imkân veriyor. Bununla birlikte bir modelin yerel olarak çalışması, kullandığı bütün uygulamaların çevrim dışı olduğu veya hiçbir bilginin üçüncü taraf hizmetlere aktarılmadığı anlamına gelmiyor.
Nvidia’nın açık ağırlıklı modellere verdiği ağırlık, yapay zekâ altyapısı pazarındaki rekabetle de bağlantılı. Şirketin grafik işlemcileri büyük yapay zekâ modellerinin eğitimi ve çalıştırılmasında yaygın biçimde kullanılıyor. Buna rağmen büyük yapay zekâ geliştiricileri, altyapı maliyetlerini ve tedarik bağımlılıklarını azaltmak amacıyla AWS Trainium ve Cerebras gibi alternatif donanımları da değerlendiriyor. Bazı teknoloji şirketleri ise kendi yapay zekâ işlemcilerini geliştiriyor. Nvidia’nın Nemotron modellerini genişletmesi, donanım ürünlerinin yanında yazılım ve model seçeneklerini de daha çeşitli kullanım senaryolarına uyarlamasını sağlıyor.
Nemotron 3.5 Super VL ve Nemotron 3.5 Bolt 74B-A9B 24GB modelleri kullanıma sunulmuş durumda. Nvidia, daha küçük Bolt E4B modelinin ise duyurunun yapıldığı ayın ilerleyen günlerinde erişilebilir olacağını belirtiyor. Yeni seçenekler, yüksek kapasite gerektiren kurumsal uygulamalar ile kişisel bilgisayarlarda çalışan daha hafif yapay zekâ ajanları arasında farklı ihtiyaçlara hitap ediyor. Özellikle modellerin kurumların kendi verileriyle özelleştirilebilmesi ve belirli işlemlerin yerel donanımda gerçekleştirilebilmesi dikkat çekiyor. Buna karşılık gerçek kullanım deneyiminde elde edilecek performans, donanım maliyetleri ve sistemlerin bakım gereksinimleri, bu modellerin hangi alanlarda tercih edileceğini belirleyen başlıca etkenler olacak.
İLGİNİZİ ÇEKEBİLİR
Nvidia RTX kartlar için yeni araç VBIOS’u karta yazmadan değiştiriyor
Samsung, Nvidia’nın NVHBM belleğinde TSMC’nin 3 nm üretimini kullanabilir
Meta, tartışma yaratan koşullardan yapay zekâ eğitimi ifadesini çıkardı
NVIDIA ve Cisco, yapay zeka ağları için 12,8 Tbps’ye uzanan USFP bağlantısını tasarlıyor
IMF ve Barclays, yapay zeka yatırımlarında borç riskini öne çıkarıyor
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir. Satış ortaklığı açıklaması
