Mistral AI, ay başında API üzerinden kullanıma sunduğu Large 4 modelinin indirilebilir ağırlıklarını 29 Ekim’de yayımladı. Hugging Face’in duyurduğu sürüm, kuruluşlara modeli kendi altyapısında çalıştırma seçeneği getiriyor. Böylelikle yeni gelişme, modelin ilk tanıtımından farklı olarak dağıtım ve kullanım denetimini doğrudan kullanıcıya taşıyor.
Large 4 metin ve görselleri girdi olarak kabul ediyor, yanıtlarını ise metin olarak üretiyor. Yaklaşık bir trilyon toplam parametreye sahip model, her işlemde bütün kapasitesini aynı anda devreye sokmuyor. Uzman karışımı mimarisi belirli görevler için ilgili uzmanları seçiyor. Bir milyon tokenlık bağlam penceresi de uzun belgeleri ve kapsamlı kod depolarını birlikte ele almaya yardımcı oluyor.
Bunun yanında iki resmî dosya seçeneği bulunuyor. FP8 sürümüne ek olarak NVFP4 sürümü daha düşük bellek kullanımı hedefliyor. Ancak NVFP4’ün Blackwell grafik işlemcilerini hedeflediğini unutmamak gerekiyor. Dosyanın indirilebilmesi, modelin sıradan bir dizüstü bilgisayarda tam kapasiteyle çalışacağı anlamına gelmiyor.
Hugging Face, Transformers, vLLM ve llama.cpp desteğini de duyurdu. Bu araçlar farklı kurulum ve çalıştırma yolları sunuyor. Kurumsal ekipler için asıl değişiklik, verileri uzaktaki bir API’ye göndermeden kendi dağıtımlarını oluşturabilmek. Yine de donanım, bakım ve erişim yönetimi sorumluluğu bu seçenekte kuruluşun üzerinde kalıyor.
Açık ağırlıklar, sınırsız hizmet lisansı anlamına gelmiyor
Mistral’ın resmî model kartı, ticari ve ticari olmayan kullanıma izin veren Mistral Ecosystem Open-Weight License koşullarını açıklıyor. Buna karşılık modeli hizmet olarak sunan bir işletme kurmak için Mistral ile ayrı bir ticari lisans gerekiyor. Bu nedenle açık ağırlık ifadesini her kullanım biçiminde koşulsuz serbestlik olarak değerlendirmemek gerekiyor.
Model kartında düşük, orta ve yüksek olmak üzere üç akıl yürütme düzeyi yer alıyor. Varsayılan seçenek yüksek düzey. Ayrıca işlev çağırma, yapılandırılmış JSON çıktısı ve görsel belge inceleme gibi özellikler geliştiricilere yönelik kullanım alanlarını genişletiyor. Şirket, eğitimi Avrupa’daki kendi veri merkezlerinde gerçekleştirdiğini de belirtiyor.
Siber güvenlik, kodlama ve kurumsal iş akışları yeni sürümün öne çıkan alanları arasında bulunuyor. Buradaki başarı değerlendirmelerini, kullanılan sınama ve koşullarla birlikte okumak gerekiyor. Bir ekip için uygunluğu belirleyen nokta, modelin genel iddiasından çok kendi belgeleri, kodları ve erişim kurallarıyla elde ettiği sonuç olacak. Kritik çıktılarda insan denetimi ihtiyacı da devam ediyor.
Günün Öne Çıkan Fırsatları
