Meta, belge çözümleme ve araç çağrısı gibi sık tekrarlanan işler için Muse Ember modelini duyurdu. Apple Watch’a gelen Muse asistanından farklı bir kullanım alanına sahip olan Ember, geliştiricilerin kendi uygulamalarına bağlayabildiği bir model. Meta’nın teknik duyurusuna göre model hem Muse Code’da hem de Meta Model API üzerinden kullanıma açıldı.
Bir yapay zekâ ajanının her isteği tek adımda sonuçlanmıyor. Örneğin bir destek kaydını işlerken önce dosyadan sipariş numarasını çıkarabilir, sonra uygun hizmete sorgu gönderebilir ve sonucu başka bir alana yazabilir. Bu işlemlerin her biri kısa olsa bile gün boyunca binlerce kez tekrarlandığında hız ve maliyet farkı büyüyor. Meta, Ember’i bu tür görevler için konumlandırıyor.
Şirket bir milyon giriş belirteci başına 0,10 dolar, bir milyon çıkış belirteci başına 0,50 dolar liste fiyatı açıklıyor. Ayrıca bir milyon belirteçlik bağlam penceresi ve 512 bine kadar çıkış belirteci desteği veriyor. Bu sınırlar, birden fazla uzun belgeyi aynı isteğe dahil etmek isteyen ekipler için önemli. Yine de bağlama sığması, modelin her ayrıntıyı aynı doğrulukla bulacağı anlamına gelmiyor.
Meta’nın duyurusunda farklı görevlerde değişen sonuçlar var. Örneğin Terminal-Bench 4.0 tablosunda Muse Ember yüzde 40,9, Claude Haiku 5.5 ise yüzde 39,2 düzeyinde görünüyor. Gerçek mühendislik görevlerinde birleşmeye uygun kodu ölçen FrontierCode 2.0 tablosunda ise Haiku önde. Bu fark, tek bir ölçüm üzerinden her iş akışı için üstünlük sonucu çıkarmayı zorlaştırıyor.
Muse Ember’in maliyeti gerçek iş yüküyle birlikte okunmalı
Bir modelin kullanım ücretini hesaplarken belge uzunluğu kadar modelin ürettiği metin miktarı ve aynı görevin kaç kez tekrarlandığı da önemli. Buna ek olarak biçimi hatalı çıkan bir yanıtı yeniden üretmek veya insan denetimine göndermek toplam maliyeti artırabilir. Dolayısıyla API fiyatı, işletme bütçesinin yalnızca bir bölümünü anlatıyor.
Meta’nın ürün kodu muse-ember-1.0. Duyuruda modelin özellikle yapılandırılmış veri çıkarma, kodlama alt görevleri ve belge çözümleme için kullanıldığı örnekler bulunuyor. Bir uygulamada asıl karşılaştırma, modelin seçilen işi kabul edilebilir doğrulukta kaç adımda ve ne kadar süreyle tamamladığı üzerinden yapılabilir.
Günün Öne Çıkan Fırsatları
