Google, aynı içerik üzerinde bin adede kadar bağımsız soruyu tek istekte değerlendirebilen Gemini Decisions API hizmetini duyurdu. 11 Kasım’da açıklanan sistem, uzun yanıtlar yazmak yerine geliştiricinin belirlediği seçeneklere olasılık ve güven puanı veriyor. Böylece bir uygulama, içeriği hangi kategoriye koyacağını veya isteği hangi modele yönlendireceğini bu sonuçlara göre belirleyebiliyor. Yeni hizmet, Gemini 4 Carbon gibi açık uçlu görevleri üstlenen modellerden farklı bir ihtiyaca odaklanıyor.
Sistemin merkezinde Gemini Decision 1 modeli bulunuyor. Metin, fotoğraf, ses, video ve PDF dosyalarını işleyebilen model, aynı girdiyi farklı sorular için yeniden kullanıyor. Google, desteklenen bağlam uzunluğunu 256 bin token olarak açıklıyor. Buradaki bin soru sınırı, bin farklı sohbetin yürütülmesi anlamına gelmiyor; geliştirici, ortak içeriğin karşısına birbirinden bağımsız değerlendirme soruları koyuyor.
Gemini Decisions API, yanıt üretmek yerine seçenekleri puanlıyor
Google’ın geliştirici belgesinde üç değerlendirme biçimi yer alıyor. Evet veya hayır sorularında sistem, ifadenin doğru olma olasılığını hesaplıyor. Çoktan seçmeli sorularda en uygun seçeneği ve diğer seçeneklerin olasılıklarını döndürüyor. Puanlama türünde ise içeriği önceden tanımlanmış ölçütlere göre değerlendiriyor. Uygulama, bu sayısal sonuçları doğrudan kullanabildiği için serbest biçimli bir yanıtı ayrıca ayrıştırmak zorunda kalmıyor.
Örneğin bir destek sistemi, aynı müşteri mesajından konuyu, aciliyeti ve doğru destek birimini ayrı ayrı çıkarabilir. Bir içerik platformu da gönderinin belirli kurallara uygunluğunu kontrol edip kuşkulu sonuçları insan incelemesine ayırabilir. Bunlar, hizmetin yaklaşımını açıklayan kullanım senaryoları; sistemin her dilde veya her içerik türünde aynı doğrulukla çalıştığını gösteren test sonuçları değil. Özellikle Türkçe içeriklerde başarıyı görmek için gerçek kullanım örneklerinden oluşan ayrı bir değerlendirme gerekiyor.
Güven puanının nasıl kullanılacağı da geliştiriciye kalıyor. Google’ın belgesi, seçeneklerin hiçbiri uygun olmadığında bile çoktan seçmeli değerlendirmenin bu seçenekler arasında olasılık dağıttığını belirtiyor. Bu nedenle “diğer” gibi bir seçenek eklemek veya düşük güvenli yanıtları ayrı bir kontrole göndermek önem taşıyor. Sorular birbirlerinin sonuçlarını görmediğinden, bir kararı önceki kararın yanıtına bağlayan süreçlerin mantığını uygulamanın ayrıca kurması gerekiyor.
Google, uçtan uca gecikme için 150 ile 250 milisaniye aralığını paylaşıyor. Ancak bu ölçüm, 16 bin tokena kadar bağlam ve bir ile 100 soru arasındaki denemelerle açıklanıyor. Dolayısıyla en uzun girdide bin sorunun da aynı sürede tamamlandığı sonucu çıkmıyor. Şirketin Gemini 3.5 Flash-Lite ile ortak testlerde açıkladığı yaklaşık beş katlık maliyet avantajı da Google’ın kendi karşılaştırmasına dayanıyor; bağımsız performans ölçümü olarak değerlendirilmemeli.
Resmî fiyat tablosuna göre ücretli katmanda bir milyon giriş tokenının bedeli 0,10 dolar. Model metin üretmediği için çıkış tokenı ücreti bulunmuyor. Ortak girdi, soru sayısından bağımsız olarak istek başına bir kez ücretleniyor; buna karşılık her sorunun talimatları ve değerlendirme ölçütleri ek giriş tokenı oluşturuyor. Bu ayrım, “bin kararın maliyeti her zaman aynıdır” şeklinde bir hesap yapılmasını engelliyor.
Ücretsiz deneme katmanı da mevcut. Bununla birlikte fiyat tablosu, ücretsiz katmandaki verilerin ürünleri geliştirmek için kullanılabildiğini, ücretli katmanda ise kullanılmadığını belirtiyor. Müşteri mesajı veya şirket belgesi işleyecek ekiplerin maliyet kadar bu koşullara da bakması gerekiyor. Decisions API ayrıca ayrı Batch API hizmetini desteklemiyor. Çok sayıda soruyu aynı istekte değerlendirmek, sonradan işlenen toplu görev hizmetiyle aynı şey değil.
Yeni API’nin pratik değeri, bir uygulamanın her küçük sınıflandırma işi için uzun bir üretken yanıt beklemesini azaltabilmesinde yatıyor. Buna rağmen sonuçlara bağlanacak işlemler, yanlış kararın maliyeti ve insan kontrolünün devreye gireceği eşikler uygulama tasarımının parçası olmaya devam ediyor. Geliştiriciler, hizmeti Google AI Studio üzerinden deneyebiliyor.
Günün Öne Çıkan Fırsatları
