OpenAI’nin yeni açık kaynaklı dil modeli gpt‑oss‑20b, Microsoft’un Windows AI Foundry platformu aracılığıyla artık Windows 11 kullanıcıları tarafından yerel olarak çalıştırılabiliyor. 16 GB VRAM’e sahip bir bilgisayar gerektiren model, geliştiriciler için çevrimdışı ortamda da kullanılabilecek bir çözüm sunuyor.
Model, metin oluşturma ve araç entegrasyonu gibi görevlerde etkili olacak şekilde optimize edilmiş durumda. Özellikle geliştirici odaklı uygulamalarda, yerel yürütme yetenekleri sayesinde ağ bağlantısına bağlı kalmadan sonuç üretilebiliyor. Microsoft, bu modeli Visual Studio Code ve Windows Terminal gibi araçlarla entegre bir şekilde kullanılabilir hale getirmiş durumda. Kurulum işlemi ise Winget üzerinden birkaç komutla tamamlanabiliyor. Bu adımla birlikte OpenAI’nin bir modeli ilk kez yerel olarak Windows cihazlarda erişilebilir hale geliyor.
gpt‑oss‑20b, OpenAI tarafından açık ağırlıklı (open-weight) olarak yayımlanan ilk modellerden biri olma özelliği taşıyor. Apache 2.0 lisansıyla paylaşılan model, hem bireysel hem kurumsal geliştiricilerin yeniden ince ayar yapmasına izin veriyor. Modelin, kod yazımı, matematiksel hesaplama ve sağlık verisi analizi gibi alanlarda düşük gecikmeli sonuçlar verdiği ifade ediliyor. Ne var ki modelin, kişi verisi içeren sorularda %53 oranında yanlış bilgi üretebildiği bilgisi de resmi belgelerde yer alıyor. Bu nedenle hassas içeriklerde modelin çıktılarının doğrulanması öneriliyor.
Microsoft, gpt‑oss‑20b modelini Foundry Local ile yerel çalıştırılabilir hale getirdi
Windows AI Foundry platformu, Azure AI Foundry’nin masaüstü sürümü olarak konumlandırılıyor ve çevrimdışı çalışan sistemlerde kullanılmak üzere tasarlanıyor. Bu platform, model eğitimi, güncelleme, sürüm takibi ve model dışa aktarma gibi işlemleri destekliyor. gpt‑oss‑20b modelinin yanı sıra daha büyük bir versiyon olan gpt‑oss‑120b de aynı açık lisans ile duyuruldu. Microsoft, ilerleyen dönemde macOS desteğinin de ekleneceğini belirtiyor. Ayrıca AMD’nin Ryzen AI destekli yeni nesil sistemlerinin bu modeli yüksek performansla çalıştırabildiği doğrulandı.
gpt‑oss‑20b, o3‑mini modeliyle benzer sonuçlar verirken, özellikle yazılım geliştirme süreçlerinde kullanılan araçlarla etkileşimli çalışması sayesinde farklı kullanım alanlarına hitap edebiliyor. Görüntü, ses ve video verisiyle etkileşim kuramıyor ancak çoklu komut zincirleriyle görev odaklı işlem yapabiliyor. Microsoft’un sunduğu kurulum yönergeleri sayesinde kullanıcılar komut satırı üzerinden modeli çalıştırabiliyor. Bu da modelin sadece bulut üzerinde değil, yerel ağlar ve bağımsız sistemlerde de kullanılabileceği anlamına geliyor.
Amazon da bu modelin desteklendiği platformlar arasında yer alıyor. Amazon Bedrock üzerinden erişilebilen gpt‑oss modelleri, OpenAI ile Microsoft’un özel iş birliği çerçevesinin dışında sunulmuş oluyor. Bu gelişme, OpenAI’ın daha fazla platforma açık hale gelmesi açısından kayda değer bir değişiklik. Hem Microsoft’un hem de Amazon’un bu modelleri hızla sistemlerine entegre etmiş olması, üretici yapay zekâ modellerinin daha geniş erişimle çalışabileceğini gösteriyor.
Modelin tüm ağırlıkları Hugging Face üzerinden ücretsiz şekilde indirilebiliyor. Ayrıca OpenAI’ın resmi web sitesi üzerinden detaylı karşılaştırma tabloları ve performans kıyaslamaları yayımlanmış durumda. Tüm bu gelişmeler, geliştirici topluluğunun yerel sistemlerde de modern dil modellerini kullanabilmesine olanak sağlıyor. Microsoft’un bu alandaki adımlarının Windows platformunda daha fazla yerel AI modelini erişime açma yönünde devam edeceği öngörülüyor.
