OpenAI, kurumsal müşterilerin hassas verilerini saklamadan yapay zekâ hizmetlerinin olası kötüye kullanımını takip edebilmek amacıyla Private Safety Processing adını verdiği yeni güvenlik teknolojisini tanıttı. Şimdilik belirli müşterilerle ön gösterim aşamasında olan sistem, şirketin mevcut Zero Data Retention yaklaşımının kapsamını genişleterek tek bir oturum yerine birden fazla konuşmaya yayılan faaliyetleri değerlendirebiliyor. OpenAI’ın verdiği bilgilere göre, bu işlem otomatik olarak gerçekleştiriliyor ve müşteriye ait konuşma verileri şirket tarafından saklanmıyor. Böylelikle özellikle hassas bilgilerle çalışan işletmeler için gizlilik gereksinimleri ile yapay zekânın kötüye kullanımını tespit etme ihtiyacı arasında farklı bir denge kurulması hedefleniyor. Yeni yaklaşım, Anthropic‘in belirli gelişmiş modeller için uyguladığı 30 günlük veri saklama politikasıyla da belirgin biçimde ayrışıyor.
Yapay zekâ modellerinin yetenekleri arttıkça bu sistemlerin zararlı yazılım geliştirme, siber saldırı hazırlama veya başka kötü amaçlarla kullanılması ihtimali teknoloji şirketlerinin güvenlik politikalarını daha karmaşık hâle getiriyor. Kurumsal tarafta ise bu kontrollerin nasıl yapıldığı en az güvenliğin kendisi kadar hassas bir konu hâline gelmiş durumda. Şirketler ticari sırları, kaynak kodlarını, müşteri bilgilerini veya başka hassas verileri yapay zekâ modelleriyle işlerken bunların model sağlayıcısı tarafından ne kadar süre tutulduğunu ve kimlerin erişebildiğini bilmek istiyor. OpenAI hâlihazırda Zero Data Retention, yani ZDR olarak bilinen yaklaşım kapsamında uygun API müşterilerinin verilerini saklamadan oturum bazında kötüye kullanım kontrolleri gerçekleştirebiliyor. Private Safety Processing ise bu mekanizmayı daha uzun süreye yayılan kullanım örüntülerini değerlendirecek biçimde genişletiyor.
OpenAI Private Safety Processing birden fazla konuşmayı değerlendirebiliyor
Private Safety Processing’in temel farkı, güvenlik değerlendirmesini tek bir API oturumunun sınırları içinde tutmaması oluyor. OpenAI sistemi “long-horizon safety monitoring” olarak nitelendiriyor ve birden fazla konuşmanın giriş ve çıkışlarını birlikte değerlendirebildiğini belirtiyor. Kontrol yine otomatik bir ajan tarafından yürütülüyor ve belirli koşullar oluştuğunda farklı oturumlardaki etkileşimler potansiyel kötüye kullanım işaretleri açısından analiz ediliyor. TechCrunch’a konuşan bir OpenAI sözcüsüne göre bu yöntem, kötü niyetli kullanıcıların taleplerini farklı oturumlara bölerek güvenlik sistemlerinin dikkatinden kaçmaya çalıştığı durumları belirlemek için tasarlandı. Örneğin bir siber saldırıda kullanılabilecek zararlı yazılımı hazırlamaya çalışan kişi, tek bir konuşmada açıkça şüpheli görünmek yerine işlemin farklı bölümlerini ayrı oturumlara dağıtabilir.
İLGİNİZİ ÇEKEBİLİR
OpenAI’ın açıklamasına göre, sistem böyle bir durum tespit ettiğinde şirkete yalnızca belirli bir faaliyet türüne ilişkin, kapsamı dar biçimde tanımlanmış bir sinyal gönderebiliyor. Bu aşamada OpenAI konuşmaların tamamını insan incelemesine açmak yerine söz konusu sinyal üzerinden yaptırım gerekip gerekmediğine karar verebiliyor. Bir müdahale gerektiği değerlendirilirse şirket, daha fazla bağlam edinmek veya sorunu birlikte ele almak için ilgili müşteriyle iletişim kurabiliyor. Müşteri de gerekli görmesi durumunda ek verileri kendi tercihine bağlı olarak OpenAI ile paylaşabiliyor. Dolayısıyla sistemin ayırt edici tarafı yalnızca otomasyon kullanması değil, farklı oturumlar arasındaki olası bağlantıları müşteri konuşmalarını OpenAI çalışanlarının doğrudan incelemesine gerek kalmadan değerlendirmeyi amaçlaması oluyor.
Anthropic’in yaklaşımı ise özellikle şirketin “covered models” olarak tanımladığı modellerde farklılaşıyor. Temmuz ayında açıklanan politika kapsamında Mythos sınıfındaki modeller ve benzer yeteneklere sahip gelecekteki modeller için kullanıcı oturumları ve bu oturumlardaki konuşmalar 30 güne kadar saklanabiliyor. Anthropic bunun güvenlik amacıyla uygulandığını ve olası uygunsuz kullanımların araştırılmasını sağladığını belirtiyor. Bununla birlikte söz konusu veri saklama süresi, yüksek miktarda hassas bilgi işleyen bazı kurumsal müşterilerin tepkisini çekmiş durumda. Anthropic genel olarak Zero Data Retention uygulamalarını desteklese de Fable gibi “covered models” kapsamındaki sistemlerde farklı veri saklama koşulları geçerli olabiliyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Anthropic, gerektiğinde müşteri verilerinin insanlar tarafından da incelenebileceğini açıkça belirtiyor. Şirkete göre bu erişim yalnızca az sayıdaki onaylı incelemecinin kullanabildiği kontrollü bir erişim kanalı üzerinden gerçekleşiyor. Bunun yanında gerçekleştirilen her inceleme oturumu, incelemecilerin silemediği veya değiştiremediği müdahaleye dayanıklı bir kayıt sistemine aktarılıyor. Bu mekanizma erişimin denetlenebilir olmasını sağlasa da verilerinin yapay zekâ sağlayıcısı tarafından tutulmasını istemeyen işletmeler açısından veri saklama konusu ortadan kalkmıyor. OpenAI’ın Private Safety Processing yaklaşımı ise güvenlik analizini sürdürürken konuşma içeriğinin saklanmamasını temel alması nedeniyle özellikle sıkı veri yönetimi politikaları bulunan kuruluşlar için daha uygun bir seçenek sunabilir.
OpenAI ile Anthropic arasındaki rekabetin kurumsal yapay zekâ pazarında yoğunlaştığı bir dönemde gizlilik politikaları da modellerin performansı ve fiyatlandırması kadar belirleyici unsurlardan biri hâline geliyor. Son dönemde yayımlanan bir rapora göre OpenAI’ın ikinci çeyrekteki büyümesi Anthropic’in gerisinde kalırken, Anthropic’in yıllıklandırılmış gelir temposunun 65 milyar dolara ulaştığı bildiriliyor. Anthropic yatırımcılarının şirket için 2 trilyon dolara kadar ulaşabilecek bir halka arz değerlemesinden söz ettiği, OpenAI’ın da kendi halka arzı üzerinde çalıştığı aktarılıyor. Bu finansal rekabetin yanında şirketlerin kurumsal müşterilere sunduğu veri saklama ve güvenlik seçenekleri de hizmet seçiminde doğrudan etkili olabilecek nitelikte. Private Safety Processing’in başarısı ise yalnızca kötüye kullanımı ne kadar isabetli belirlediğine değil, yanlış pozitifleri düşük tutarken müşteri verilerinin gerçekten saklanmadığını teknik ve operasyonel açıdan ne ölçüde gösterebildiğine bağlı olacak.
