Anthropic, Claude tarafından oluşturulan içeriklerin yapay zekâ ürünü olduğunun makineler tarafından anlaşılmasını sağlayan görünmez işaretler kullanmaya başlamıştı. Şirketin Avrupa Birliği Yapay Zekâ Yasası kapsamındaki şeffaflık kurallarına uyum amacıyla benimsediği bu yaklaşım, Claude kullanıcıları arasında farklı tepkilerle karşılandı. Özellikle Claude’dan alınan metinleri iş, eğitim veya yayıncılık faaliyetlerinde kullanan bazı kişiler, görünmez işaretlerin yapay zekâ kullanımını sonradan ortaya çıkarabileceğinden endişe ediyor. Buna karşılık başka kullanıcılar, yapay zekâ tarafından oluşturulan içeriğin tespit edilebilir olmasını şeffaflık açısından makul buluyor. Böylelikle tartışmanın merkezinde filigranın teknik yapısından çok, Claude çıktısının hangi koşullarda kullanıcıya ait bir çalışma olarak kabul edilebileceği bulunuyor.
Tartışmaların yoğunlaştığı platformlardan biri Reddit oldu. Visionode adlı bir kullanıcı, yeni sistemin özellikle Claude’u sınırlı ölçüde kullanan sıradan kişileri zor durumda bırakabileceğini savundu. Kullanıcıya göre yapay zekâ araçları konusunda daha deneyimli kişiler metni yeniden ifade ederek veya farklı servislerden geçirerek olası işaretleri ortadan kaldırmaya çalışabilirken, diğer kullanıcıların böyle bir imkânı olmayabilir. Örnek olarak bir paragrafını düzenlemek için Claude’dan yardım alan öğrenci, uzun bir transkripti özetleten gazeteci veya yazma güçlüğü yaşadığı sırada eş anlamlı kelime arayan yazar gösterildi. Bu yaklaşım, yapay zekânın yardımcı araç olarak kullanılmasıyla doğrudan yapay zekâ çıktısının teslim edilmesi arasındaki sınırın nerede çizileceği sorusunu da gündeme getiriyor.
Claude filigran sistemi yapay zekâ kullanımında şeffaflık tartışmasını büyütüyor
Ne var ki aynı örnekler Reddit’teki diğer kullanıcılar tarafından ikna edici bulunmadı. Özellikle Claude tarafından hazırlanan bir özetin gazeteci tarafından olduğu gibi haber metnine aktarılması ile özetin yalnızca kaynak materyali incelemeyi kolaylaştırmak amacıyla kullanılması arasında belirgin bir fark bulunuyor. Benzer biçimde bir öğrencinin kendi yazdığı paragraf için düzenleme önerileri almasıyla Claude’un oluşturduğu metni doğrudan ödevine yapıştırması aynı kullanım biçimi değil. Filigran uygulamasını destekleyenlerin temel yaklaşımı da bu ayrım üzerinde yoğunlaşıyor. Bu görüşe göre yapay zekâ çıktısının tespit edilebilir olması, Claude’un metin üzerinde hak iddia etmesinden ziyade içeriğin nasıl üretildiğine ilişkin ek bilgi sağlamayı amaçlıyor.
İLGİNİZİ ÇEKEBİLİR
Başka bir Reddit kullanıcısı ise uygulamayı “etik dışı” olarak nitelendirerek Claude ile çalışırken talimatların, bağlamın, kararların ve çok sayıda düzeltmenin kendisi tarafından sağlandığını belirtti. Bu görüşe göre Claude yalnızca üretim sürecini kolaylaştıran bir araç konumunda ve ortaya çıkan metin ya da kod üzerinde görünmez bir işaret bulunması, aracın kullanıcı emeğine ne ölçüde müdahil olduğu sorusunu doğuruyor. Buna karşı çıkan kullanıcılar ise filigranın bir sahiplik veya telif hakkı iddiası olmadığını vurguladı. Onlara göre amaç, çeşitli kullanım alanlarında risk yaratabilecek yapay zekâ üretimi içeriklerin daha kolay belirlenebilmesini sağlamak. Tartışmanın zaman zaman alaycı bir tona kaydığı da görülürken, bazı kullanıcılar filigrana itiraz eden kişilerin dahi eleştirilerini hazırlarken Claude’dan yararlanmış olabileceğini öne sürdü.
Eleştirilerin bir başka bölümü ise üretken yapay zekâ modellerinin eğitim verileriyle ilgili daha geniş tartışmalara dayanıyor. Bir Reddit kullanıcısı, kendisinin Claude’u metin yazdırmak için kullanmadığını belirtmesine rağmen yapay zekâ tarafından oluşturulan çalışmalara filigran eklenmesini ironik bulduğunu söyledi. Bu görüşün temelinde, gelişmiş yapay zekâ modellerinin çok büyük miktarda insan üretimi içerikle eğitilmiş olması yatıyor. Dolayısıyla bazı kullanıcılar, insanlara ait içeriklerden öğrenen sistemlerin daha sonra ürettikleri metinleri makine tarafından tanınabilir biçimde işaretlemesini sorunlu görüyor. Bununla birlikte eğitim verilerinin kullanımıyla bir yapay zekâ sisteminin oluşturduğu çıktının kaynağını belirten teknik işaretler, hukuki ve teknik açıdan birbirinden farklı meseleler olarak değerlendiriliyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Filigranı destekleyen kullanıcılar ise sistemin özellikle yapay zekâ üretimi içeriğin insan tarafından hazırlanmış gibi sunulduğu durumlarda yararlı olabileceğini düşünüyor. Eğitim kurumları, yayın kuruluşları ve şirketler yapay zekâ kullanımına ilişkin birbirinden farklı politikalara sahip olduğundan, yalnızca bir içeriğin Claude ile hazırlanmış olduğunun belirlenmesi tek başına kötüye kullanım gerçekleştiğini göstermiyor. Örneğin bir kurum çalışanlarına yapay zekâ destekli yazım araçlarını kullanma izni verebilirken, başka bir kurum belirli belgelerde bunun açıklanmasını isteyebilir. Benzer biçimde eğitim alanında da dil düzeltmesi, fikir geliştirme ve doğrudan ödev üretimi arasında farklı kurallar uygulanabiliyor. Bu nedenle teknik tespit mekanizmasının nasıl yorumlandığı, filigranın varlığından en az filigranın kendisi kadar belirleyici hâle geliyor.
Anthropic açısından uygulamanın arkasında Avrupa’daki yapay zekâ düzenlemelerinin getirdiği şeffaflık beklentileri bulunuyor. Yapay zekâ tarafından üretilen veya değiştirilen belirli içeriklerin makine tarafından anlaşılabilecek biçimde tanımlanması, düzenleyicilerin sentetik içeriklerin kaynağının izlenebilmesine yönelik yaklaşımıyla örtüşüyor. Buna rağmen görünmez işaretleme yöntemlerinin ne kadar dayanıklı olduğu, metnin yeniden yazılması veya başka araçlarla işlenmesi durumunda işaretlerin korunup korunmayacağı gibi teknik sorular önemini koruyor. Bir sistem kolaylıkla aşılabiliyorsa kötüye kullanımı engelleme kapasitesi sınırlı kalabilir; fazla katı bir sistem ise yapay zekâyı meşru biçimde yardımcı araç olarak kullanan kişilere ilişkin yanlış değerlendirmelere yol açabilir. Claude etrafındaki tartışma da filigranın tek başına yeterli bir çözüm olmadığını, kurumların yapay zekâ kullanımına ilişkin açık kurallar ve değerlendirme ölçütleri belirlemesinin gerekli olduğunu gösteriyor.
