Meta’nın Muse platformunda özel sohbetlere ulaşmanın yolu bulundu

Meta, geçtiğimiz ay tanıttığı otonom yapay zekâ platformu Muse’da kullanıcıların sohbetlerini bağlantı üzerinden paylaşmasına olanak tanıyan özelliği geçici olarak devre dışı bıraktı. Güvenlik araştırmacıları, paylaşılan sohbetlerin bağlantılarının herkese açık DNS kayıtları üzerinden tespit edilebildiğini ve bu bağlantılar aracılığıyla kişisel bilgilerle şirketlere ait hassas belgelere ulaşılabildiğini ortaya çıkardı. Claroc adlı siber güvenlik şirketinin araştırması, binlerce sohbet bağlantısının herhangi bir gelişmiş saldırı yöntemine ihtiyaç duyulmadan bulunabildiğini gösterdi. Araştırmacılar, bu yöntemle 6.800 farklı sohbet bağlantısını tespit ettiklerini ve bunların bir bölümünde özel bilgilere erişebildiklerini belirtti. Meta ise bulguların kendisine iletilmesinin ardından paylaşım özelliğini durdurduğunu ve bağlantıların keşfedilmesini önleyecek değişiklikleri değerlendirdiğini açıkladı.

Muse, Meta’nın kullanıcılar adına belirli görevleri yerine getirebilen yapay zekâ sistemlerine yönelik çalışmalarının bir ürünü olarak geçtiğimiz ay tanıtılmıştı. Platformda gerçekleştirilen görüşmeler, kullanıcıların oluşturduğu özel bağlantılar üzerinden başkalarıyla paylaşılabiliyordu. Bu yöntem, sohbet içeriklerini farklı kişilere iletmeyi kolaylaştırsa da bağlantıların nasıl oluşturulduğu konusunda ciddi bir gizlilik sorunu ortaya çıktı. Claroc araştırmacıları, paylaşım için hazırlanan internet adreslerinin sohbet başlıklarını içerdiğini ve bu adreslerin DNS kayıtlarından bulunabildiğini tespit etti. Böylelikle bağlantı doğrudan kendisiyle paylaşılmayan kişilerin de bazı sohbet içeriklerine ulaşmasının mümkün olduğu anlaşıldı.

Meta Muse sohbet bağlantıları DNS kayıtları üzerinden tespit edilebildi

Claroc’un yayımladığı araştırmaya göre, güvenlik sorununun temelinde Muse’un paylaşılan sohbetler için kullandığı URL yapısı bulunuyor. Platform, her sohbetin paylaşım adresini oluştururken görüşmenin başlığını alt alan adı olarak kullanıyordu. Bunun yanında bütün paylaşım bağlantıları aynı ana alan adı altında yer alıyordu. Söz konusu yapı, pasif DNS kayıtlarını inceleyen kişilerin farklı sohbet bağlantılarını toplu şekilde bulabilmesine imkân tanıyordu. Normal koşullarda internet alan adlarının IP adresleriyle eşleştirilmesine ilişkin geçmiş verileri barındıran pasif DNS sistemleri, bu olayda hassas içeriklere ulaşmak için kullanılabilecek bağlantıların tespit edilmesini kolaylaştırdı.

Araştırmacılar, Muse’un sohbet başlıklarını paylaşım adreslerine taşıdığını ve bu adreslerin herkese açık DNS kayıtlarında görülebildiğini belirtti. Claroc’un açıklamasında, tek bir pasif DNS aramasıyla binlerce bağlantının başlıklarıyla birlikte listelenebildiği ifade edildi. Bu durum, sohbetlerin doğrudan içeriğini görüntülemeden önce bile görüşmelerin konularına ilişkin bilgi edinilmesine olanak sağlıyordu. Daha da önemlisi, araştırmacılar tespit ettikleri bağlantıların bazılarını açabildiklerini ve paylaşılan sohbetlerin içeriklerini inceleyebildiklerini aktardı. Böylece sorun yalnızca bağlantı adreslerinin görünür olmasıyla sınırlı kalmadı; kullanıcıların özel veya kurumsal görüşmelerinde yer alan bilgilerin de erişilebilir olduğu ortaya çıktı.

Claroc tarafından yürütülen incelemede toplam 6.800 paylaşım bağlantısı belirlendi. Araştırmacıların erişebildiği içerikler arasında ileri düzey yapay zekâ araştırmaları yürüten bir laboratuvarla planlanan toplantıların saatleri, küçük bir işletmeye ait kredi başvurusu ve kısmi hesap bilgilerinin bulunduğu bir banka dolandırıcılığı uyarısı yer aldı. Bunların yanı sıra bir şirketin çalışan izin takvimi ve çeşitli kurum içi belgeler de erişilebilen bilgiler arasında bulundu. Söz konusu örnekler, Muse’un yalnızca kişisel amaçlarla değil, iş süreçlerinde de kullanıldığını gösteriyor. Bununla birlikte 6.800 bağlantının tamamının hassas veri içerdiği veya tamamına erişilebildiği yönünde bir bulgu paylaşılmadı.

Güvenlik sorunu, yapay zekâ sohbetlerinin bağlantı üzerinden paylaşılmasında erişim kontrollerinin ve adres oluşturma yöntemlerinin nasıl ele alınması gerektiğini de gündeme getiriyor. Bir bağlantının tahmin edilmesi zor karakterlerden oluşması veya yalnızca belirli kişiler tarafından bilinmesi, içeriğe erişimi sınırlandırmak açısından farklı sonuçlar doğurabiliyor. Muse örneğinde ise sohbet başlığının URL yapısında kullanılması, bağlantıların bulunmasını kolaylaştıran etkenlerden biri oldu. Üstelik DNS kayıtlarının incelenmesi, doğrudan platforma yönelik bir saldırı gerçekleştirilmesini gerektirmiyordu. Bu nedenle araştırma, paylaşım bağlantılarının tasarımında yalnızca kullanım kolaylığının değil, bağlantıların dış kaynaklardan keşfedilebilir olmasının da dikkate alınması gerektiğini gösteriyor.

Gelişmeyi ilk haberleştiren Ars Technica’ya açıklama yapan Meta, araştırmayı incelerken paylaşım özelliğini geçici olarak durdurduğunu bildirdi. Şirket, bağlantıların nasıl keşfedilebildiğine ilişkin değişiklikleri değerlendirdiğini belirtti. Claroc da Meta’nın müdahalesinin ardından daha önce erişebildiği bağlantılardan seçtiği örnekleri yeniden açamadığını doğruladı. Bu bulgu, yapılan değişikliğin en azından araştırmacıların kontrol ettiği bazı bağlantılar üzerinden erişimi engellediğine işaret ediyor. Ne var ki şirketin paylaşım özelliğini ne zaman yeniden etkinleştireceği veya bağlantı oluşturma sisteminde hangi kalıcı düzenlemeleri yapacağı konusunda henüz ayrıntı bulunmuyor.

Muse’da ortaya çıkan sorun, yapay zekâ platformlarında paylaşılan sohbetlerin içeriği kadar bunlara erişim sağlayan bağlantıların da dikkatle yönetilmesi gerektiğini ortaya koyuyor. Meta’nın paylaşım özelliğini durdurması, araştırmacılar tarafından tespit edilen bağlantılara erişimi sınırlandırmış görünüyor. Buna rağmen daha önce hangi bağlantıların üçüncü kişiler tarafından görüntülendiği ve erişilebilir durumdaki bilgilerin ne ölçüde dışarıya aktarıldığı konusunda açıklanmış bir tespit bulunmuyor. Kullanıcıların kişisel veya kurumsal bilgilerini içeren sohbetleri paylaşırken bağlantıların kimler tarafından açılabildiğini kontrol etmeleri, benzer risklerin azaltılmasına yardımcı olabilir. Meta’nın kalıcı çözümünün yeterliliği ise paylaşım özelliği yeniden kullanıma sunulduğunda uygulanacak erişim kontrollerine ve bağlantı güvenliği önlemlerine bağlı olacak.