Meta AI artık riskli sohbetlerde ebeveynleri otomatik olarak uyaracak

Meta, genç kullanıcıların güvenliğini artırmaya yönelik yeni bir özelliği kullanıma sundu. Şirket, Meta AI ile yapılan sohbetlerde intihar veya kendine zarar verme riski tespit edilmesi durumunda ebeveynleri ya da yasal vasileri bilgilendirecek yeni sistemi duyurdu. Bu adım, Meta’nın son dönemde genç kullanıcılar için geliştirdiği ebeveyn denetimi araçlarını genişletmeye devam ettiğini gösteriyor. İlk aşamada belirli ülkelerde devreye alınan özellik, yıl sonuna kadar ebeveyn denetiminin kullanılabildiği tüm pazarlara ulaştırılacak.

Meta, daha önce de ebeveynlerin çocuklarının Meta AI ile hangi konular hakkında konuştuğunu görebilmesini sağlayan bir denetim özelliğini sunmuştu. Yeni güncellemeyle birlikte sistem yalnızca sohbet konularını göstermekle kalmayacak, aynı zamanda konuşmaların kullanıcının kendine zarar verme ya da intihar düşüncesi taşıyabileceğine işaret etmesi durumunda ebeveynleri proaktif şekilde uyaracak. Bildirimle birlikte ailelere, çocuklarına nasıl destek olabileceklerine ilişkin çeşitli kaynaklar ve öneriler de iletilecek.

Genç bir kullanıcı Meta AI ile intihar veya kendine zarar verme hakkında konuştuğunda sistem zaten kriz destek hatlarına yönlendirme yapıyor ve güvendiği bir yetişkinle iletişime geçmesini öneriyor. Buna ek olarak yeni özellik sayesinde risk değerlendirmesi ebeveynlere de aktarılacak. Böylece yalnızca dijital yönlendirmelerle yetinilmeyip ailelerin de sürece daha erken dahil olması hedefleniyor.

Meta AI sohbetleri önce yapay zekâ sonra insan incelemesinden geçiyor

Meta, bu özelliğin çalışması için özel olarak geliştirilen bir yapay zekâ sisteminden yararlandığını belirtiyor. Bununla birlikte, yapay zekâ tarafından riskli olarak işaretlenen tüm sohbetler ebeveynlere bildirim gönderilmeden önce insan moderatörler tarafından inceleniyor. Şirket, bu yaklaşımın yanlış alarmların önüne geçmeyi amaçladığını ifade ediyor. Ne var ki Meta, insan incelemesi sonrasında bile kullanıcının niyetinin kesin olarak anlaşılamadığı durumlarda ihtiyatlı davranacağını ve risk ihtimali bulunduğu düşünüldüğünde bildirimi yine de göndereceğini söylüyor.

Yeni özellik ilk etapta ABD, Birleşik Krallık, Avustralya ve Kanada’da Instagram ebeveyn denetimi kullanan aileler için erişime açıldı. Meta’nın planına göre yıl sonuna kadar ebeveyn denetimi özelliğinin desteklendiği tüm ülkelerde kullanılabilir hâle gelecek. Böylece daha fazla aile, çocuklarının Meta AI ile etkileşimlerini güvenlik açısından takip edebilecek.

Bunun yanında Meta, gelecekte daha kapsamlı bir güvenlik mekanizması üzerinde de çalışıyor. Şirket, Meta AI ile yapılan sohbetlerin kullanıcının yaşamını tehdit edecek kadar acil bir risk taşıdığına işaret etmesi durumunda, gerekli koşullar oluşursa acil yardım hizmetleriyle iletişime geçebilecek bir sistem geliştirdiğini açıkladı. Bu planın yalnızca genç kullanıcıları değil, yetişkinleri de kapsaması öngörülüyor.

Meta’nın duyurduğu bir diğer değişiklik ise Limited Content (Sınırlı İçerik) ayarının artık Meta AI sohbetlerini de kapsayacak olması. Instagram’da ebeveynlerin etkinleştirebildiği bu özellik, yetişkinlere yönelik görseller veya kendine zarar verme gibi hassas içerikleri filtreliyor. Bundan sonra aynı kısıtlamalar Meta AI ile gerçekleştirilen etkileşimlerde de uygulanacak. Böylece genç kullanıcıların yapay zekâ ile karşılaşabileceği hassas içeriklerin kapsamı daha da daraltılmış olacak.