OpenAI CEO’su Sam Altman’ın Vanity Fair editörü Mark Guiducci ile yaptığı röportaj, ChatGPT kullanan bir kişinin intiharıyla ilgili soru sırasında OpenAI adına görüşmeye katılan bir halkla ilişkiler temsilcisinin araya girmesiyle dikkat çekti. Guiducci, Altman’a gazeteci Laura Reiley’i tanıyıp tanımadığını sordu ve Reiley’nin The New York Times’ta yayımlanan yazısında, kızının yaşamına son vermeden önce ChatGPT ile yaptığı konuşmaları anlattığını hatırlattı. Editör, ChatGPT’nin kullanıcıya doğrudan intihar etmesini söylemediğini de özellikle belirtti. Buna rağmen sorunun devamı gelmeden önce OpenAI temsilcisi görüşme süresinin dolmak üzere olduğunu söyleyerek konuyu değiştirmek istedi. Röportajın bu bölümü, yapay zekâ şirketlerinin ruh sağlığı krizleri ve kullanıcı verileri karşısındaki sorumluluklarına ilişkin tartışmaları yeniden gündeme taşıdı.
OpenAI temsilcisi Guiducci’ye yalnızca iki dakika kaldığını, süreye saygı göstermek istediğini ve görüşmenin bundan sonraki kısmında şirketin geleceği hakkında konuşmayı tercih ettiğini söyledi. Guiducci ise sorusunu tamamlayacağını ve ardından önceki konulara döneceğini belirtti. Buna karşılık temsilci, bir ya da iki dakika içinde gerçekten ayrılmaları gerektiğini söyleyerek itirazını sürdürdü. Buna rağmen röportaj sonlandırılmadı ve Guiducci, Altman’a sorusunun geri kalanını yöneltebildi. Bu kısa müdahale, özellikle ele alınan konunun hassasiyeti nedeniyle röportajın en dikkat çeken bölümlerinden biri hâline geldi.
Sam Altman ruh sağlığı krizlerinde kullanıcı verilerinin kullanımını değerlendirdi
Guiducci daha sonra OpenAI’ın, kullanıcıların ChatGPT ile yaptığı özel konuşmalardan elde edilen bilgileri ruh sağlığı krizlerine verilecek yanıtları ve şirket politikalarını geliştirmek için kullanmayı düşünüp düşünmediğini sordu. Altman, bunun hem OpenAI’ın hem de benzer teknolojiler geliştiren diğer şirketlerin karşı karşıya kaldığı en zor konulardan biri olduğunu söyledi. Özellikle insanların hayatlarının en zor dönemlerinde yaptıkları özel konuşmaların araştırmacılarla paylaşılmasının ciddi gizlilik sorunları doğurabileceğine dikkat çekti. Altman, kullanıcıların izni olmadan bu tür özel verilerin araştırma amacıyla paylaşılmasının doğru olmayacağını düşündüğünü belirtti. Ardından ifadesini daha net hâle getirerek, böyle bir paylaşımın kullanıcı onayı olmadan yapılmaması gerektiğini vurguladı.
İLGİNİZİ ÇEKEBİLİR
Bu yanıt, üretken yapay zekâ hizmetlerinde güvenlik ile mahremiyet arasındaki dengenin ne kadar karmaşık hâle geldiğini de gösteriyor. Bir kullanıcının ağır bir psikolojik kriz yaşadığına dair işaretler, teoride sistemlerin daha güvenli tepkiler vermesine yardımcı olacak politika ve modellerin geliştirilmesinde değerli olabilir. Fakat bu konuşmalar aynı zamanda son derece kişisel bilgiler içerebildiği için araştırma, ürün geliştirme ve güvenlik çalışmaları sırasında nasıl kullanılacağı ayrı bir tartışma konusu oluşturuyor. Bunun yanında kullanıcıların bu verilerin hangi koşullarda incelenebileceği konusunda açık biçimde bilgilendirilmesi de önem kazanıyor. Altman’ın yanıtı da OpenAI’ın bu alandaki sorunu yalnızca teknik güvenlik açısından değil, kullanıcı mahremiyeti açısından da değerlendirdiğini gösteriyor.
Röportajdaki müdahale hakkında daha sonra açıklama yapan OpenAI sözcüsü Drew Pusateri ise görüşmenin planlanan süreyi aştığını söyledi. Pusateri’ye göre şirket temsilcisinin araya girmesinin nedeni de bu zaman sınırıydı. Sözcü, Altman’ın söz konusu kritik konuya yanıt vermesinin ardından görüşmeye devam edebilmek için daha fazla zaman ayarlanmasının istendiğini belirtti. Böylece OpenAI, müdahalenin sorunun içeriği nedeniyle değil, röportaj programının uzaması nedeniyle yapıldığını savundu. Yine de konuşmanın tam da bir kullanıcının intiharı ve ChatGPT ile yaptığı özel görüşmeler ele alınırken kesilmeye çalışılması, olayın kamuoyunda daha fazla dikkat çekmesine neden oldu.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Yapay zekâ sohbet sistemlerinin ruh sağlığı konusunda nasıl davranması gerektiği, teknoloji şirketleri açısından giderek daha zor bir denge gerektiriyor. Sistemlerin riskli durumlarda kullanıcıları profesyonel yardım kaynaklarına yönlendirmesi beklenirken, aynı zamanda kullanıcı mahremiyetinin korunması ve özel konuşmaların hangi koşullarda incelenebileceğinin açık biçimde belirlenmesi gerekiyor. OpenAI ile Vanity Fair arasındaki bu röportaj da tartışmanın yalnızca model davranışlarıyla sınırlı olmadığını, şirketlerin bu vakalar hakkında kamuoyuyla nasıl iletişim kurduğunun da yakından izlendiğini ortaya koyuyor. Altman’ın verdiği yanıt, veri paylaşımında açık kullanıcı onayına vurgu yaparken, röportaja yapılan müdahale şirketin iletişim yaklaşımı konusunda ayrı bir tartışma yarattı. Ortaya çıkan tablo, yapay zekâ güvenliği ile kişisel gizlilik arasında kurulacak dengenin önümüzdeki dönemde hem teknoloji şirketleri hem de düzenleyiciler açısından temel başlıklardan biri olmaya devam edeceğini gösteriyor.
