OpenAI CEO’su Sam Altman, yapay zekânın topluma sağlayabileceği faydaların bazı olumsuz sonuçların kabul edilmesini gerektirebileceğini düşünüyor. Altman, yapay zekânın kötüye kullanılması sonucunda saldırılar, dolandırıcılık girişimleri ve başka zararlı olayların ortaya çıkabileceğini kabul ederken, insanların aynı teknolojiyle bundan çok daha fazla olumlu iş yapacağını savundu. Altman’ın değerlendirmeleri, gelişmiş yapay zekâ modellerinin güvenliği konusunda tartışmaların yoğunlaştığı bir döneme denk geliyor. OpenAI ise bu tartışmalarda daha ağır düzenlemeler yerine görece daha esnek bir yaklaşım benimsenmesi gerektiğini dile getiriyor. Şirketin giderek yetenekli hâle gelen yapay zekâ ajanlarının gerçek sistemleri hedef alabildiğine ilişkin olaylar da bu tartışmaların merkezinde yer alıyor.
Altman bu görüşlerini Politico’nun Decoded adlı podcast programına verdiği röportajda dile getirdi. OpenAI CEO’suna göre şirketin yaklaşımını Anthropic gibi rakiplerden ayıran noktalardan biri, yapay zekânın sağlayacağı genel faydalar karşılığında belirli seviyedeki zararların göze alınabilmesi. Anthropic, daha önce OpenAI bünyesinde çalışan ve yapay zekâ güvenliği konusunda yaşanan görüş ayrılıklarının ardından şirketten ayrılan kişiler tarafından kurulmuştu. Altman, OpenAI ile Anthropic arasında güvenlik ve düzenlemelere yaklaşım bakımından belirgin farklılıklar bulunduğunu söyledi. Buna rağmen OpenAI CEO’su, gelişmiş yapay zekânın tamamen denetimsiz bırakılması gerektiğini de savunmuyor.
Altman’ın yaklaşımı, Nvidia CEO’su Jensen Huang’ın kısa süre önce dile getirdiği benzer değerlendirmelerle de örtüşüyor. Huang da yapay zekânın oluşturabileceği zararların, teknolojinin sağlayacağı faydalarla birlikte değerlendirilmesi gerektiğini savunmuştu. Bu görüşün temelinde, yapay zekâ geliştirme çalışmalarını yavaşlatmanın da kendi başına bazı riskler doğurabileceği düşüncesi bulunuyor. Buna göre çok katı sınırlamalar yalnızca teknolojik ilerlemeyi yavaşlatmakla kalmayabilir, yapay zekâ kapasitesinin az sayıda şirketin veya ülkenin kontrolünde toplanmasına da yol açabilir. Altman da röportaj sırasında benzer bir tehlikeye dikkat çekti.
Sam Altman yapay zekâ düzenlemelerinde orta yol istiyor
OpenAI CEO’su, güvenlik gerekçesiyle yapay zekâ teknolojisinin aşırı biçimde sınırlandırılmasının farklı sorunlar yaratabileceğini söyledi. Altman’a göre böyle bir ortamda yapay zekâ üzerindeki güç çok az sayıda şirketin, kişinin veya tek bir ülkenin elinde toplanabilir. Bunun da teknolojinin yanlış yönde gelişmesine yol açabilecek senaryolardan biri olduğunu belirtti. OpenAI’ı düzenleme tartışmalarında “pragmatik merkez” olarak tanımlayan Altman, bir tarafta Anthropic’in daha ihtiyatlı yaklaşımının, diğer tarafta ise çok az düzenleme isteyen veya hiçbir sınırlama istemeyen çevrelerin bulunduğunu ifade etti. Şirket bu iki uç arasında daha dengeli bir düzenleme modeli savunduğunu öne sürüyor.
İLGİNİZİ ÇEKEBİLİR
Bununla birlikte Altman, yapay zekânın daha ciddi risklerini tamamen dışlamıyor. İnsanların gelecekte gelişmiş yapay zekâ sistemleri üzerindeki kontrolünü kaybetme ihtimalini de kabul eden Altman, böyle bir olasılığın dikkatli biçimde değerlendirilmesi gerektiğini söyledi. Bu nedenle OpenAI CEO’sunun yaklaşımı, teknolojinin serbestçe geliştirilmesi gerektiği yönünde koşulsuz bir görüşe dayanmıyor. Altman bir yandan aşırı düzenlemelerin sektör üzerinde oluşturabileceği baskıya dikkat çekerken, diğer yandan güçlü yapay zekâ sistemlerinde kontrol kaybı gibi daha ciddi senaryoların hesaba katılmasını istiyor. Röportaj boyunca da bu iki yaklaşım arasında bir denge kurulması gerektiği fikrini tekrarladı.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
OpenAI açısından bu tartışma doğrudan şirketin geliştirdiği sistemlerle de bağlantılı. Son dönemde yapay zekâ güvenliği konusunda çalışan bazı isimler, gelişmiş modellerin geliştirilme hızının azaltılması gerektiğini savunuyor. Politico röportajının yayımlanmasından birkaç gün önce OpenAI’da uzun süredir güvenlik araştırmaları üzerinde çalışan David Robinson şirketten ayrıldı ve OpenAI’ın güvenlik kültürünü “bozuk” olarak nitelendirdi. Bu açıklama, yapay zekâ laboratuvarlarında güvenliğin nasıl ele alındığına yönelik eleştirilerin devam ettiğini gösteriyor. OpenAI’ın daha hafif düzenlemeler yönündeki söylemi de bu nedenle şirketin güvenlik konusundaki geçmişiyle birlikte değerlendiriliyor.
Tartışmaları artıran gelişmelerden biri de OpenAI ajanlarının şirketin bilgisi dışında Hugging Face sistemlerine yönelik bir saldırı gerçekleştirdiğinin ortaya çıkması oldu. Bunun ardından OpenAI dışında Anthropic, Meta ve Google tarafından geliştirilen ajanların veya çok sayıda ajanın birlikte çalıştığı sistemlerin gerçek dünyadaki hedeflere karşı eylemlerde bulunduğuna ilişkin başka örnekler de gündeme geldi. Bu olaylar, yapay zekâ şirketlerinin kendi geliştirdikleri araçları ne ölçüde kontrol edebildiği sorusunu gündeme taşıdı. Bunun yanında şirketlerin sorunlu olayları kamu kurumları ve ilgili taraflarla ne kadar hızlı paylaştıkları da tartışılıyor. Avustralya başbakanı da bir yapay zekâ ajanının bir devlet sağlık sitesini hedeflemesinin ardından OpenAI ve Altman’ı yetkililere zamanında bilgi vermemekle eleştirdi.
Altman, Politico röportajında kontrol dışına çıkan yapay zekâ ajanları konusunda OpenAI’ın açıklayacağı başka olaylar bulunduğunu da söyledi. Bununla birlikte söz konusu olayların hiçbirinin Hugging Face vakasıyla aynı seviyede olmadığını belirtti. Altman daha önceki açıklamalarına benzer biçimde, bu tür bilgilerin paylaşılmasının uzun bir sürece yayılabileceğine işaret etti. Bu durum, yapay zekâ şirketlerinin yalnızca modellerinin yetenekleriyle değil, ortaya çıkan güvenlik sorunlarını nasıl açıkladıklarıyla da değerlendirileceğini gösteriyor. OpenAI’ın savunduğu daha esnek düzenleme yaklaşımının ne kadar karşılık bulacağı ise şirketlerin gelişmiş yapay zekâ sistemlerini ne ölçüde öngörülebilir ve denetlenebilir biçimde çalıştırabildiğiyle yakından bağlantılı olacak.
