Yapay zekânın geldiği nokta kadar gideceği yön de uzun süredir tartışılıyor. Ancak bu kez tartışmanın merkezinde yalnızca teknik meseleler yok. Toplumun farklı kesimlerinden gelen itirazlar, süper yapay zekâ gibi çok daha kapsamlı ve riskli görülen hedefleri sorgulatıyor. Bu bağlamda, 800’den fazla kişinin imzaladığı bildiri, bu endişelerin somutlaşmış hâli olarak öne çıkıyor.
Bildiriyi imzalayanlar arasında yalnızca teknoloji uzmanları yer almıyor. Nobel ödüllü bilim insanlarından eski devlet yetkililerine, sanatçılardan strateji danışmanlarına kadar uzanan geniş bir yelpaze var. Steve Wozniak, Prens Harry, Geoffrey Hinton ve Steve Bannon gibi birbirinden farklı isimlerin aynı metnin altına imza atması, konunun siyaset üstü bir endişe düzeyine taşındığını gösteriyor. Bu farklı kesimlerin ortak noktası ise, süper zekânın denetimsiz gelişiminin insanlık için ciddi sonuçlar doğurabileceği yönündeki kanaat. Öte yandan, bildiride net bir çağrı bulunuyor: Geniş bilimsel mutabakat ve kamu desteği sağlanana kadar bu çalışmalar yasaklanmalı.
Süper yapay zekâ geliştikçe kontrol meselesi daha çok tartışılıyor
Bu çağrının sahibi olan Future of Life Institute, teknolojinin toplumsal etkilerine dikkat çeken önemli kuruluşlardan biri. Kurumun yöneticisi Anthony Aguirre, sürecin toplumun bilgisi ve onayı dışında şekillendiğine vurgu yapıyor. Ona göre, teknolojinin gelişme rotası büyük ölçüde şirketler tarafından belirleniyor ve bu da kamuoyunun dışarıda bırakılmasına neden oluyor. Her ne kadar teknoloji öncülerinin açıklamaları umut vadedici görünse de, bu gelişmelerin toplumsal zemine oturtulmadan ilerlemesi birçok kesimde kaygı yaratıyor. Aguirre’nin ifadesiyle, “Kimseye bu süreci gerçekten isteyip istemediği sorulmadı.”
Yapay zekânın bugüne kadar ulaştığı nokta, genellikle dar kapsamlı görevlerde başarı sağlamakla sınırlı kaldı. Özellikle otonom araçlar ve doğal dil işleme alanlarında ilerlemeler kaydedildi; fakat karmaşık görevlerde hâlâ önemli sınırlamalar söz konusu. Süper zekâ hedefi ise tüm bu sınırların ötesine geçmeyi amaçlıyor. İnsan uzmanlardan daha hızlı düşünebilen, daha iyi analiz yapabilen sistemlerden söz ediliyor. Tam da bu yüzden, kontrolün ne kadar sürdürülebileceği sorusu kritik hale geliyor.
Öte yandan, bu tartışmalar devam ederken büyük teknoloji şirketleri çalışmalarını hız kesmeden sürdürüyor. OpenAI, Meta ve benzeri firmalar, milyarlarca dolarlık yatırımlarla süper zekâ hedefli projeleri destekliyor. Mark Zuckerberg, bu seviyenin artık “görünür” hâle geldiğini söylüyor. Elon Musk ise süper zekânın şu anda “gerçek zamanlı” biçimde geliştiğini ifade ediyor. Ancak bu şirketlerin hiçbir yöneticisi söz konusu bildiride imzacı olarak yer almıyor.
Bu durum, teknoloji şirketleriyle toplum arasındaki mesafenin daha da açıldığını düşündürüyor. Kamuoyunda bu gelişmelere dair ciddi bir bilgi eksikliği olduğu açıkça görülüyor. Fakat teknoloji aktörlerinin buna rağmen kendi ajandalarını sürdürmeleri, eleştirilerin dozunu artırıyor. Bilimsel topluluklar, sürecin şeffaf ve denetlenebilir hâle getirilmesini istiyor. Aksi hâlde teknolojik ilerleme ile toplumsal kabul arasındaki kopukluk daha da derinleşebilir.
Geçtiğimiz aylarda yayımlanan başka bir açık mektup da benzer uyarılar içeriyordu. O mektubu imzalayanlar, süper zekâdan ziyade mevcut yapay zekâ sistemlerinin doğrudan etkileri üzerine odaklanmıştı. İşsizlik, mahremiyet kaybı, iklim değişikliği ve insan hakları gibi konular gündeme taşınmıştı. Her iki metinde de ortak olan nokta, yapay zekâ geliştirmelerinin hızının, toplumun bu değişimlere ayak uydurma kapasitesini aştığı yönündeki saptama. Bu nedenle, yalnızca teknolojik değil, sosyal ve etik değerlendirmeler de sürecin parçası haline gelmeli.
Tüm bunlara ek olarak, bazı ekonomistler bu alandaki yatırımların sürdürülebilirliğinden kuşku duyuyor. Yapay zekâ alanında oluşan beklenti balonunun, kısa sürede patlama riski taşıdığı dile getiriliyor. Eğer bu gerçekleşirse, yalnızca teknoloji sektörü değil, küresel ekonomi de sarsılabilir. Yatırımların hızla büyümesiyle birlikte, piyasadaki risk algısı da aynı oranda artmış durumda. Bu açıdan bakıldığında, sadece bilimsel değil, finansal sorumluluk da gündemde.
