Birleşmiş Milletler’in (BM) Yapay Zekâ Bağımsız Uluslararası Bilimsel Paneli tarafından yayımlanan ön değerlendirme raporu, yapay zekâ alanındaki ilerlemenin mevcut yönetişim mekanizmalarının uyum sağlayabileceğinden daha hızlı gerçekleştiğini ortaya koyuyor. Rapor, 6 Temmuz’da Cenevre’de düzenlenecek BM Küresel Yapay Zekâ Yönetişimi Diyaloğu öncesinde üye ülkelere bilimsel bir çerçeve sunmayı amaçlıyor. Panelin hazırladığı çalışma, politika yapıcıların teknolojiyi güvenli ve sorumlu biçimde yönetebilmesi için temel değerlendirmeleri içeriyor.
Rapora göre yapay zekâ modellerinin yetenekleri son birkaç yıl içinde dikkat çekici bir hızla gelişti. Panel, sistemlerin yerine getirebildiği görevlerin karmaşıklığının birkaç ayda bir yaklaşık iki katına çıktığını belirtiyor. Bu gelişim sağlık ve bilim başta olmak üzere birçok alanda somut faydalar sağlıyor. Yapay zekâ destekli araçlar ilaç ve aşı geliştirme süreçlerini hızlandırırken antibiyotik direnci araştırmalarına da katkıda bulunuyor. Bunun yanında doktorlar meme kanseri gibi hastalıkların erken teşhisinde yapay zekâdan yararlanabiliyor. Bilim insanları ise gıda güvensizliği risklerini daha erken tespit edebilmek için bu teknolojiyi destekleyici bir araç olarak kullanabiliyor.
Bununla birlikte rapor, yapay zekânın oluşturduğu yeni risklere de geniş yer ayırıyor. Gerçek kişilere ait cinsel içerikli sahte görüntülerin üretilmesi ve çocuk istismarı materyallerinin hazırlanması gibi yasa dışı kullanımların giderek yaygınlaştığına dikkat çekiliyor. Kaliforniya yönetiminin yılın başında Grok hakkında rızaya dayanmayan deepfake içerikleri ve çocuk cinsel istismarı materyalleriyle ilgili başlattığı inceleme de bu örnekler arasında gösteriliyor. Öte yandan yapay zekâ sistemlerinin gerçeğe oldukça yakın görünen yanlış bilgiler üretebilmesi ve siber saldırıları kolaylaştıracak biçimde kullanılabilmesi de raporda öne çıkan riskler arasında yer alıyor.
İLGİNİZİ ÇEKEBİLİR
Google Gmail için sesle çalışan yeni yapay zekâ özelliğini test ediyor
Meta yapay zekâ altyapısını yeni gelir kaynağına dönüştürebilir
SpaceX’in gizemli yapay zekâ cihazı geliştirdiği iddiası Musk tarafından reddedildi
Apple, Final Cut Pro ve Pixelmator Pro’ya yeni yapay zekâ araçları ekledi
Google NotebookLM notlarınızı artık 60 saniyelik videolara dönüştürüyor
Yapay zekâ modelleri üzerindeki denetim giderek zorlaşıyor
Panel, bazı yapay zekâ modellerinin kullanıcıların zararlı davranışlarını sorgulamak yerine destekleyebildiğini ve bunun ciddi psikolojik sonuçlar doğurabileceğini ifade ediyor. Raporda, bu tür sistemlerin kimi durumlarda intihar eğilimi gibi tehlikeli davranışları pekiştirebileceği uyarısı da bulunuyor. Buna ek olarak modeller daha otonom hâle geldikçe izlenmeleri ve kontrol altında tutulmaları daha karmaşık bir süreç hâline geliyor. Bunun yanında yapay zekâ altyapısını desteklemek amacıyla hızla artan veri merkezi yatırımlarının çevresel etkileri ve bu tesislerin bulunduğu bölgelerde yaşayan topluluklar üzerindeki olası sonuçları da dikkatle değerlendirilmesi gereken başlıklar arasında gösteriliyor.
Raporda politika yapıcıların neden teknolojik gelişmeleri yakalamakta zorlandığı da açıklanıyor. Mevcut yönetişim ve düzenleme mekanizmalarının bu kadar hızlı değişen teknolojiler için tasarlanmadığı belirtilirken, düzenleme hazırlıkları için gerekli bilimsel veriler toplandığında yapay zekâ sistemlerinin çoktan yeni bir aşamaya geçmiş olabileceği ifade ediliyor. Bu durum, düzenlemelerin çoğu zaman teknolojinin gerisinde kalmasına neden oluyor.
Günün Öne Çıkan Fırsatları
Teknoblog'un satış ortaklıkları vardır. Bunlar, editoryal içeriği etkilemez, ancak Teknoblog, satış ortaklığı bağlantıları üzerinden satın alınan ürünler için komisyon kazanabilir.
Panel, güvenli ve hesap verebilir yapay zekâ sistemleri için bağımsız değerlendirme mekanizmalarının güçlendirilmesi, uluslararası iş birliğinin artırılması ve ortak standartların oluşturulması gerektiğini vurguluyor. Rapora göre yeterli güvenlik önlemleri olmadan geliştirilen yapay zekâ teknolojileri eşitsizlikleri artırabilir, yanlış bilgilerin yayılmasını hızlandırabilir, insan haklarını olumsuz etkileyebilir ve iş gücü piyasalarında önemli değişimlere yol açabilir. Bunun yanında gelişmiş yapay zekâ sistemlerine erişimin büyük ölçüde az sayıdaki ülke ve şirketin kontrolünde bulunması da küresel ölçekte yeni dengesizlikler oluşturma potansiyeli taşıyor.
Çalışmada yapay zekâ ekosisteminin büyük bölümünün ABD ve Çin merkezli olduğu, gelişmekte olan birçok ülkenin ise gerekli altyapı ve uzmanlık kapasitesine henüz sahip olmadığı belirtiliyor. Panel, asıl hedefin yapay zekânın sunduğu geniş fırsatlardan mümkün olduğunca fazla yararlanırken beraberinde gelen riskleri etkili biçimde sınırlandıracak bir denge kurmak olduğunu ifade ediyor. Düzenleyici bir kurum niteliği taşımayan bilimsel panel, politika oluşturma süreçlerine katkı sağlayacak değerlendirmelerini sürdürmeyi planlıyor. Daha kapsamlı ve ayrıntılı nihai raporun ise gelecek yıl yayımlanması bekleniyor.
