Anthropic CEO’su Dario Amodei’nin gelişmiş yapay zekâ modellerinin ilerleme hızının kontrollü biçimde düşürülmesi gerektiğini savunması, teknoloji sektörünün önde gelen yöneticileri ile ABD siyasetinin önemli isimleri arasında geniş bir tartışma başlattı. Amodei, “We Must Pace the Frontier” başlıklı uzun makalesinde yapay zekâ çalışmalarının tamamen durdurulmasını değil, güvenlik önlemlerinin teknolojinin yeteneklerine yetişebilmesi için gelişimin mevcut olasılığa kıyasla daha yavaş ilerlemesini öneriyor. OpenAI CEO’su Sam Altman, Google DeepMind’ın kurucu ortağı Demis Hassabis ve Elon Musk bu yaklaşımın temel fikrine destek verirken, ABD Başkanı Donald Trump yapay zekâ yarışını yavaşlatacak girişimlere sert biçimde karşı çıktı. Meta’nın eski baş yapay zekâ bilim insanı Yann LeCun da Amodei’nin risk değerlendirmesini reddeden isimler arasında yer aldı. Böylelikle bir süredir sektör içinde devam eden yapay zekâ güvenliği tartışması, şirketlerin gönüllü önlemlerinden devlet düzenlemelerine ve ABD ile Çin arasındaki teknoloji rekabetine kadar uzanan daha geniş bir siyasi tartışmaya dönüştü.
Amodei’nin önerisi üç temel mekanizmaya dayanıyor. Bunların ilki, ileri seviye yapay zekâ şirketlerinin güvenlik taahhütlerine uyup uymadığını denetleyebilecek ve gerektiğinde olayları raporlayabilecek bağımsız üçüncü taraf değerlendiricilerin şirketlerin süreçlerine dahil edilmesini öngörüyor. İkinci aşamada demokratik ülkelerde faaliyet gösteren öncü yapay zekâ şirketlerinin ortak standartlar ve sınırlar üzerinde koordinasyon kurması isteniyor. Üçüncü aşamada ise demokratik ve otoriter yönetimler arasında, mümkün olduğu ölçüde, yapay zekâ geliştirme hızına ilişkin uluslararası koordinasyon kurulması hedefleniyor. Anthropic ilk adımı kendi başına uygulama taahhüdünde bulunurken Amodei, “hızı ayarlama” yaklaşımının model eğitimini veya teknik ilerlemeyi durdurmak anlamına gelmediğinin özellikle altını çiziyor. Buradaki amaç şirketlere modellerini güvenli hâle getirmek için yeterli süre tanımak ve bağımsız değerlendiricilerin alınan önlemleri doğrulayabilmesini sağlamak.
Sam Altman ve Demis Hassabis kontrollü ilerlemeyi destekliyor
OpenAI CEO’su Sam Altman, Amodei’nin makalesinin yayımlanmasının hemen ardından bu temel yaklaşıma katıldığını açıkladı. Altman, yapay zekâ alanındaki en ileri modellerin gelişim hızının ayarlanmasının son haftalarda OpenAI içinde yürütülen görüşmelerin başlıca konularından biri olduğunu belirtti ve bağımsız değerlendiricilerin kullanılmasını destekledi. Bir gün sonra yaptığı başka bir açıklamada ise ileri seviye yapay zekâ sistemleri için tutarlı güvenlik gereksinimleri belirleyen federal bir düzenleyici çerçeveyi desteklediklerini söyledi. Altman’a göre şirketlerin model uyumsuzluğu, izleme ve güvenlik konularında ortak standartlar geliştirmesi daha iyi sonuçlar sağlayabilir. Bununla birlikte Altman da Amodei gibi yavaşlamadan söz ederken yapay zekâ çalışmalarının durdurulmasını kastetmediğini, ilerlemenin yalnızca başka koşullarda olabileceğinden daha düşük bir hızda gerçekleşmesi gerektiğini belirtiyor.
Altman aynı zamanda yapay zekâ gelişiminin iki farklı şekilde ciddi sorunlara yol açabileceğini düşünüyor. Bunlardan biri geleceğe ilişkin kontrolün yapay zekâ sistemlerine bırakılması, diğeri ise aşırı miktarda gücün sınırlı sayıda aktörün elinde toplanması. OpenAI CEO’su bu iki risk arasında dar bir yol izlenmesi gerektiğini savunuyor. Google DeepMind’ın kurucu ortağı ve başkanı Demis Hassabis de Amodei’nin önerisinin genel yönünü destekledi. Ayrıntılar üzerinde daha fazla çalışma gerektiğini söyleyen Hassabis, temmuz ayında yayımladığı yapay zekâ standartları kuruluşuna ilişkin çerçeveye de dikkat çekti. Elon Musk ise çok daha kısa bir açıklamayla Amodei’nin haklı olduğunu söyleyerek makaleyi yeniden paylaştı.
ABD yönetiminden gelen açıklamalar ise sektör yöneticilerinin önerilerine kıyasla belirgin biçimde farklı bir çizgide bulunuyor. Başkan Donald Trump, Truth Social üzerinden yaptığı açıklamada yapay zekâ için ihtiyaç duyulan denetimin mevcut ceza ve düzenleme yetkileriyle sağlanabileceğini savundu. Trump, özellikle Anthropic ve Amodei’yi hedef alırken yapay zekâ ve veri merkezlerine karşı bir girişim bulunduğunu öne sürdü ve bu tür bir yaklaşımın Çin’in yararına olacağını söyledi. Başkanın değerlendirmesinde ABD ile Çin arasındaki rekabet merkezi bir yerde duruyor. Trump’a göre yapay zekâ yarışında üstünlük kuran ülke daha geniş bir küresel avantaj elde edecek ve ABD bu nedenle mevcut liderliğini korumalı.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
İLGİNİZİ ÇEKEBİLİR
Microsoft yapay zekâ yarışında sınırlarını açıkça çizdi
Anthropic bilim insanlarının Claude ile tehlikeli araştırmalar yaptığını tespit etti
Yapay zekâ devleri frene basmak istiyor, Trump aynı fikirde değil
NASA ve IBM’in yeni yapay zekâsı Ay’daki buzun izini sürecek
OpenAI Astra’ya gelen yoğun talep sonrası Pro aboneliklerini durdurdu
Nvidia CEO’su Jensen Huang da Trump ile bir etkinlik sırasında yaptığı telefon görüşmesinde tartışmanın rekabet tarafına ağırlık verdi. Trump’ın hoparlörden katıldığı görüşmede robotların kontrolü ele geçirmeyeceğini söyleyen Huang, ABD’deki yapay zekâ yarışından tüm sektörlerin, şirketlerin, eyaletlerin ve insanların yararlanmasını sağlamayı hedeflediklerini belirtti. Başkan Yardımcısı JD Vance ise ileri seviye yapay zekâ şirketlerinin hükümetten kendilerini düzenlemesini istemesini “biraz tuhaf” bulduğunu söyledi. Vance, şirketlerin düzenleme taleplerinin bir tür Truva atı işlevi görebileceği görüşünü dile getirirken yine Çin ile uzun vadeli yapay zekâ rekabetine işaret etti. Böylece yönetim tarafında güvenlikten ziyade teknolojik rekabetin yavaşlamaması gerektiğine ilişkin kaygının öne çıktığı görülüyor.
Temsilciler Meclisi Başkanı Mike Johnson ise iki yaklaşım arasında bir denge kurulması gerektiğini düşünüyor. CNN’de Jake Tapper’a verdiği röportajda yapay zekâ platformlarının yöneticileriyle siyasetçilerin bir araya gelerek doğru dengeyi belirlemesi gerektiğini söyleyen Johnson, doğrudan bir moratoryuma karşı çıktı. Bunun temel gerekçesini Çin’in ABD’yi geçme ihtimali olarak gösterdi. Johnson’a göre tartışma, ulusal güvenlik ile modellerin yeterince güvenli olmasını sağlama gereksiniminin birlikte ele alınmasını gerektiriyor. Böyle bir toplantının ne zaman gerçekleşeceği henüz belli olmasa da Johnson bunu kısa sürede yapmaya hazır olduğunu belirtti.
Demokrat Parti çevresinden gelen bazı açıklamalarda daha sıkı güvenlik önlemlerine daha açık bir yaklaşım görülüyor. Senatör Bernie Sanders, Wall Street Journal yazarı ve eski Ronald Reagan konuşma yazarı Peggy Noonan’ın insanlığın yararı için yapay zekâ çalışmalarına ara verilmesini savunan yazısına katıldığını açıkladı. Eski ABD Ulaştırma Bakanı Pete Buttigieg de Kongre ve Beyaz Saray’ın somut düzenlemeler getirmemesinin hem ABD halkı hem de dünya açısından ciddi risk oluşturduğunu söyledi. Buttigieg’e göre yapay zekâ için güvenlik önlemleri, kurallar ve sınırların yanında kontrolden çıkan sistemleri kapatmaya yarayacak bir mekanizma da bulunmalı. Eski Başkan Yardımcısı Kamala Harris ise ileri seviye yapay zekâ geliştirme hızının sorumlu biçimde düşürülmesi gerektiğini savunarak böyle bir yavaşlamanın teknolojinin kamu yararına hizmet etmesi açısından gerekli olduğunu belirtti.
Bununla birlikte düzenleme tartışmasının yalnızca yeni yasalar üzerinden yürütülmemesi gerektiğini savunanlar da bulunuyor. Eski Federal Ticaret Komisyonu Başkanı Lina Khan, mevcut yasaların tehlikeli, yeterince test edilmemiş veya kusurlu ürünleri geliştiren ve kullanıma sunan şirketler ile yöneticilerine karşı zaten uygulanabileceğini hatırlattı. Khan’a göre yeni yasal rejimlere ilişkin tartışmalar, yapay zekâ şirketlerinin mevcut hukuk kurallarından muaf olmadığı gerçeğini gölgelememeli. Eski Beyaz Saray yapay zekâ ve kripto sorumlusu David Sacks ise Amodei ve Altman’ın şirketlerini kendi istekleriyle yavaşlatabileceklerini, bunun için başkalarının iznine ihtiyaçları olmadığını söyledi. Sacks aynı zamanda gelişim hızını düşürme isteğinin tamamen kamu yararı odaklı bir gerekçeye dayandığı iddiasını da sorguladı.
En açık itirazlardan biri ise Meta’nın eski baş yapay zekâ bilim insanı Yann LeCun’dan geldi. LeCun, Amodei’nin 2019’da GPT-2’nin açık kaynak olarak yayımlanmasının fazla tehlikeli olduğunu savunduğunu hatırlatarak o dönemde bu görüşle alay ettiğini ve bugün de benzer şekilde yaklaşılması gerektiğini söyledi. Bu tepki, yapay zekâ sektöründe yıllardır devam eden temel görüş ayrılığının sürdüğünü gösteriyor. Bir tarafta modellerin kabiliyetleri arttıkça düşük olasılıklı fakat yüksek etkili risklerin daha ciddi biçimde ele alınmasını isteyen yöneticiler bulunurken, diğer tarafta mevcut tehlike değerlendirmelerinin abartıldığını ve ağır kısıtlamaların araştırma ile rekabeti gereksiz yere yavaşlatacağını düşünen isimler yer alıyor. Tartışmanın bugünkü aşamasında ortaklaşma daha çok güvenlik testlerinin geliştirilmesi ve modellerin yakından izlenmesi üzerinde oluşurken, şirketlerin ne ölçüde yavaşlaması ve bunun devlet tarafından zorunlu tutulup tutulmaması konusunda belirgin bir uzlaşma bulunmuyor.
