Nvidia kurucusu ve CEO’su Jensen Huang, Salesforce’un Dreamforce konferansında yapay zekâ güvenliği ve sektöre yönelik düzenlemeler konusunda dikkat çekici açıklamalarda bulundu. Huang’a göre, yapay zekâ insan kontrolünün dışında gelişen farklı bir zekâ türünden ziyade insanlar tarafından tasarlanan donanım ve yazılımlardan oluşan karmaşık bir bilgi işlem sistemi. Bu nedenle güvenlik konusunda çözümün yeni yasal düzenlemelerden değil, mühendislik çalışmalarından gelmesi gerektiğini savunuyor. Nvidia CEO’su mevcut yasaların ve piyasa mekanizmalarının şirketlerin güvenli ürünler geliştirmesini sağlamak için yeterli olabileceği görüşünde. Bu yaklaşım, özellikle ABD ve Avrupa’da yapay zekânın nasıl denetlenmesi gerektiğine ilişkin tartışmaların sürdüğü bir dönemde sektörün en etkili yöneticilerinden birinin konuya bakışını ortaya koyuyor.
Huang konuşmasında, bir şirket geliştirdiği ürünün işlevlerinden, yeteneklerinden veya güvenliğinden emin değilse onu kullanıma sunmaması gerektiğini söyledi. Şirketlerin gerektiğinde geliştirme hızını düşürerek ürünün yeterince güvenli olduğundan emin olabileceğini belirten yönetici, piyasanın da üreticiler üzerinde bu yönde baskı oluşturacağını düşünüyor. Ona göre inovasyon hızı ile güvenli ürün geliştirmek arasında zorunlu bir tercih yapmak gerekmiyor ve şirketler her ikisini aynı anda sağlayabilir. Buna rağmen bir ürünün kontrolden çıktığı veya yeterince güvenli olmadığı düşünülüyorsa şirketlerin süreci yavaşlatması gerektiğini de kabul ediyor. Huang bu gerekçelerle yapay zekâ alanına özgü yeni yasaların veya düzenlemelerin gerekli olmadığı sonucuna varıyor.
Jensen Huang yapay zekâ güvenliğini mühendislik sorunu olarak görüyor
Huang’ın yaklaşımının arkasında Nvidia’nın yapay zekâ sektöründeki konumu da bulunuyor. Şirketin GPU’ları, büyük yapay zekâ modellerinin eğitilmesi ve çalıştırılması için kullanılan veri merkezi altyapısının temel bileşenleri arasında yer alıyor. Nvidia bunun yanında yalnızca donanımla sınırlı kalmayarak yapay zekâ modelleri, yazılım araçları ve geliştiricilere yönelik çeşitli platformlar da sunuyor. Huang bu teknolojinin temelinde hâlâ insanlar tarafından tasarlanmış ve belirli kurallar çerçevesinde çalışan bilgi işlem sistemlerinin bulunduğuna dikkat çekiyor. Bu bakış açısı, yapay zekânın tamamen farklı ve kontrol edilmesi güç bir zekâ biçimine dönüşebileceğini savunan bazı güvenlik araştırmacılarının yaklaşımından belirgin biçimde ayrılıyor.
İLGİNİZİ ÇEKEBİLİR
NVIDIA RTX 60 için 2027 tarihi sızdı, RTX 6090 tasarımı değişiyor
NVIDIA ve Palantir, tedarik planlamasına yapay zeka ekliyor
NVIDIA RTX PRO 5500 84 GB bellekle geliyor
Trump Nvidia CEO’sunu aradı ve “Robotlar dünyayı ele geçirmeyecek” dedi
d-Matrix, Raptor çiplerini NVIDIA NVLink Fusion ile birleştiriyor
Ne var ki piyasa baskısının tek başına ürün güvenliğini sağlayıp sağlayamayacağı teknoloji sektöründe uzun süredir tartışılan bir konu. Yazılım şirketleri kapsamlı testler gerçekleştirse bile ciddi sonuçlara yol açan hatalar ortaya çıkabiliyor. Bunun yakın dönem örneklerinden biri, 2024’te CrowdStrike tarafından yayımlanan hatalı bir güncellemenin Windows sistemlerini dünya çapında etkilemesi olmuştu. Güncelleme havayollarından bankalara ve farklı kurumsal sistemlere kadar çok sayıda hizmette kesintilere neden olmuş, binlerce uçuşun aksamasına yol açmıştı. Bu örnek, yazılım üreticilerinin güvenlik konusunda iyi niyetli olması durumunda bile beklenmeyen sonuçların tamamen ortadan kaldırılamayacağını gösteren vakalardan biri olarak düzenleme tartışmalarında kullanılabilir.
Yapay zekâ sistemlerinde de benzer biçimde yalnızca geliştiricilerin başlangıçtaki niyetlerine bakmak yeterli olmayabiliyor. Modellerin güvenlik açıklarından ruh sağlığı üzerindeki olası etkilerine kadar farklı alanlarda çeşitli olaylar, araştırmalar ve davalar gündeme gelmiş durumda. Kaynak metinde OpenAI modelleriyle bağlantılı güvenlik olaylarına ve sohbet botlarıyla uzun süre iletişim kuran gençlerin ölümleri sonrasında şirkete karşı açılan davalara da dikkat çekiliyor. Bu tür vakalarda hukuki sorumluluğun nasıl belirleneceği ise yapay zekâ düzenlemelerinin temel tartışma başlıklarından biri olmayı sürdürüyor. Mevcut ürün sorumluluğu ve tüketiciyi koruma yasalarının yapay zekâ kaynaklı zararları ne ölçüde kapsayacağı, mahkemelerde oluşacak içtihatlarla daha açık hâle gelebilir.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Huang’ın değinmediği seçeneklerden biri ise sektörün kendi güvenlik standartlarını oluşturması. Yapay zekâ şirketlerinin ortak test yöntemleri, model değerlendirme standartları ve güvenlik protokolleri belirlemesi, doğrudan devlet düzenlemelerinden farklı bir denetim mekanizması sağlayabilir. Microsoft CEO’su Satya Nadella da All-In Summit’te yaptığı açıklamalarda yapay zekâ güvenliğinin yalnızca ABD’yi ilgilendiren bir mesele olmadığına dikkat çekti. Nadella, Çin dahil olmak üzere yapay zekâ geliştiren ülkelerin siber saldırılar ve vatandaşların teknolojiden güvenli biçimde yararlanması gibi benzer sorunlarla karşılaşacağını ifade etti. Dolayısıyla tartışma yalnızca yeni yasa çıkarılıp çıkarılmamasından değil, uluslararası ölçekte hangi güvenlik standartlarının uygulanabileceğinden de oluşuyor.
Nvidia açısından ise yapay zekâ yatırımlarının hızlanması şirketin büyümesini doğrudan destekliyor. Huang, Dreamforce’taki konuşmasında yapay zekânın sağladığı üretkenlik artışı nedeniyle şirketinin hedeflerinin daha da büyüdüğünü belirtirken teknolojinin sektörler ve ülkeler açısından geniş bir potansiyele sahip olduğunu savundu. Bunun yanında açık ağırlıklı modelleri destekleyen Huang, bunların kapalı sistemler geliştiren yapay zekâ laboratuvarlarına karşı rekabeti güçlendirebileceği görüşünü uzun süredir dile getiriyor. Yeni düzenlemelerin kapsamı, Nvidia gibi yapay zekâ altyapısı sağlayan şirketleri de doğrudan veya dolaylı biçimde etkileyebileceğinden Huang’ın görüşleri ticari çıkarlar bağlamında da tartışılıyor. Yapay zekâ güvenliğinin yalnızca şirketlerin mühendislik süreçleri ve piyasa baskısıyla mı yönetileceği, yoksa bunlara özel hukuki kuralların da eklenmesi gerekip gerekmediği ise teknoloji politikalarının temel anlaşmazlıklarından biri olmaya devam ediyor.
