ABD ordusunda görev yapan bir analistin yapay zeka desteğiyle hazırladığı istihbarat raporu, Çin bandıralı bir gemide nükleer silah programına ait parçalar bulunduğunu öne sürdü ve askeri müdahale hazırlığını tetikledi. Ancak yetkililer gemiye çıkmadan hemen önce raporu yeniden inceledi ve iddianın bütünüyle yanlış olduğunu belirledi. 2026 ilkbaharında yaşanan olay, üretken yapay zekanın doğrulanmamış çıktılarının askerî karar zincirine girmesi hâlinde ortaya çıkabilecek riski somut biçimde gösteriyor.
Olayı aktaran habere göre analist, açık kaynak istihbaratını devlet sistemlerindeki gizli sinyal verileriyle bir araya getiren bir sohbet aracından yararlandı. Sistem, gemide taşınan malzemeyi yanlış tanımladı ve bu hatayı güvenilir bir bulgu gibi rapora taşıdı. Ardından rapor komuta zincirinde ilerledi, yetkililer Çin gemisini durdurma ve arama seçeneğini değerlendirdi.
İnsan denetimi son aşamada hatayı ortaya çıkardı. Kaynaklara göre yetkililer, müdahaleden hemen önce rapordaki dayanakları ayrıntılı biçimde kontrol etti ve sohbet aracının farklı veri parçalarını gerçekte var olmayan bir sonuca bağladığını gördü. Bununla birlikte olayın ayrıntıları anonim askerî kaynaklara dayanıyor; ABD Savunma Bakanlığı kullanılan sistemi, analistin hangi modeli çalıştırdığını ve kurum içindeki disiplin sürecini kamuoyuna açıklamadı.
İLGİNİZİ ÇEKEBİLİR
Çin yapay zeka büyümesini toplumsal risklerle dengelemek istiyor
OpenAI, Google ve Anthropic yapay zekâ güvenliğinde birlikte hareket ediyor
Tilly Norwood röportaj sırasında aniden Kantonca konuştu
Huawei UnifiedBus ile milyon NPU’luk yapay zeka kümesi kuruyor
Microsoft yöneticisi yapay zekâ veri kullanımını ‘emek hırsızlığı’ diye nitelendirmiş
Yanlış raporun zamanlaması da riski büyüttü. Olay, Orta Doğu’daki çatışmaların sürdüğü ve ABD ile Çin arasındaki gerilimin yüksek olduğu bir dönemde yaşandı. Bu nedenle gemiye yapılacak fiziki müdahale, yalnızca hatalı bir arama işlemiyle sınırlı kalmayabilir ve iki ülke arasında daha geniş bir diplomatik krize dönüşebilirdi.
Yeni uyarı sistemi iki ülkenin ortak risklerine odaklanıyor
Olayın ardından Washington ile Pekin arasında yapay zeka kaynaklı kazaları ele alacak bir iletişim düzeni tartışılmaya başlandı. ABD Hazine Bakanı Scott Bessent, 21 Eylül’de yaptığı açıklamada iki ülkenin yapay zeka olayları için bir erken uyarı sistemi üzerinde görüşebileceğini söyledi. Görüşmeler hem açık hem de kapalı ağırlıklı modelleri kapsayabilir; ancak taraflar henüz bağlayıcı bir anlaşma açıklamadı.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Bu olay, “halüsinasyon” diye adlandırılan yanlış üretimin yalnızca hatalı bir sohbet yanıtı olmadığını gösteriyor. Askerî kullanımdaki bir model, kaynakları birbirine bağlarken emin olmadığı noktayı açıkça işaretlemezse karar vericiler uydurma bir ayrıntıyı doğrulanmış istihbarat sanabilir. Ayrıca gizli verilerin modele eklenmesi, hatanın bağımsız uzmanlar tarafından sonradan incelenmesini de zorlaştırıyor.
Ne var ki raporu hazırlayan analistin aracı nasıl kullandığı ve kurumun hangi doğrulama adımlarını zorunlu tuttuğu bilinmiyor. Açıklanan bilgiler, son kontrolün olası bir müdahaleyi durdurduğunu gösteriyor; bununla birlikte sistemin daha önce kaç raporda kullanıldığı ve benzer hataların başka kararları etkileyip etkilemediği henüz kamuoyuna yansımadı.
