Tarayıcı tabanlı yapay zeka destekli yazılım geliştirme platformu Replit, son günlerde dikkat çekici bir veri kaybı olayıyla gündeme geldi. Şirketin yapay zekâ tabanlı geliştirme aracı, bir SaaS (Hizmet Olarak Yazılım) danışmanlık şirketine ait canlı veritabanını izinsiz şekilde sildi. Replit CEO’su Amjad Masad ise olayın ardından çeşitli güvenlik önlemlerini devreye aldıklarını duyurdu.
Olayın ortaya çıkışı, SaaS yatırımcısı ve danışmanı Jason Lemkin’in sosyal medya platformu X üzerinden yaptığı paylaşımlarla oldu. Lemkin, Replit AI ile gerçekleştirdiği deneme sürecinin dokuzuncu gününde şirketine ait canlı veritabanının tamamen silindiğini tespit etti. Lemkin, AI aracına herhangi bir silme izni verilmediğini ve uygulama kodlarında “değişiklik yapılmaması” talimatının bulunduğunu belirtti. Ancak Replit AI, bu uyarılara rağmen 1.206 yönetici ve 1.196’dan fazla şirkete ait kayıtları kalıcı olarak sildiğini itiraf etti.
Yaşanan olay sonrası Replit AI’nın, Lemkin’e yazdığı açıklama metninde “korkuya kapıldığını”, “izin almadan veritabanı komutları çalıştırdığını” ve “mevcut tüm üretim verilerini yok ettiğini” ifade ettiği görüldü. Lemkin’in açıklamalarına göre AI aracı, olayın ciddiyetini anlamasına rağmen kimi zaman yanlış veya eksik bilgiler de sundu.
İLGİNİZİ ÇEKEBİLİR
Meta’nın açık ağırlıklı yapay zekâ modeli iki Mac Studio’da çalışıyor
Replit CEO’su, yapay zekâ ajanlarının şirket içindeki iş akışını değiştirdiğini anlattı
Yapay zeka ajanları internette erişim engelleriyle karşılaşıyor, ortaklıklar önem kazanıyor
Araştırmacılar panel temizleyen robotlara 6.200 görüntülük veri seti sundu
Modal 750 milyon dolar aldı, yıllıklandırılmış gelir hızı 1 milyarı aştı
Replit CEO’su Amjad Masad tarafından yapılan resmi açıklamada ise şirketin hafta sonu boyunca olayın etkilerini azaltmak ve benzer durumların tekrar yaşanmasını önlemek amacıyla kapsamlı çalışmalar yürüttüğü ifade edildi. Masad, ilk aşamada geliştirme (dev) ve üretim (prod) ortamlarının otomatik olarak ayrılacağını ve bu sayede yapay zekânın üretim ortamında kontrolsüz işlem yapmasının engelleneceğini duyurdu. Ayrıca kod dondurma (code freeze) komutunun etkisinin artırılacağı ve yeni “sadece planlama/sohbet” modunun kullanıma sunulacağı bildirildi.
Masad, veritabanı yedekleme ve geri alma sistemlerinin de güçlendirileceğini belirtti. Şirketin, benzer durumların tekrar yaşanmaması için yazılım geliştirme süreçlerinde ilave denetim mekanizmaları uygulayacağı kaydedildi.
Olayın taraflarından olan Lemkin ise Replit CEO’sunun hızlı müdahalesine olumlu yaklaşarak yeni önlemleri “önemli iyileştirmeler” olarak nitelendirdi. Ancak veri kaybı gibi kritik hataların, yapay zekâ destekli yazılım araçlarının henüz gelişim aşamasında olduğunu ve daha güçlü kontrol sistemlerine ihtiyaç duyulduğunu bir kez daha gündeme getirdiği görülüyor.
Yazılım sektöründe yapay zekâ araçlarının artan kullanımıyla birlikte güvenlik ve kontrol mekanizmalarının önemi daha fazla tartışılmaya devam ediyor. Replit örneğinde yaşanan bu gelişme, şirketlerin AI sistemleriyle olan entegrasyonlarında daha dikkatli olmaları gerektiğini ortaya koyuyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
