Yapay zekâ teknolojilerinin gündelik hayatta daha fazla yer bulması, kötü niyetli kişilerin bu araçları suistimal etme potansiyelini de beraberinde getiriyor. Güvenlik firması Huntress tarafından yayımlanan yeni bir rapor, hackerların ChatGPT, Grok gibi popüler yapay zekâ asistanlarını ve Google reklamlarını kullanarak kullanıcıları zararlı yazılımları kendi elleriyle yüklemeye yönlendirdiğini ortaya koydu. Bu yöntemde, kullanıcılar bir terminal komutunu iyi niyetli bir öneri sanarak çalıştırıyor ve bu komut aslında kötü amaçlı yazılımın sistemlerine sızmasına neden oluyor.
Bu yöntemin temelinde yapay zekâ destekli sohbetlerin manipülasyonu yatıyor. Saldırganlar, yaygın bir arama terimi hakkında sohbet botuyla konuşuyor ve sohbet sırasında belirli bir terminal komutunun önerilmesini sağlıyor. Bu konuşmayı herkesin erişimine açık hâle getirip, Google reklam hizmeti aracılığıyla arama sonuçlarında üst sıralara taşıyorlar. Kullanıcılar ise “Mac’te disk alanı boşaltma” gibi masum bir aramayı yaptıktan sonra bu önerilen bağlantıya tıklayıp, içerikte yer alan komutu terminale yapıştırıyor. Sonuç olarak, cihazlarına kötü amaçlı yazılım yüklenmiş oluyor.
ChatGPT ve Google’a olan güven saldırganların işini kolaylaştırıyor
Huntress’ın incelemelerine göre söz konusu saldırıların bir kısmı AMOS adlı Mac odaklı veri sızdırma yazılımını içeriyor. Bu yazılım, yalnızca terminale bir komut yapıştırılmasıyla sistemde çalışmaya başlıyor. Raporda, “Mac’te disk alanı boşaltma” ifadesiyle yapılan bir Google aramasında çıkan sponsorlu ChatGPT bağlantısına tıklayan bir kullanıcının, buradaki zararlı komutu farkında olmadan çalıştırarak sistemini enfekte ettiği belirtiliyor. Yapılan testlerde, aynı yöntemin Grok üzerinde de işe yaradığı görüldü.
Huntress, bu saldırıların geleneksel siber tehditlerin çoğunda yer alan uyarı işaretlerini içermediğine dikkat çekiyor. Kullanıcılar herhangi bir dosya indirmiyor, şüpheli bir bağlantıya tıklamıyor ya da bir yazılım kurmuyor. Bunun yerine yalnızca Google’a ve ChatGPT’ye güveniyorlar. Bu iki platformun güvenilirliği konusundaki algı, saldırganların işini kolaylaştırıyor. Üstelik, Huntress bu durum hakkında blog yazısını yayımladıktan sonra söz konusu sohbet bağlantısı Google’dan kaldırılmış olsa da, en az 12 saat boyunca erişilebilir olmaya devam etti.
Bunlara ek olarak, bu olay ChatGPT ve Grok gibi platformların mevcut zayıf noktalarının da yeniden gündeme gelmesine yol açtı. ChatGPT’nin geliştiricisi OpenAI, son dönemde rakiplerine kıyasla yavaş ilerlemekle eleştirilirken, Grok ise özellikle Elon Musk’a yönelik yanlı tavırlarıyla kamuoyunda güvenilirliğini yitirmiş durumda. Her iki platformun da bu tür istismar senaryolarına karşı yeterli denetim mekanizmaları sunup sunmadığı tartışma konusu.
Henüz benzer yöntemlerin diğer yapay zekâ sohbet botlarında da işe yarayıp yaramadığı net değil. Ancak uzmanlar, bu tür dolandırıcılıklara karşı her zamankinden daha temkinli olunması gerektiği konusunda uyarıyor. Kullanıcıların, özellikle terminale veya tarayıcı adres çubuğuna yapıştıracakları komutların ne işe yaradığını tam olarak anlamadan işlem yapmamaları gerektiği vurgulanıyor. Zararsız görünen bir öneri, arkasında ciddi bir veri sızıntısı veya sistem ele geçirilmesi riski barındırabiliyor.
