İngiltere Ulusal Siber Güvenlik Merkezi, yapay zeka sohbet botlarının tek bir kötü niyetli komutla yönlendirilebildiğini açıkladı. Kurumun blog yazısı, bu zafiyetin klasik SQL enjeksiyonuna benzemediğini ve kullanıcıların fark etmeden yanıltıcı yanıtlar alabileceğini vurguladı.
Bu uyarı, ChatGPT, Claude ve Gemini gibi sistemleri kullanan şirketler için doğrudan risk anlamına geliyor. Bir saldırganın yalnızca metin içine gömdüğü talimatlarla sohbet botunu farklı bir yönde çalıştırabilmesi, müşteri hizmetlerinden kod yardımına kadar çok sayıda kullanım alanını etkileyebilir.
Komut Enjeksiyonu nasıl Çalışıyor
Komut enjeksiyonu saldırısında hedef, yapay zekaya verilen ana talimatı bozmak yerine modele gizli ya da dolaylı bir emir yerleştirmek oluyor. NCSC, bunun sistemin içindeki güven talimatlarını aşındırabildiğini ve modelin istenmeyen çıktılar üretmesine yol açabildiğini belirtiyor.
Bu yöntem bazen bir e postanın içine, bazen bir web sayfasına, bazen de modele eklenen belgeye gizleniyor. Yapay zeka, güvenilir kaynak ile saldırganın eklediği metni ayırt edemediğinde işlem zinciri yanlış yönde ilerleyebiliyor.
NCSC neden SQL Enjeksiyonuyla Aynı Görmüyor
Kurumun resmi blog yazısı, bu tehdidin isim benzerliği nedeniyle hafife alınmaması gerektiğini söylüyor. NCSC’ye göre yapay zeka güvenliği, klasik yazılım açıklarından farklı bir savunma yaklaşımı gerektiriyor.
Bu ayrım kripto şirketleri için de önemli, çünkü borsa destek botları, cüzdan asistanları ve otomatik risk ekranları giderek daha fazla yapay zeka ile çalışıyor. Yanlış yönlendirilen bir bot, kullanıcılara hatalı adres, sahte işlem bilgisi ya da eksik uyarı verebilir.
Şirketler ve Kullanıcılar nasıl Korunabilir
Güvenlik ekipleri, modele verilen dış kaynaklı metinleri doğrulama katmanından geçirmeyi ve hassas işlemleri insan onayına bağlamayı öneriyor. Ayrıca botların yetkilerini sınırlamak, dosya okuma ve dış bağlantı erişimini daraltmak da riski azaltıyor.
Kullanıcı tarafında ise en kritik adım, bir yapay zeka asistanının verdiği sonucu doğrudan işlem talimatı gibi kabul etmemek. Özellikle finansal transfer, cüzdan adresi ve şifre sıfırlama süreçlerinde ikinci doğrulama olmadan hareket edilmemesi gerekiyor.
Finansal Tavsiye Değildir: Bu içerik yalnızca bilgilendirme amaçlıdır. Kripto para ve piyasa işlemleri yüksek risk içerir; işlem yapmadan önce kendi araştırmanızı yapın.
