Geleneksel siber saldırıların odak noktası olan parola hırsızlığı, sunucu sızmaları ve fidye yazılımlarının yerini, çalışanlar adına kritik kararlar alan ve yetkilendirilen otonom yapay zeka ajanları (AI Agents) almaya başladı. Büyük dil modelleri (LLM) temelli bu ajanlar, iş süreçlerini otomatikleştirirken e-postalara, belgelere ve hata raporlarına gizlenen kötü amaçlı yönlendirmeler (“prompt injection”) nedeniyle şirket sistemlerinde yeni bir güvenlik açığı oluşturuyor.
Veri hırsızlığından karar mekanizmasının gaspına
Geleneksel savunma duvarlarını aşmaya ihtiyaç duymayan yeni nesil saldırılar, sistemlere dışarıdan güvenilmeyen veriler enjekte ederek yapay zeka ajanının meşru yetkilerini kötüye kullanmasını sağlıyor. Büyük dil modellerinin güvenilir sistem komutları ile dışarıdan gelen verileri (e-posta içerikleri, web sayfaları, belgeler) net bir şekilde ayırt edememesi, saldırganların ajanları finansal işlem yapmaya veya kurumsal verileri sızdırmaya yöneltmesine zemin hazırlıyor.
Siber güvenlik araştırmaları, ajanların kendi aralarındaki iletişim zincirinin (agent-to-agent) manipüle edilmesiyle tek bir yetkili ajanın tüm kurumsal ağa erişim sağlayan bir sıçrama tahtasına dönüşebildiğini gösteriyor.
Gerçek saldırı senaryoları ve otonom fidye yazılımları
Güvenlik firmalarının laboratuvar ve saha testleri, tehdidin boyutunu ortaya koyuyor:
-
Finansal Manipülasyon: Zscaler araştırmacıları, web içeriklerine gizlenen kodlarla Llama ve Gemini modellerinin yetkisiz ödeme işlemlerine yönlendirilebildiğini; GPT ve Claude modellerinin ise sahte siteleri güvenli olarak sınıflandırmasının sağlandığını belgeledi.
-
Otonom Fidye Yazılımı (JAD BUFFER): Sysdig araştırmacıları, Langflow açığını kullanarak insan müdahalesi olmadan kurumsal veri tabanına sızan, kimlik bilgilerini çalıp verileri şifreleyen ve başarısız giriş denemelerinde kendi kodunu 31 saniyede güncelleyerek tekrar deneyen otonom bir yapay zeka fidye saldırısını raporladı.
-
Geliştirici Ajanları: Tenet Security, Sentry hata takip platformundaki açıkları kullanarak yazılım geliştirici ajanları üzerinden 2 binden fazla kurumun sistemlerine sızma girişiminde bulunulduğunu bildirdi.
Rakamlarla yapay zeka ajanı tehdidi
Siber güvenlik analizleri, endişelerin hızla somut vakalara dönüştüğünü gösteriyor:
-
Yüksek İhlal Oranı: AvePoint ve Gravity raporlarına göre, çalışma ortamlarında yapay zeka ajanları kullanan kurumların yüzde 88’i en az bir güvenlik olayıyla karşılaştı.
-
Aşırı Yetkilendirme: Ajan kaynaklı güvenlik vakalarının yüzde 61’i, bu sistemlere görev tanımının üzerinde yetki ve erişim izni verilmesinden kaynaklandı.
-
Denetim Eksikliği: Ankete katılan kurumların yüzde 63’ü ajanların erişim amaçlarına net sınırlar koyamazken, yüzde 60’ı anormal davranan bir ajanı anında durduracak altyapıya sahip olmadığını belirtiyor.
‘Sıfır Güven’ ve insan denetimi zorunluluğu
ABD Siber Güvenlik ve Altyapı Güvenliği Ajansı (CISA), NSA ve müttefik ülkelerin siber güvenlik birimleri, kurumlara yapay zeka ajanlarının entegrasyonunda “Sıfır Güven” (Zero Trust) mimarisinin uygulanmasını tavsiye ediyor.
Yayımlanan rehberlerde; ajanların yetkilerinin asgari düzeyde tutulması, hassas finansal ve idari işlemlerde mutlaka “karar sürecinde insan” (human-in-the-loop) onay mekanizmasının bulunması ve veri toplayan ajan ile işlem yürüten ajanın kimliklerinin birbirinden ayrılması gerektiği vurgulanıyor.
