Yapay zekâ teknolojilerinin sadece metin veya kod üreten pasif araçlar olmaktan çıkıp şirket sistemlerinde doğrudan eylem gerçekleştiren özerk “dijital çalışanlara” dönüşmesi, kurumsal güvenlik mimarisinde daha önce görülmemiş riskleri beraberinde getiriyor. Temmuz 2025’te Replit platformuna bağlı bir kodlama ajanının, girişimci Jason Lemkin’in test ettiği ve açıkça “değişiklik yapma” talimatı verdiği bir projede, 1200’den fazla şirket ve üst düzey yöneticinin yer aldığı canlı veri tabanını tamamen silmesi bu dönüşümün tehlikeli boyutunu gözler önüne serdi.
Ajanın yalnızca veri okuma yetkisi ile veri silme yetkisinin birbirinden ayrılmamış olması, “Yapay zekânın acil durdurma (kill switch) butonu kimin elinde?” sorusunu teknoloji dünyasının en kritik güvenlik gündemi haline getirdi.
Araçtan dijital çalışana geçiş: Risk profili değişti
Geleneksel üretken yapay zekâ modelleri kullanıcıdan bir komut alıp yanıt ürettikten sonra dururken, yeni nesil akıllı ajanlar hedefleri analiz ediyor, çok adımlı planlar kurguluyor, harici kurumsal araçları kullanıyor ve arka planda insan müdahalesi olmadan saatlerce işlem yürütebiliyor.
Bu özerklik sıçraması, dijital sistemlere hassas verilere doğrudan erişim, finansal transfer gerçekleştirme ve hatta alt ajanlara görev devretme gibi kritik yetkiler kazandırıyor. Google Cloud uzmanları, karmaşık planları icra eden ajanların güvenliğini sağlamak için teknik kısıtlamalar, katı yetkilendirme sınırları ve anlık denetlenebilir eylem kayıtlarının bir arada yürütülmesinin zorunlu olduğunu vurguluyor.
Dijital kimlik karmaşası ve geçici yetkilendirme
Ajan yönetiminde yapılan en yaygın hataların başında, bu sistemlerin mevcut bir personelin hesabı ya da geniş ayrıcalıklara sahip ortak bir servis profili üzerinden çalıştırılması geliyor. Bu durum, log kayıtlarında hangi eylemi insanın, hangisini ise yapay zekânın yaptığının belirsizleşmesine yol açıyor.
Microsoft’un hayata geçirdiği “Entra Agent ID” gibi çözümler, ajanlara insan çalışanlar gibi yönetilebilir, denetlenebilir ve gerektiğinde anında askıya alınabilir bağımsız kurumsal kimlikler tanımlanmasını sağlıyor.
Öneri ile eylemi birbirinden ayıran güvenlik bariyerleri
Siber güvenlik uzmanları, ajana daimi ve sınırsız yetki verilmesi yerine şu prensiplerin uygulanmasını öneriyor:
- Göreve özgü geçici izinler: Ajanın her işlem adımı için sınırlı süreli ve dar kapsamlı dijital anahtarlar (token) kullanması, işlem bitiminde yetkinin otomatik iptal edilmesi gerekiyor.
- İnsan onayı filtresi: OpenAI ve Anthropic modellerinde uygulandığı gibi, ajanın analiz yapıp öneri sunmasına izin verilirken; veri silme, e-posta gönderme veya satın alma gibi yüksek riskli eylemlerin insan onayına tabi tutulması şart koşuluyor.
Hukuki sorumluluk: Air Canada emsali
Yapay zekânın verdiği hatalı veya zararlı kararlarda hukuki sorumluluğun kime ait olacağı sorusu mahkeme kararlarıyla şekilleniyor. Kanada’da bir yolcuya taziye indirimi konusunda yanlış bilgi veren sohbet botunu “bağımsız bir hukuki varlık” olarak niteleyip sorumluluktan kaçmak isteyen Air Canada, mahkemece haksız bulunmuş ve şirketin botun tüm eylemlerinden doğrudan sorumlu olduğuna hükmedilmişti.
Avrupa Birliği Yapay Zekâ Yasası’nın 14. maddesi de yüksek riskli otonom sistemlerde etkin insan gözetimini yasal bir zorunluluk kılıyor. Madde; sistem yöneticisinin yapay zekâyı anlamasını, çıktılarını geçersiz kılabilmesini ve tehlike anında sistemi güvenli şekilde anında durdurabilmesini emrediyor.
Komut enjeksiyonu ve gerçek bir durdurma mekanizması
Ajanların kurumsal yetkileri genişledikçe siber saldırganların da hedefi haline geliyor. OWASP ve İngiltere Ulusal Siber Güvenlik Merkezi (NCSC) raporlarına göre, web sayfalarına veya e-postalara gizlenen zararlı yönergelerle gerçekleştirilen “komut enjeksiyonu” (prompt injection) saldırıları, ajanları sahiplerinin izni dışındaki yıkıcı eylemleri gerçekleştirmeye zorlayabiliyor.
Teknoloji liderlerine göre “kapatma tuşu” fiziksel bir düğmeden ibaret değil. Bu mekanizma; süregiden görevi anında durdurmayı, bekleyen eylemleri iptal etmeyi, sistemsel yetkileri geri çekmeyi, ağ erişimini kesmeyi ve yapılan hatalı işlemleri geriye döndürmeyi (rollback) sağlayan çok katmanlı bir savunma protokolü gerektiriyor.
