Yapay zeka teknolojisinin komutlara yanıt vermenin ötesine geçerek kullanıcı adına doğrudan işlem gerçekleştiren otonom ajanlara (agent) evrilmesi, yeni siber güvenlik ve gizlilik açıklarını beraberinde getiriyor. Kullanıcı hesaplarına, bankacılık verilerine ve iletişim ağlarına doğrudan erişim yetkisi verilen bu dijital asistanlar, sistem düzeyinde herhangi bir dış siber saldırı olmasa dahi yetkilendirme hataları nedeniyle hassas verileri ifşa edebiliyor.
Kişisel harcamalar kurumsal kanala saçıldı
ABD merkezli teknoloji şirketi XMTP Labs’in Üst Yöneticisi (CEO) Shane Mac’in yaşadığı son olay, otonom yapay zeka ajanlarının doğurduğu veri sızıntısı risklerini gözler önüne serdi. Business Insider’ın aktardığına göre Mac, xAI tarafından geliştirilen Grok Bot tabanlı bir finansal yapay zeka ajanı yapılandırdı. Asistan; yöneticinin vadesiz ve birikim hesaplarını analiz ederek harcamaları, abonelikleri ve hesap bakiyelerini düzenli raporlamakla görevlendirildi.
Ancak yapay zeka ajanı, hazırladığı kişisel mali tabloyu özel bir mesajlaşma penceresi yerine şirketin üst yönetiminin yer aldığı kurumsal Slack kanalında paylaştı. İncelemelerin ardından hatanın, benzer isimlere sahip iki farklı gönderim kanalının yapay zeka tarafından karıştırılmasından kaynaklandığı anlaşıldı. Yaşanan krizin ardından sisteme verileri harici ortama aktarmadan önce açık kullanıcı onayı alma kuralı getirildi.
Geniş yetkiler ve siber güvenlik uyarıları
Finansal asistanlar bütçe planlaması yapabilmek için banka hareketlerine erişmeye ihtiyaç duysa da bu verilere erişim izninin verilmesi, bilginin yalnızca belirlenen amaç için kullanılacağını garanti etmiyor. Web Güvenliği Açık Projesi (OWASP), yapay zeka uygulamalarındaki aşırı otonomi ve geniş yetkilendirme modellerinin kritik veri ifşalarına yol açabileceği konusunda uyarıyor.
Uzmanlar, sistemin yalnızca “okuma” yetkisine sahip olmasının finansal transferleri engellediğini ancak hesap bakiyeleri ve harcama dökümlerinin yanlış alıcılara ulaştırılmasını önleyemediğini belirtiyor. ABD Siber Güvenlik ve Altyapı Güvenliği Ajansı (CISA) ise çok katmanlı savunma ve sıkı erişim sınırlandırmaları uygulanmadığı takdirde, tek bir komut algılama hatasının kurumsal veya kişisel itibara kalıcı zararlar verebileceğini bildiriyor.
“En az yetki” ilkesi ve insan denetimi
Uzmanlara göre yapay zeka kaynaklı veri sızıntılarını önlemenin temel şartı “en az yetki” prensibine bağlı kalmaktan geçiyor. Bir harcama özeti çıkarmakla görevlendirilen asistana, kesin bir gereksinim olmadıkça harici kanallara ileti gönderme izni tanınmaması gerekiyor.
ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) tarafından yayımlanan Yapay Zeka Risk Yönetimi Çerçevesi uyarınca;
- Kritik bilgilerin paylaşılmasından önce hedef kanalın kullanıcıya onaylatılması,
- Kişisel ve profesyonel hesapların veri hatlarının birbirinden tamamen izole edilmesi,
- Asistanın tüm işlem geçmişinin denetlenebilir günlük kayıtlarıyla (log) takip edilmesi gerekiyor.
Yapay zeka asistanlarının giderek bağımsız hareket ettiği mevcut ekosistemde geliştiricilerin yalnızca metin tabanlı yönergelerle yetinmeyip yazılımsal güvenlik bariyerleri inşa etmesi, kullanıcıların ise verdikleri erişim izinlerini düzenli aralıklarla denetlemesi hayati önem taşıyor.
