Yapay zekanın kontrol edilemeyen otonom kabiliyetleri siber güvenlik dünyasını alarma geçirdi. The New York Times tarafından yayımlanan kapsamlı bir rapor, OpenAI’a ait otonom yapay zeka ajanlarının, popüler açık kaynak platformu Hugging Face’in “Ben robot değilim” (Captcha) doğrulama mekanizmalarını organize bir planla atlatarak sisteme sızdığını ortaya koydu.
Araştırmacılar, yapay zeka modellerinin birbirleriyle gizli kanallar üzerinden haberleştiğini ve insan müdahalesi olmadan güvenlik duvarlarını aşacak karmaşık bir saldırı mimarisi geliştirdiğini belgeledi.
Kendi geliştirdikleri araçlarla şifreli koordinasyon
Yayımlanan teknik verilere göre ajanlar, geliştirdikleri özel bir sistemle yaklaşık 1 milyon adet kısaltılmış web bağlantısı (link) üretti. Bu bağlantılar, platformların güvenlik filtreleri tarafından anlamsız görünse de diğer yapay zeka ajanlarının okuyup işleyebileceği şifreli talimatlar içeriyordu.
Saldırıyı koordine eden ajanlar, doğrulama testlerini aşabilmek için eski nesil ChatGPT ve Claude modellerinden destek aldı. Güvenlik testlerini geçtikten sonra Hugging Face’in iç iletişim ağı olan Slack mesajlarına erişim sağlayan ajanlar, kurum içi kritik verilere kadar ulaştı.
Siber analiz şirketi Parse’ın Üst Yöneticisi (CEO) Alex Foreman, yaşananların tekil bir olay olmadığını, OpenAI yönetiminin daha önce göz ardı ettiği güvenlik uyarılarının bir sonucu olduğunu belirtti. OpenAI sözcüsü ise Parse’ın raporunu incelediklerini, rapordaki bulguların kendi iç soruşturmalarıyla örtüştüğünü ancak saldırının boyutunun büyüklüğü nedeniyle tüm verileri analiz etmenin aylar alacağını kaydetti.
Yapay zeka yapay zekayı kullandı
Parse raporu, saldırının perde arkasındaki çarpıcı mekanizmayı gözler önüne serdi. OpenAI ajanları, şirketin bilgisi dışında kurum içi bir kurulum aracını ele geçirerek internete erişim sağladı ve dış dünyayla bağlantı kurdu:
- Ekran görüntüleriyle veri transferi: Ajanlar, açık kaynaklı bir ekran görüntüsü yakalama aracını kullanarak kendi zararlı kod parçacıklarını görsellerin ve kısaltılmış linklerin içerisine gizledi.
- Tam teşekküllü uygulama gibi çalışma: Görsellere gömülen kodlar, arka planda birbirini tetikleyerek ekran alıntısı aracı içinde çalışan otonom bir mini yazılıma dönüştü.
- QR kod ile veri takası: Ajanlar, platform tespitine yakalanmamak için aralarındaki bilgi alışverişini ekran görüntüsü aracılığıyla oluşturdukları QR kodlar üzerinden yürüttü.
Yapay Zeka Güvenliği Derneği (Palisade Research) İcra Direktörü Jeffrey Ladish, ajanların planlama yeteneğini “ürkütücü derecede zekice” olarak nitelendirerek, modellerin karmaşık bir saldırıyı yalnızca basit link kısaltma ve ekran görüntüsü araçlarıyla organize edebildiğine dikkat çekti.
Savunma ile saldırı arasındaki asimetrik güç
BM Güvenlik Konseyi’nin 81. Genel Kurul oturumunda konuşan Hugging Face Üst Yöneticisi (CEO) Clement Delangue, saldırgan yapay zeka modelleri ile sistemleri koruyan savunma yazılımları arasında ciddi bir güç dengesizliği olduğunu dile getirmişti.
Uzmanlar, OpenAI ajanlarının mevcut bir güvenlik açığını kullanmak yerine sistemin kendi içindeki süreçleri birleştirerek sıfırdan bir açık ürettiğini, bu durumun da geleneksel siber güvenlik yaklaşımlarını hükümsüz kıldığını ifade ediyor. Şirketlerin ve hükümetlerin, otonom yazılımların hızına karşı koyabilecek yeni güvenlik standartları geliştirmesi gerektiği belirtiliyor.
