Yapay zekâ teknolojilerinin kötüye kullanımına ilişkin kapsamlı bir rapor yayımlayan ABD merkezli yapay zekâ şirketi Anthropic, devlet destekli aktörlerin kendi geliştirdiği modelleri casusluk ve gözetleme faaliyetlerinde kullandığını duyurdu. Ocak ile temmuz ayları arasında tespit edilerek engellenen siber operasyonların Çin, İran ve Batı Afrika merkezli olduğu belirtildi.
Raporda, söz konusu rejimlerin yapay zekâyı geleneksel olarak hedef aldıkları azınlıkları, muhalifleri ve diasporayı takip etmek amacıyla bir mühendislik gücü gibi konumlandırdıkları vurgulandı.
Hedefte Hong Konglu muhalifler ve Tibetliler var
Yayımlanan verilere göre izleme ağları; Hong Kong’daki demokrasi yanlısı figürleri, Tibetli toplulukları, Asya genelindeki Falun Gong mensuplarını ve yurt dışındaki İranlı muhalif grupları hedef aldı:
- İran bağlantılı aktörler: Sosyal medya hesapları üzerinden hedef kişilerin gerçek kimliklerini tespit etmeye yönelik özel yöntemler geliştirdi.
- Mali Ulusal Güvenliği: Mali’de hükümet adına çalışan bir yüklenicinin, doğrudan istihbarat toplamaya yarayan altyapı yazılımlarını kodlatmak için Claude modelinden faydalandığı saptandı.
- Çinli geliştiriciler: Çin merkezli aktörlerin, kullanıcılardan gelen soruları yanıtlarken arka planda Claude verilerini “damıtma” (distillation) yöntemiyle çekerek kendi yerel yapay zekâ modellerini eğitmek amacıyla kullandıkları belirlendi.
Silah tasarımı ve şüpheli biyolojik araştırmalar engellendi
Gelişmiş güvenlik önlemleri sayesinde devlet destekli istihbarat girişimlerinin yanı sıra biyolojik silah araştırmaları, konvansiyonel silah tasarımları ve flört uygulamaları üzerinden yürütülen organize dolandırıcılık girişimlerinin de durdurulduğu açıklandı.
“Claude” model ailesiyle sektörün öncülerinden olan ve modellerin güvenliğini sağlamak için “anaysal yapay zekâ” (Constitutional AI) yaklaşımını benimseyen Anthropic; hükümetlerin ve istihbarat birimlerinin bu teknolojileri etik dışı gözetleme faaliyetlerinde kullanma riskine karşı denetim mekanizmalarını sıkılaştırdığını kaydetti.
