Askeri karar alma süreçlerine dahil edilen yapay zeka sistemlerinin yol açtığı bir “halüsinasyon” (yanılsama), Amerika Birleşik Devletleri ile Çin’i doğrudan bir askeri çatışmanın eşiğine getirdi. CNN’in askeri ve istihbari kaynaklara dayandırdığı habere göre, yapay zeka destekli bir sohbet robotu tarafından hazırlanan sahte ve hatalı bir istihbarat raporu, Çin’e ait bir kargo gemisine yönelik baskın planını son anda durdurulmaktan kıl payı kurtardı.
Olay, ABD ordusunun bir Çin gemisinin nükleer silah bileşenleri taşıdığı sonucuna varan istihbarat raporunun ardından yaşandı. ABD ordusu gemiyi durdurmak üzere harekete geçti; askeri uçaklar havalanırken özel harekat birlikleri gemiye bordalama yapmak için tüm hazırlıklarını tamamladı.
Yanılsama nasıl gerçekleşti?
Planlanan operasyonun hemen öncesinde yapılan son inceleme, krizin boyutunu ortaya çıkardı. ABD Özel Operasyonlar Komutanlığı’nda görevli bir askeri analistin, geminin yüküne ilişkin Hawaii merkezli Pasifik Özel Operasyonlar Komutanlığı’ndan gelen istihbarat verilerini analiz etmek için ticari bir yapay zeka sohbet robotunu kullandığı belirlendi.
Yapay zeka sistemi, açık kaynaklı veriler ile gizli askeri istihbaratı harmanlarken kritik bir hata yaptı ve gemideki kargonun niteliğini yanlış tanımlayarak nükleer silah parçası olarak etiketledi. Analist, sistemin ürettiği bu hatalı sonucu yeniden yapay zekaya toparlatıp resmi bir istihbarat raporu formatına dönüştürerek komuta kademesine iletti. Yetkililer, Çin bayraklı bir gemiye yapılacak olası bir Amerikan askeri müdahalesinin iki nükleer güç arasında doğrudan bir savaşı tetikleyebileceğine dikkat çekti.
Karar mekanizmasında yapay zeka yarışı
ABD ordusu, sahadaki hedefleri belirlemek, askeri unsurları intikal ettirmek ve devasa veri akışını hızla işlemek amacıyla yapay zekayı karar alma süreçlerine entegre etmeyi sürdürüyor. Washington yönetimi, Çin ile yürütülen jeopolitik ve teknolojik rekabette geri kalmamak adına bu sistemlerin kullanımını stratejik bir zorunluluk olarak görüyor.
Nitekim Savunma Bakanı Pete Hegseth, ordudaki yapay zeka entegrasyonunu hızlandırmak amacıyla yılın başında “Yapay Zeka Hızlandırma Stratejisi” yayımlamıştı. İstihbarat ve savunma birimleri; hedef tespiti ve veri analizinden bütçe yönetimi ve tedarik zincirlerine kadar her alanda bu teknolojilerden faydalanmayı amaçlıyor.
Standart denetim eksikliği ve “halüsinasyon” riski
Ortaya çıkan vaka, askeri kurumlardaki yapay zeka kullanımının merkezi bir denetimden ve ortak güvenlik standartlarından yoksun olduğunu bir kez daha gözler önüne serdi. Kurumların farklı güvenlik protokollerine sahip bağımsız araçlar kullandığı, üretilen bilgilerin doğrulanmasına yönelik standart bir doğrulama mekanizmasının bulunmadığı vurgulanıyor.
Kaynaklar, yapay zeka sistemlerinin gerçek dışı veriler üretmesi anlamına gelen “halüsinasyon” vakalarının istihbarat topluluğunda ilk olmadığını ve benzer hataların daha önce de rapor edildiğini belirtiyor. İnsan denetiminin zayıfladığı ve operasyonel hız baskısının arttığı bir ortamda, yapay zekaya dayalı askeri kararların küresel krizleri tetikleme potansiyeli savunma uzmanları arasında ciddi endişelere yol açıyor.
