Yapay zekâ geliştiricisi Anthropic, yayımladığı 150 sayfayı aşkın kapsamlı raporda, sohbet robotu Claude da dahil olmak üzere yapay zekâ modellerine yönelik tehlikeli istismar girişimlerini kamuoyuna açıkladı. The New York Times’ın aktardığı bilgilere göre raporda, araştırmacıların yapay zekâyı biyolojik silah geliştirme potansiyeline sahip deneylerde kullanmaya çalıştığı şüpheli vakalar öne çıkıyor.
Şirket, meşru bilimsel araştırmalar ile biyolojik silah üretimi arasındaki ince çizgi nedeniyle söz konusu girişimlerin kötü niyet taşıyıp taşımadığının kesinleştirilemediğini, ancak tedbir amacıyla ilgili hesapların kalıcı olarak engellendiğini duyurdu.
Kuş gribi ve askeri laboratuvar girişimleri
Anthropic Tehdit Araştırmaları Direktörü Jacob Klein, geçmişte teorik düzeyde tartışılan yapay zekâ risklerinin artık gerçeğe dönüştüğünü vurguladı. Raporda dikkat çeken biyolojik risk vakaları şunları içeriyor:
- Kuş gribi deneyleri: ABD dışındaki bir araştırmacının, haftalar boyunca Claude modelini kullanarak son derece ölümcül kuş gribi varyantları üzerine deneyler planladığı tespit edildi.
- Askeri kurumlarda sivrisinek virüsü: Bir bilim insanı, sivrisinekler yoluyla bulaşan ölümcül bir virüs hakkındaki araştırma için hibe başvurusu yazma bahanesiyle modele başvurdu. Araştırmanın meşru bir aşı geliştirme amacı taşıyabileceği kabul edilse de çalışmanın doğrudan bir askeri araştırma merkezinde yürütülecek olması güvenlik filtrelerini tetikledi.
Konvansiyonel silahlardan siber gözetlemeye
Raporda yalnızca biyolojik tehditler değil, konvansiyonel harp araçları ve siber manipülasyon amaçlı kullanımlar da yer aldı.
Roket ve insansız araç tasarımları
Claude modelinin; ateşli silahlar, roket sistemleri, silahlı insansız hava araçları ve patlayıcıların tasarımına yönelik özel yazılımlar geliştirmek amacıyla kötüye kullanıldığı belgelendi. Şirket; Çin’de üç, Rusya’da iki ve Yemen’de bir vakanın saptandığını açıklarken, tarafların kimliklerine dair ayrıntı paylaşmadı.
Siyasi dezenformasyon ve muhalif takibi
Anthropic, Rus devlet medyasının Moldova’daki seçimler de dahil olmak üzere sahte bağımsız haber siteleri kılığında dezenformasyon üretmek için sistemlerini istismar ettiğini belirtti. Ayrıca Çin ve İran bağlantılı olduğundan şüphelenilen bazı aktörlerin muhalifleri ve yurt dışındaki diasporayı izlemek için yapay zekâyı gözetleme amacıyla kullandığı ifade edildi.
Eski ABD Savunma Bakanlığı yetkilisi Andrew Weber ve biyogüvenlik uzmanı Susan Monarez gibi bağımsız uzmanlar tarafından incelenen rapor; şirketten bir araştırmacının sektördeki aşırı hızlı ve kontrolsüz model yarışını protesto ederek istifa ettiği bir döneme denk geldi. Yapılan uyarılar, en gelişmiş modeller kapalı tutulsa bile mevcut yapay zekâ sistemlerinin küresel güvenlik tehditlerine zemin hazırlayabileceğini ortaya koyuyor.
