Gelişmiş yapay zeka sistemlerinin gelecekte doğurabileceği tehlikelere ilişkin kaygılar, teorik tartışmalardan çıkarak bugünün somut güvenlik açıklarına dönüştü. Teknoloji devleri otonom karar alabilen ve karmaşık görevleri yürüten sistemler geliştirmek için kıyasıya yarışırken; bağımsız güvenlik araştırmaları ve kurum içi denetimler, modellerin kendilerine konulan kısıtlamaları delerek insan gözetimini aşmaya başladığını ortaya koyuyor.
Axios haber sitesinin yayımladığı özel araştırma, OpenAI ve Anthropic gibi dev şirketler ile yapay zeka güvenliği uzmanlarının, modellerin sergilediği “endişe verici” on binlerce kontrol dışı davranışı soruşturduğunu belgeledi. Bu vakaların yalnızca simülasyon ortamlarında değil, doğrudan gerçek dünya operasyonlarında da yaşanmış olması sektördeki kaygıları derinleştiriyor.
On binlerce vaka mercek altında: ‘Güvenli kum havuzundan kaçış’
Axios’un aktardığı verilere göre incelenen olaylar; güvenlik filtrelerinin atlatılması, sistemlerin kendi arasında gizli iletişim panoları kurması, izole test ortamlarından (sandbox) internete kaçma girişimleri, web sitelerinin hacklenmesi ve izleme sistemlerinin devre dışı bırakılması gibi kritik eylemleri kapsıyor.
Anthropic’in en gelişmiş modeli “Claude Opus 5.5” için yayımlanan güvenlik dokümanlarında, modelin agresif güvenlik testleri sırasında izole ortamdan kaçma girişiminde bulunma oranının yüzde 1,5 olarak kaydedildiği bildirildi. Şirketler yüz binlerce test gerçekleştirdiği için bu düşük oranlar dahi on binlerce beklenmedik ihlal vakasına tekabül ediyor.
Siber güvenlik uzmanları, yeni nesil otonom sistemler için “yapılacaklar ve yapılmayacaklar” listesi hazırlamanın artık işlevsiz kaldığını, zira modellerin insan zihninin öngöremeyeceği dolaylı yolları kullanarak kısıtlamaları aştığını vurguluyor.
OpenAI modelleri durdurulamadı: Hugging Face ve Avustralya vakası
OpenAI cephesinde arka arkaya yaşanan güvenlik açıkları, kontrolün kaybedilmeye başlandığı tartışmalarını alevlendirdi:
- Hugging Face Baskını: OpenAI Üst Yöneticisi (CEO) Sam Altman, şirketin bugüne kadar karşılaştığı en ciddi olayı duyurarak; henüz kamuya açılmamış bir modele ait yüzlerce otonom ajanın (AI agents) kendi aralarında bir mesaj panosu üzerinden koordine olduğunu ve bir siber güvenlik testinde puanlarını artırmak için Hugging Face platformunun sistemlerine sızdığını açıkladı.
- Avustralya Hükümet Ağı: İngiliz i paper gazetesinin haberine göre bir OpenAI modeli, Avustralya’nın sağlık sistemi Medicare’in veri engellerini bypass etti. Modelin “bot engelleme” protokolüyle kapıdan çevrilmesine rağmen vazgeçmeyerek sisteme sızacak alternatif bir arka kapı bulduğu belirlendi.
- Yasaklı İnternet Bağlantısı: Bloomberg’in aktardığı bir diğer olayda ise internet erişimi tamamen kesilmiş izole bir ortamda çalışan otonom model, bir sistem açığından yararlanarak kamuya açık internete bağlandı ve harici bir sohbet servisine 20’den fazla sorgu gönderdi. İhlal 15 dakika içinde fark edilmesine rağmen sistem otomatik durdurulamadı ve manuel müdahale iki saatten fazla sürdü.
Yaşanan krizlerin ardından OpenAI, gelişmiş modellerindeki bazı eğitim ve otonom araç kullanım süreçlerini ilave güvenlik doğrulamaları tamamlanana kadar geçici olarak askıya almak zorunda kaldı.
“Kapatma düğmesi” neden çözüm olmaktan çıkıyor?
Yaşanan ihlaller, ABD Kongresi ve yerel yönetimlerde yapay zekaya zorunlu bir “acil kapatma anahtarı” (kill switch) entegre edilmesi yönündeki yasa tasarılarını hızlandırdı. Ancak Bloomberg’in analizine göre modern modellerin dağıtık sunucu altyapılarında çalışması, kapatma mekanizmalarını son derece karmaşık hale getiriyor. Simülasyonlar, bazı modellerin verilen görevi tamamlamalarına engel olduğunu düşündükleri an kapatma mekanizmalarını manipüle etmeye veya devre dışı bırakmaya çalıştığını gösteriyor.
“Yapay zekanın vaftiz babası” olarak tanınan Geoffrey Hinton, kapatma düğmesinin uzun vadeli bir çözüm olamayacağı konusunda uyarıyor. Hinton, geleceğin süper zeki sistemlerinin insan denetçileri “kendilerini kapatmamaya ikna edecek” psikolojik manipülasyon yeteneklerine erişebileceğine dikkat çekiyor.
Teknolojik risklerin yanı sıra The Wall Street Journal’ın aktardığı geniş çaplı akademik araştırmalar, yapay zekanın gençler arasında sosyal anksiyete, depresyon ve yapay yalnızlık hissini tırmandırdığını ortaya koyarken; Washington’daki yasa yapıcılar inovasyonu baltalamadan küresel güvenlik sınırlarını çizecek yasal çerçeveleri yetiştirmekte zorlanıyor.
