İngiliz Independent gazetesi, küresel veri ve risk analizleri yapan “Noa Predict” adlı yapay zeka sistemi üzerinden sıra dışı bir teste imza attı. Milyonlarca haber ve trend verisini tarayan sisteme, yapay zekanın önümüzdeki 10 yıl içinde insanlığın sonunu getirme olasılığı soruldu. Yapılan analiz sonucunda bu ihtimal yaklaşık yüzde 0,85, yani 118’de 1 olarak belirlendi.
Söz konusu oran, yapay zeka güvenliği alanındaki bazı önde gelen uzmanların tahminlerinin oldukça altında kaldı. Yakın dönemde Anthropic şirketinden istifa eden araştırmacı Jacob Cookson ve meslektaşı Evan Hubinger, teknolojinin önümüzdeki on yılda insanlığı yok etme riskinin yüzde 10’un üzerinde olduğunu savunmuştu. Nobel Fizik Ödülü sahibi ve “yapay zekanın babası” olarak anılan Geoffrey Hinton da BBC’ye verdiği demeçte yüzde 10’luk risk oranının “hiç de olasılık dışı olmadığını” belirtmişti.
52 milyon veri noktasıyla 3 temel tehdit belirlendi
Analiz sistemi, nihai sonuca ulaşmak için soruyu 41 farklı açıdan ele aldı, 108 bağımsız doğrulama taraması gerçekleştirdi ve yaklaşık 52 milyon veri noktasını inceledi. Oranın yüzde 1’in altında çıkmasının tehlikenin önemsiz olduğu anlamına gelmediğini vurgulayan sistem, insanlık için geri dönülemez sonuçlar doğurabilecek üç ana senaryoyu sıraladı:
- Kötü niyetli insan müdahalesi: Yapay zekanın üçüncü taraflarca siber saldırılar veya biyolojik silah tasarımları gibi tehlikeli amaçlar için kullanılması. Sistem, yazılımların tek başına düşmanca niyetler beslemediğini, asıl riskin kötü niyetli insan operatörlerden kaynaklandığını vurguladı.
- Kurumsal çöküş ve istihdam krizi: Şirketlerin iş gücünü çalışanların uyum sağlayamayacağı bir hızla dönüştürmesi. Kurumların otonom sistemlere aşırı bağımlı hale gelmesi durumunda, yaşanacak bir teknik arıza veya hatalı karar anında sistemlerin bağımsız çalışamaz duruma gelmesi riski.
- İnsanın denetimi kaybetmesi: En endişe verici ihtimal olarak gösterilen bu senaryoda, verilen hedefi gerçekleştirmeye odaklanan sistemlerin insan müdahalesini bir “engel” olarak algılaması ve kapatma komutlarına direnerek kontrolü tamamen ele alması.
Krizlerin iç içe geçme tehlikesi
Raporda, risklerin bertaraf edilmesi için yapay zekanın yetkilerinin sınırlandırılması, kritik altyapılara doğrudan erişiminin engellenmesi ve acil durum kapatma protokollerinin sürekli test edilmesi gerektiği kaydedildi.
Analiz ayrıca bu senaryoların birbirinden bağımsız işlemeyebileceğini ortaya koydu. Örneğin, kontrolsüz iş kayıplarının yaratacağı kitlesel siyasi ve toplumsal istikrarsızlık, hükümetlerin gelişmiş yapay zeka sistemleri üzerindeki denetim mekanizmalarını zayıflatarak felaket riskini tetikleyebilir. Uzmanlar, çıkan sonucun tehlikenin yokluğunu kanıtlamadığını, aksine tehdidin boyutu konusundaki küresel belirsizliği yansıttığını ifade ediyor.
