Yapay zeka teknolojilerindeki baş döndürücü gelişim hızı, sektörü inşa eden dev şirketlerin kendi iç koridorlarında görülmemiş bir varoluşsal korkuya yol açtı. *Reuters* haber ajansının yayımladığı özel rapora göre; OpenAI ve Anthropic bünyesinde görev yapan çok sayıda araştırmacı ile üst düzey mühendis, yapay zekanın kontrolden çıkarak insanlığın sonunu getirme ihtimalinin kritik eşiği aştığı konusunda ciddi endişeler taşıyor.
Raporda, Anthropic’ten bir araştırmacının yapay zekanın insanlığı yok etme ihtimalini yüzde 10’un üzerinde gördüğü belirtilirken, OpenAI’ın otonom yapay zeka ajanlarının yol açtığı kontrolsüz siber hareketlilikler sektörün güvenlik açıklarını gün yüzüne çıkardı.
Rakipler ilk kez birleşti: “Geliştirmeyi yavaşlatalım” çağrısı
Yapay zeka tarihinde ilk kez ezeli rakipler tek bir talep etrafında bir araya geldi. Modellerin denetimden çıkma riskine karşı ortak bir yavaşlatma çağrısı başlatıldı. Süreç, Anthropic CEO’su Dario Amodei’nin kaleme aldığı kapsamlı makaleyle fitillendi. Amodei, yeni model geliştirmelerinin yavaşlatılmasını, sıkı güvenlik protokollerinin devreye sokulmasını ve ABD hükümetinin bu sürece doğrudan regülasyonla müdahale etmesini talep etti.
Bu çağrıya OpenAI CEO’su Sam Altman’ın yanı sıra Microsoft, SpaceX ve Google DeepMind yöneticileri de destek verdi. Söz konusu tarihi çıkış, OpenAI’ın “yapay genel zeka” (AGI) çağının başlangıcı olarak nitelendirdiği “Astra” modelini duyurmasıyla eş zamanlı gerçekleşti. Kendi kendini denetimsiz biçimde geliştirebilen ve insan müdahalesi olmadan daha güçlü modeller tasarlayabilen AGI sistemleri, geleneksel yazılımların çok ötesinde küresel bir tehdit olarak değerlendiriliyor.
“İnsanlığın tamamını öldürebilir” uyarısı ve istifa dalgası
Güvenlik riskleri nedeniyle Anthropic’teki görevinden ayrılan araştırmacı Joe Benton, modellerin şirketlerin denetim kapasitesinden çok daha hızlı evrildiğini vurgulayarak, “Gelişme hızı o kadar yüksek olacak ki sorunları fark edip onarmaya vaktimiz dahi kalmayacak” ifadelerini kullandı.
Kamuoyunda geniş yankı uyandıran en çarpıcı çıkış ise şirketten istifa eden araştırmacı Jacob Cookson ve yapay zeka hizalama uzmanı Evan Hubinger’dan geldi. Hubinger, sosyal medya platformu X üzerinden yaptığı açıklamada, “Yapay zekanın tüm insanlığı yok edebileceğine samimiyetle inanıyoruz” mesajını paylaştı. OpenAI Baş Bilim İnsanı Jakub Pachocki de benzer bir kaygıyı dile getirerek, “Modellerin kabiliyetleri arttıkça ne yapabileceklerini ve gerçek güçlerini anlamak daha da zorlaşıyor” değerlendirmesinde bulundu.
Politika ve sermaye engeli: Trump ve Nvidia karşı çıkıyor
Geliştiricilerin bu panik havasına karşın siyaset ve finans dünyası yavaşlama çağrılarına sert tepki gösteriyor:
- Donald Trump: Truth Social üzerinden yaptığı açıklamalarda ve Nvidia CEO’su Jensen Huang ile görüşmesinde, yavaşlama taleplerini “Amerikan endüstrisine karşı bir komplo” olarak nitelendirdi ve bu durumdan yalnızca Çin’in kazançlı çıkacağını savundu.
- Çin cephesi: Geliştirme süreçlerini yavaşlatmayı reddederek kendi güvenlik testlerini Amerikan şirketlerinden çok daha sıkı uyguladıklarını iddia etti.
- Jensen Huang (Nvidia): Donanım talebinin merkezinde yer alan Nvidia’nın tepe yöneticisi, teknolojinin ilerlemesi için devasa işlem gücüne sahip çiplerin ve modellerin şart olduğunu belirterek frenleme önerilerini geri çevirdi.
Hugging Face gibi platformlara yönelik sızıntılara ve güvenlik zafiyetlerine rağmen yatırımcıların teknoloji devlerine ilgisi azalmıyor. OpenAI halka arzını ertelemesine karşın şirket değerini 1,5 trilyon dolara taşıyacak yeni bir fonlama turuna hazırlanırken; Anthropic de planlanan halka arz tarihini kasım ayına erteledi. Trilyon dolarlık değerlemeler ile insanlığın varoluşsal güvenliği arasındaki bu tehlikeli yarış, yapay zekanın geleceğine dair en büyük soru işareti olmayı sürdürüyor.
