Yapay zeka güvenliği alanında dünyanın önde gelen şirketlerinden Anthropic’in CEO’su Dario Amodei, yapay zekanın insanlığın sonunu getirme ihtimaline ilişkin tartışmalarda kesin yüzdeler vermenin doğru bir yaklaşım olmadığını belirtti. CNN’e özel bir mülakat veren Amodei, geleceğin kaçınılmaz bir felaket olasılığıyla değil, şirketlerin ve sektörün seçeceği doğru veya yanlış patikalarla şekilleneceğini vurguladı.
Tartışma, Anthropic bünyesinde görev yapan yapay zeka araştırmacısı Jacob Cookson’ın istifa ederek kamuoyuna açık bir uyarı yayımlamasıyla alevlendi. Son üç yıldır sektörün öncü laboratuvarlarında ön eğitim (pre-training) süreçlerinde çalıştığını belirten Cookson, şirketlerin sorumsuzca hareket ettiğini, kendi kendini geliştirebilen bir yapay süper zekaya (ASI) doğru körlemesine bir yarış yürüttüklerini ve tüm insanlığın hayatıyla kumar oynandığını öne sürmüştü.
Bu uyarılara, Anthropic’in yapay zeka hizalama (alignment) uzmanı Evan Hubinger da destek verdi. Sektördeki uzmanların bu teknolojinin tüm insanlığı yok edebileceği ihtimalini son derece ciddiye aldığını ifade eden Hubinger, önümüzdeki 10 yıl içinde böyle bir felaketin gerçekleşme ihtimalini yüzde 10’un üzerinde gördüğünü ve süper zekayı insan değerleriyle uyumlu tutacak eksiksiz bir yol haritasının henüz bulunmadığını kaydetti.
“Olasılık zar atmak değil, seçtiğimiz rotadır”
CNN’in “Yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyor musunuz ve bu ihtimal yüzde kaçtır?” sorusuna doğrudan bir oran vermekten kaçınan Dario Amodei, Cookson’ın eleştirilerine büyük ölçüde katıldığını belirtti. Tepkilerin doğrudan Anthropic’e değil, tüm sektörün aşırı hızına ve kontrolsüz dinamizmine yönelik olduğunu söyleyen Amodei, şu değerlendirmeyi yaptı:
- Süreç odaklı yaklaşım: Bir riskten bahsederken “yüzde 10 ihtimal” gibi sabit rakamlar telaffuz etmenin meseleyi bir zar atma oyununa indirgediğini ifade etti.
- Doğru ve yanlış patikalar: Sektörün güvenlik odaklı ilerleyip geliştirme süreçlerini yavaşlatması durumunda hata riskinin son derece düşük kalacağını, ancak kontrolsüz hız tercih edildiğinde felaket ihtimalinin katbekat artacağını dile getirdi.
- Geliştirme hızını düşürme çağrısı: Şirketlerin bağımsız denetime ve güvenlik araştırmalarına yeterli zamanı ayırabilmesi adına genel geliştirme temposunun yavaşlatılması gerektiğini vurguladı.
Teknoloji devlerinden nadir uzlaşı, Trump’tan ret
Amodei’nin çağrısı, aralarında amansız bir pazar rekabeti bulunan sektör devlerini aynı çizgide buluşturdu. OpenAI CEO’su Sam Altman ve Grok modelini geliştiren xAI’ın kurucusu Elon Musk da yapay zeka geliştirme süreçlerinin hissedilir şekilde yavaşlatılması yönündeki çağrılara destek verdi. Üç büyük gücün güvenlik paydasında birleşmesi sektör tarihinde nadir bir uzlaşı olarak kayıtlara geçti.
ABD yönetimi ise bu uyarılara mesafeli yaklaşıyor. İngiliz *The Guardian* gazetesinin aktardığına göre, konuya ilişkin değerlendirmede bulunan ABD Başkanı Donald Trump, felaket senaryolarını “aşırı negatif güçlerin yaygarası” olarak niteleyerek bu tür korkuların gerçeğe dönüşmeyeceğini savundu.
