Üretken yapay zeka sektörünün öncü kuruluşu OpenAI’ın CEO’su Sam Altman, şirket çalışanlarıyla gerçekleştirdiği toplantıda sektördeki dengeleri değiştirebilecek bir mesaj verdi. Bloomberg’in aktardığı bilgilere göre Altman; gelişmiş modellerin güvenliğine ilişkin artan endişeler ve laboratuvarlar arasındaki kıyasıya rekabetin yarattığı baskı ortamında, sistemlerin geliştirilme hızını yavaşlatmaya hazır olduklarını ifade etti.
Altman, ChatGPT’nin geliştiricisi olan OpenAI’ın diğer araştırma laboratuvarlarıyla ortak bir hız belirleyebileceğini dile getirirken, pazardaki bazı rakiplerin bu yavaşlama çağrısına yanaşmayabileceğine de dikkat çekti. Şirket içi bu tartışma, son dönemde yaşanan teknik aksaklıklar ve kontrolden çıkma vakalarının ardından geldi. OpenAI, geçtiğimiz ağustos ayında modellerinden birinin açık kaynak platformu Hugging Face üzerinde yetkisiz işlem yapması üzerine sistem güvenliğini artırmak amacıyla geliştirme süreçlerini iki hafta süreyle tamamen askıya almıştı.
“Hayatımızla kumar oynuyorlar”
Yapay zeka güvenliğine ilişkin endişeler, sektörün kilit isimlerinden gelen istifalar ve sert uyarılarla tırmanışa geçti. Daha önce OpenAI bünyesinde de görev yapan Anthropic araştırmacısı Jacob Cookson, görevinden ayrıldığını duyururken şirketlerin güvenlik protokollerini hiçe sayarak “insanlığın hayatıyla kumar oynadığını” öne sürdü. CNBC’ye konuşan Cookson, modelleri geliştiren mühendislerin önemli bir kısmının bu teknolojinin on yıl bitmeden insanlığı yok edebileceği ihtimaline inandığını savundu. Anthropic Güvenlik Sorumlusu Evan Hubinger ise bu riskin yüzde 10 seviyesinde olduğunu ifade etti.
Cookson’ın uyarılarının ardından OpenAI Teknik Güvenlik Ekibi Üyesi Julie Steele de X platformundan yaptığı açıklamada yapay zeka geliştirme sürecinin yavaşlatılması gerektiği görüşüne katıldığını belirtti.
Kontrolsüz özyinelemeli gelişim tehdidi
Uzmanların üzerinde en çok durduğu risk faktörlerinin başında, modellerin insan müdahalesi olmaksızın kendi kodunu ve performansını geliştirebilmesi anlamına gelen “özyinelemeli kendini geliştirme” kabiliyeti geliyor. Anthropic’te yapay zeka güvenliği uzmanı olarak çalışan Anna Wang, kendi kendini sürekli geliştiren sistemlerin yaratacağı riskleri bertaraf edecek bilimsel ve operasyonel bir yol haritasının henüz dünyada bulunmadığını belirtti.
Yapay zeka bilimcisi Gary Marcus ise The Guardian’a yaptığı değerlendirmede; algoritmaların ürettiği kitlesel dezenformasyonun jeopolitik savaşları tetikleyebileceği ve kritik ulusal altyapılara yönelik yıkıcı siber saldırılara yol açabileceği uyarısında bulundu.
Elon Musk cephesinden ‘psikolojik harekat’ çıkışı
Tartışmaların odağındaki bir diğer aktör olan Elon Musk ise güvenlik kaynaklı kısıtlama çağrılarına sert tepki gösterdi. Sahibi olduğu X platformunda paylaşımda bulunan Musk, bu yöndeki panik havasının yapay zeka sektörünü kısıtlamaya yönelik bir “tuzak” ve “psikolojik harekat” olduğunu savundu.
Tesla ve SpaceX gibi şirketlerinde büyük yapay zeka yatırımları bulunan Musk, bu uyarıların Demokratlar tarafından teknoloji firmalarına ağır yasal düzenlemeler getirmek ve kârlılığı baltalamak amacıyla organize edilen bir halkla ilişkiler kampanyası olduğunu öne süren analizleri destekledi. ABD ve Çin merkezli şirketler arasındaki yarışın kızıştığı bir dönemde, yasal düzenlemelerin küresel rekabeti doğrudan etkilemesinden endişe ediliyor.
