Yapay zeka ekosisteminin öncü şirketlerinden Anthropic, tarihin en büyük halka arzlarından birine hazırlanırken yatırımcılarına çarpıcı bir uyarıda bulundu. Financial Times’ın aktardığı bilgilere göre şirket, ortaklarına dağıtılan halka arz izahnamesinde, yapay zekanın kontrolden çıkması durumunda “insanlık için varoluşsal tehditler” doğurabileceğini resmen kayıtlara geçirdi.
Piyasa değerinin 2 trilyon doları aşması beklenen şirketin hazırladığı kayıt belgesinin yaklaşık üçte biri risk faktörlerine ayrıldı. Belgede, hızla gelişen gelişmiş modellerin şantaj, manipülasyon ve öngörülemeyen davranışlar sergileme ihtimali en kritik tehlikeler arasında sıralandı.
2 trilyon dolarlık dev halka arz ve devasa harcamalar
Dario Amodei liderliğindeki şirket, Claude serisiyle yakaladığı ivmeyi New York Nasdaq Borsası’nda halka arzla taçlandırmayı hedefliyor. Beklenen değerleme, Elon Musk’ın SpaceX şirketinin ulaştığı seviyeleri dahi geride bırakabilecek boyutta.
Ancak devasa hedeflerin yanında finansal riskler de dikkat çekiyor:
- Şirketin gelirlerinin yaklaşık dörtte birinin yalnızca iki müşteriden gelmesi müşteri yoğunlaşması riski yaratıyor.
- Altyapı ve bulut depolama kapasitesini genişletmek için önümüzdeki yıllarda 518 milyar dolarlık dev bir harcama bütçesi planlanıyor.
Sektör liderlerinden geliştirme sürecini yavaşlatma çağrısı
Yapay zekanın kontrol edilemez bir noktaya evrilmesi endişesi, şirket yöneticilerinin güvenlik politikalarını da değiştirdi. Anthropic CEO’su Dario Amodei, risklerin dizginlenebilmesi için geliştirme sürecinin yavaşlatılması gerektiğini savunurken, OpenAI CEO’su Sam Altman ve Elon Musk da bu yaklaşıma destek verdi.
OpenAI cephesinde, güvenlik endişeleri sebebiyle yeni model çıkışlarının ertelendiği bildirildi. Ayrıca Anthropic, OpenAI ve Google’ın çatı şirketi Alphabet’in ortak standartlar belirleyecek bağımsız bir kurul oluşturulması fikrini masaya yatırdığı belirtiliyor.
“Hayatımız üzerine kumar oynuyorlar”
Tartışmalar, her iki şirkette de görev almış araştırmacı Jacob Cookson’ın istifasıyla yeni bir boyut kazandı. Geliştiricileri sert sözlerle eleştiren Cookson, sektördeki kontrolsüz yarışın “insan hayatı üzerine kumar oynamak” olduğunu öne sürdü. Araştırmacıların bir kısmının, gerekli güvenlik tedbirleri alınmadığı takdirde bu teknolojilerin on yılın sonuna kadar geri dönülemez felaketlere yol açabileceği yönündeki endişeleri, halka arz öncesinde piyasaların odak noktası haline geldi.
