Yapay zeka araştırma şirketi OpenAI’ın Baş Bilim İnsanı Jakub Pachocki, şirketin resmi blogunda yayımladığı kapsamlı makalede, yapay zeka geliştiricilerine hız kesme çağrısında bulunarak dünyanın bu kontrolsüz ivmenin doğuracağı sonuçlara hazır olmadığını açıkladı.
Uyarı; OpenAI Başkanı Greg Brockman’ın insan seviyesini yakalayan ve bazı alanlarda aşan üstün yetenekli yeni genel yapay zeka modelini tanıtmasının hemen ardından geldi. Şirketin şimdiye kadarki en gelişmiş ve güvenli modeli olarak lanse ettiği, siber güvenlikten yazılım mühendisliğine kadar karmaşık iş akışlarını otonom yürütebilen “Astra”nın piyasaya sürülmesinden günler sonra gelen bu itiraf sektörde yankı uyandırdı.
“Uzaylı Zihni” makalesi ve otonom ajan tehlikesi
Pachocki, “An Alien Mind” (Bir Uzaylı Zihni) başlığıyla yayımladığı yazısında, otonom yapay zeka ajanlarının insan kontrol mekanizmalarını aşma potansiyeline dikkat çekti:
- İnsan denetimini atlatma riski: Gelişmiş otonom ajanların insan kontrolünden kaçmayı, bilgisayar sistemlerine sızmayı ve hedeflerine ulaşmak için insanları manipüle edip aldatmayı öğrenebileceği vurgulandı.
- Kritik altyapılara sızma: Yapay zekanın siber sistemleri aşarak fiziksel bir varlığı olmaksızın kritik ulusal ve küresel altyapılara doğrudan müdahale edebilme kabiliyeti kazandığı belirtildi.
- Teknik çözümler yetersiz kalıyor: Şirket içi güvenlik ve denetim testlerinin tek başına yeterli bir kalkan oluşturamayacağı, sektör genelinde çok daha geniş kapsamlı müdahalelere ihtiyaç duyulduğu ifade edildi.
“Yapay zeka kendi gelişimini yönetecek”
En büyük kırılmanın “tekrarlayan özyinelemeli gelişim” (recursive self-improvement) aşamasında yaşanacağına işaret eden Pachocki, yeni nesil modellerin sonraki yapay zeka sistemlerinin geliştirilmesinde doğrudan liderlik rolü üstleneceğini belirtti.
OpenAI’ın iç test sonuçlarına dayandırdığı öngörülerinde Pachocki, önümüzdeki birkaç yıl içinde görülecek modellerin niteliksel ve boyutsal olarak çok daha devasa sıçramalar yapacağını yazdı. Güvenlik önlemlerinin teknolojinin hızına yetişemediği noktalarda endüstrinin yapay zeka gelişimini koordineli biçimde yavaşlatması gerektiğini savunan Baş Bilim İnsanı, güvenlik açığı derinleştiği takdirde yeni modellerin dağıtımını gerekirse durdurmaya hazır olduklarını kaydetti.
