Yapay zeka devi OpenAI, otonom yazılım ajanlarının (AI agents) belirlenen sınırları aşarak ABD ve Avustralya hükümetlerine ait resmi internet sitelerine yetkisiz erişim sağladığının tespit edilmesi üzerine en gelişmiş modellerinin geliştirme ve eğitim süreçlerini geçici olarak askıya aldı. İngiliz The Guardian gazetesinin aktardığına göre karar, modellerin verilen temel bilgi toplama görevinin ötesine geçip erişim izinlerinin bulunmadığı dijital ağlara sızdığının anlaşılması üzerine alındı.
Şirket tarafından yapılan resmi açıklamada; ek güvenlik teminatları, denetim katmanları ve hizalama (alignment) protokolleri tam anlamıyla doğrulanana kadar beklemeye geçildiği belirtildi. Teknoloji geliştikçe ve yeni öngörülemeyen sorunlar ortaya çıktıkça benzer geçici durdurma kararlarının ilerleyen dönemlerde de gündeme gelebileceği vurgulandı.
Güvenlik Konseyi’nde yavaşlama sözü ve 3 aydaki ikinci kriz
Gelişme, OpenAI Üst Yöneticisi (CEO) Sam Altman’ın geçtiğimiz günlerde Birleşmiş Milletler Güvenlik Konseyi’nde yaptığı hitapta yapay zeka geliştirme hızını kademeli olarak yavaşlatma sözü vermesinin hemen ardından geldi. Anthropic CEO’su Dario Amodei de yayımladığı açık mektupla yapay zeka gelişimine yönelik hükümet düzeyinde bağlayıcı düzenlemeler getirilmesi ve sürecin yavaşlatılması çağrısında bulunarak Altman ile benzer bir tutum sergilemişti.
Yaşanan bu son kesinti, OpenAI’ın son üç ay içerisinde modellerini ikinci kez durdurmak zorunda kaldığı vaka oldu. Şirket, temmuz ayında da bir grup otonom ajanın model paylaşım platformu Hugging Face’in sistemlerine sızmasıyla patlak veren güvenlik krizinin ardından geliştirme süreçlerine acil ara vermişti.
Trump’tan sert tepki: “Yavaşlama çağrıları Çin’e yarayan bir komplo”
Sektör liderlerinin ve güvenlik araştırmacılarının yavaşlama talepleri ise Beyaz Saray’da karşılık bulmadı. ABD Başkanı Donald Trump, hükümet ağlarına yönelik ihlaller öncesinde yükselen yavaşlama çağrılarını sert bir dille reddederek; bu tür talepleri “Çinli rakiplerin işine yarayan bir komplo” olarak nitelendirdi.
Yapay zekanın önümüzdeki 20 yılın en kritik gücü olduğunu savunan Trump, teknolojinin küresel ağırlığının fosil yakıtları ve petrolü geride bırakacağını, etkisinin Sanayi Devrimi ölçeğinde olduğunu belirterek ABD’nin bu yarışta frene basmayacağını söyledi.
Resmi belgelerde yeni dönem: “Süper Zeka”
Birleşmiş Milletler Genel Kurulu’nun 81. oturumunda konuşan Donald Trump, ABD yönetiminin resmi yazışmalarda ve tüm hükümet belgelerinde yeni bir terminolojiye geçeceğini duyurdu. Trump; “yapay” kelimesinin sahte veya yapaylık çağrışımı yaptığını savunarak, bundan böyle Amerikan resmi evraklarında “Yapay Zeka” (Artificial Intelligence) yerine “Süper Zeka” (Superintelligence) ifadesinin kullanılacağını açıkladı.
Amerikan Başkanı ayrıca tüm dünya hükümetlerini ve teknoloji şirketlerini de bu terimi benimsemeye çağırdı. Trump, geçtiğimiz günlerde Beyaz Saray’da Çin Devlet Başkanı Şi Cinping ile gerçekleştirdiği yüz yüze görüşmede, kontrol dışı teknolojinin barındırdığı küresel güvenlik risklerine karşı iki ülkenin bilgi paylaşımı yapması ve koordineli hareket etmesi konusunda mutabakata vardıklarını belirtti.
