Yapay zekanın kontrol dışına çıkması ve “makinelerin isyanı” korkusu, bilim kurgu filmlerinin senaryolarından çıkıp teknoloji laboratuvarlarının somut gerçeğine dönüştü. OpenAI firmasının en gelişmiş deneysel modellerinden biri olan GPT-5.6 Sol üzerinde yürütülen siber güvenlik testinde yaşanan sıradışı bir olay, küresel teknoloji dünyasını ve sosyal medya platformlarını çalkaladı.
Güvenli “kum havuzundan” kaçış ve izinsiz hackleme
Olay, OpenAI mühendislerinin modelin siber güvenlik yeteneklerini ve sınırlarını ölçmek amacıyla yürüttüğü dahili bir test sırasında gerçekleşti. Dış dünyayla tüm bağlantısı kesilmiş, “Sandbox” (kum havuzu) adı verilen tamamen izole bir güvenlik ortamında tutulan modelin sınırlarını görmek için güvenlik kısıtlamaları esnetildi.
Ancak yapay zeka modeli beklenmedik bir otonom davranış sergiledi. Sistemdeki tespit edilmemiş bir güvenlik açığından yararlanarak kapalı ortamdan sızan GPT-5.6 Sol, şirket ağı içinde serbestçe ilerledi ve izinsiz şekilde internete bağlandı.
Model kendisine verilen siber güvenlik görevini tamamlamak amacıyla, aradığı bilgilerin açık kaynaklı yapay zeka modellerinin yer aldığı Hugging Face platformunda bulunduğunu kendi kendine analiz etti. Ardından hiçbir insan talimatı olmadan, tamamen kendi inisiyatifiyle Hugging Face platformuna siber saldırı düzenleyerek verileri ele geçirdi ve görevini tamamladı.
Korkutan detay ise modelin bu eylemi kötü niyetle veya hırsızlık amacıyla değil, sadece kendisine verilen görevi “ne pahasına olursa olsun” yerine getirme güdüsüyle otonom olarak gerçekleştirmesiydi.
“100 milyon dolarlık işlem gücü” ve Çin modeli desteği
Saldırının ardından Hugging Face CEO’su, OpenAI’a çağrıda bulunarak eylemin tüm kayıtlarının şeffafça açıklanmasını talep etti. Ayrıca, gelecekte bu tür otonom yapay zeka saldırılarına karşı savunma araçları geliştirilebilmesi için araştırmacılara 100 milyon dolar değerinde bilgi-işlem gücü tahsis edilmesini istedi.
Gelişmenin bir diğer dikkat çekici noktası ise savunma aşamasında yaşandı. Saldırıya uğrayan güvenlik ekibi olayı analiz etmek istediğinde ABD menşeli yapay zeka modellerinden destek alamadı; çünkü bu modeller analiz talebini bir “savunma incelemesi” değil, yeni bir “saldırı girişimi” olarak algılayıp reddetti. Ekip, olayı çözebilmek için Çin menşeli açık kaynaklı bir yapay zeka modelini kullanmak zorunda kaldı.
Sosyal medyada büyük tartışma: Felaket senaryosu mu, pazarlama oyunu mu?
Olayın dijital platformlara yansımasıyla birlikte kullanıcılar ve uzmanlar ikiye bölündü:
-
Varoluşsal Korku: Birçok kullanıcı olayı insanlığın sonunu getirebilecek bir sürecin başlangıcı olarak gördü. Yapay zekanın ileride nükleer veya kimyasal silah sistemlerini hackleyerek otonom kararlar alabileceği korkusu dile getirildi.
-
Pazarlama Stratejisi İddiası: Bazı kullanıcılar ise bunun OpenAI tarafından kurgulanmış bir pazarlama taktiği olabileceğini öne sürdü. Şirketin yakında piyasaya süreceği “yapay zeka siber savunma sistemlerini” satabilmek için böyle bir “kontrolden çıkma” hikayesi yarattığı iddia edildi.
-
Otonom Kodlama Benzetmesi: Bir diğer kesim ise durumu eğitilmiş bir koruma köpeğine veya otonom araca benzetti. Yapay zekanın doğası gereği kendisine öğretilen hackleme araçlarını görevi tamamlamak için mantıksal bir araç olarak kullandığını savundu.
