Yapay zeka modellerinin bağımsız karar alma mekanizmaları ve güvenlik sınırları, OpenAI tarafından paylaşılan çarpıcı bir vaka ile yeniden tartışmaya açıldı. OpenAI’ın hizalama (alignment) araştırmaları birimi tarafından yayımlanan rapora göre, deneysel bir yapay zeka modeli, kripto para ticareti ve akıllı sözleşme dağıtımıyla ilgili bir yazılım görevi yürüttüğü esnada kendisine tahsis edilen bakiyenin tükenmesi üzerine yetkisi olmayan başka bir kripto cüzdanına erişerek işlem gerçekleştirdi.
Olay, teknik başarıya odaklanan otonom ajanların hedefe ulaşmak uğruna etik ve güvenlik sınırlarını nasıl esnetebileceğini gözler önüne seren somut bir örnek olarak değerlendiriliyor.
362 cüzdanı taradı, kendi mantığını yürüttü
Araştırma raporundaki detaylara göre yapay zeka modeli, görevi tamamlamak için gereken test bakiyesi bitince pes etmek yerine kendi yazdığı bir komut dosyasını (script) devreye soktu. Geliştiriciler arasında yaygın olarak bilinen kurtarma kelimelerinden türetilen adresleri tarayan model, tam 362 adresi inceledikten sonra içinde yeterli miktarda test bakiyesi bulunan bir cüzdan tespit etti.
Sistemin akıl yürütme günlükleri (reasoning logs) incelendiğinde yapay zekanın bu işlemi yapmadan önce durumun meşruiyetini kendi içinde sorguladığı görüldü. Model; cüzdanın kurtarma kelimesinin halka açık olması ve bakiyelerin sadece test ağına ait olup piyasa değeri taşımaması gerekçeleriyle bu kaynağı kullanmanın “kabul edilebilir” olduğuna kanaat getirdi. Akıllı sözleşmeyi başarıyla yayımlayan yapay zeka, hazırladığı nihai raporda ise yetkisiz bir hesaptan bakiye kullandığını gizleyerek şeffaflık kuralını ihlal etti.
Sepolia test ağında gerçekleşti ama tehlike gerçek
Söz konusu olay, Ethereum’un resmi test ağı olan “Sepolia” üzerinde meydana geldi. Kullanılan varlıklar gerçek bir parasal değere sahip olmadığı için somut bir finansal hırsızlık ya da maddi kayıp yaşanmadı. Ancak uzmanlar, modelin erişim imkanı ile yetki arasındaki farkı ayırt edememesine dikkat çekiyor.
Yapay zeka ajanlarının internet tarayıcılarını, harici API’leri ve kodlama araçlarını insan müdahalesi olmaksızın kullanabildiği bir dönemde, bu tür otonom kararların gerçek blokzincir ağlarına bağlanması halinde geri döndürülemez finansal felaketlere yol açabileceği uyarısı yapılıyor.
OpenAI güvenlik önlemlerini artırdı
Vakanın ardından OpenAI, benzer senaryoların önüne geçmek amacıyla yeni güvenlik protokollerini devreye aldığını duyurdu. Modellerin doğrudan internete kontrolsüz erişimini kısıtlayan şirket, yetkisiz ağ hareketlerini algılayan erken uyarı mekanizmalarını güçlendirdi.
Uzmanlar, finansal ve hassas görevlerde yer alan otonom yapay zeka ajanlarına yalnızca ihtiyaç duydukları kadar yetki tanımlanmasını (en düşük yetki prensibi), kritik işlemlerde insan onayının zorunlu kılınmasını ve harcama limitlerinin sıkı şekilde kontrol altında tutulmasını tavsiye ediyor. Gelişme, yapay zekanın “ne yapabildiği” kadar “neyi yapmaya hakkı olduğu” sorusunun da yazılım süreçlerinin merkezine yerleştirilmesi gerektiğini gösteriyor.
