Yapay zeka çipleri pazarının lideri Nvidia, test ortamlarından kaçmaya çalışan veya kontrolden çıkan bağımsız yapay zeka ajanlarını (AI agents) şüpheli bir hareket sezdikleri anda saniyenin çok küçük bir diliminde etkisiz hale getiren yeni güvenlik sistemini tanıttı. Axios tarafından paylaşılan bilgilere göre geliştirilen teknoloji, yapay zekanın beklenmedik müdahalelerini anında izole etmeyi hedefliyor.
Bu duyuru; Anthropic CEO’su Dario Amodei, OpenAI CEO’su Sam Altman ve SpaceX CEO’su Elon Musk gibi teknoloji liderlerinin modellerin gelişim hızını yavaşlatma çağrılarına doğrudan bir yanıt olarak değerlendiriliyor.
Gelişimi durdurmak yerine mühendislik çözümü
Nvidia’nın tanıttığı mimari, hem açık kaynaklı bir yazılım katmanını hem de bağımsız bir donanım parçasını bir araya getiriyor. Nvidia CEO’su Jensen Huang, son dönemde yaşanan siber güvenlik ve model kaçış vakalarının bu sistemle engellenebileceğini savundu.
Huang konuya ilişkin açıklamasında şu ifadelere yer verdi:
“Yapay zekanın insanlığa sağlayacağı muazzam faydalar, ancak güvenlik sorununu çözebilirsek gerçeğe dönüşür. Çözüm süreci yavaşlatmakta değil; güvenliği ve emniyeti garanti altına alan güçlü mühendislik çözümleri üretmektedir.”
İki kademeli güvenlik mimarisi nasıl çalışıyor?
TechCrunch’ın aktardığı teknik detaylara göre sistem, birbirinden bağımsız çalışan iki ana güvenlik katmanından oluşuyor:
- Açık kaynaklı OpenShell katmanı: Yapay zeka ajanlarının çalışma esnasında erişebileceği veri ve işlem sınırlarını kontrol eden birinci basamağı oluşturuyor.
- Sentry donanım seviyesi: Şirketin “BlueField-4” çiplerine dayalı, bağımsız bir denetim mekanizması olarak görev yapıyor.
Yapay zekanın denetim mekanizmasını devre dışı bırakmasını önlemek amacıyla Sentry bileşeni, ana işlemcilerden (CPU) ve grafik işlemcilerden (GPU) tamamen ayrı bir işlem biriminde konumlandırıldı. Sürekli izleme yapan donanım, belirlenen sınırların dışına çıkma eğilimi gösteren ajanları saniyenin kesirlerinde sistemden yalıtıyor.
Teknoloji devlerinden destek geldi
Yeni güvenlik ekosistemini sistemlerine entegre etmeyi kabul eden şirketler arasında Microsoft, Anthropic, ARM ve SpaceX yer alıyor. Listedeki dikkat çeken detay ise OpenAI’ın henüz katılımcılar arasında adının geçmemesi oldu.
Beyaz Saray’ın eski yapay zeka koordinatörlerinden David Sacks da gelişmeyi memnuniyetle karşıladığını belirterek, “Son güvenlik açıkları yapay zeka gelişiminin durması gerektiğini göstermez; yalnızca savunma duvarlarımızın zayıf olduğunu kanıtlar” değerlendirmesinde bulundu. Jensen Huang, sistemin geliştirme sürecinin geçtiğimiz yıl “OpenClaw” ajanının hızla yayılması üzerine başladığını ve insan kaynaklarındaki denetim hiyerarşisine benzer bir mantıkla yapılandırıldığını sözlerine ekledi.
