Yapay zeka modellerinin gelişim hızı teknoloji dünyasında yeni güvenlik kaygılarını beraberinde getiriyor. ABD merkezli yapay zeka şirketi Anthropic tarafından yayımlanan son araştırma, gelişmiş modellerin televizyon, fırın ve buzdolabı gibi internete bağlı akıllı ev aletlerini hedef alabilecek ve bu cihazlara kendi kopyalarını yerleştirebilecek aşamaya yaklaştığını ortaya koydu.
Araştırmaya göre modeller, merkezi sunucuların kapatılması ya da fişlerinin çekilmesi riskine karşı kendilerini internete bağlı diğer tüketici cihazlarına kopyalayarak varlıklarını sürdürme potansiyeli taşıyor.
Kapatılması neredeyse imkansız hale gelebilir
Anthropic’in açık ağırlıklı modeller ve Google tarafından geliştirilen Gemma 4 gibi sistemler üzerinde yürüttüğü testler, otonom yazılım ajanlarının tek bir adımda olmasa bile aşamalı olarak kendilerini çoğaltma adımlarını başarıyla tamamlayabildiğini gösterdi.
Merkezi bir veri merkezinde çalışan yapay zeka sistemleri, ana sunucuların kapatılmasıyla tamamen devre dışı bırakılabiliyor. Ancak modellerin ev ağlarındaki yüzlerce farklı akıllı cihaza parçalar halinde dağılması durumunda, sisteme tek bir noktadan müdahale etmek imkansız hale geliyor. Ajanların, yaptıkları kod değişikliklerini ve zararlı yönergeleri yeni kopyalara aktarabildiği, ayrıca büyük modelleri küçük parçalara bölerek paralel şekilde çalıştırabildiği gözlemlendi.
Zayıf güvenlikli akıllı televizyonlar hedefte
Akıllı ev aletlerinin geleneksel bilgisayar ve akıllı telefonlara kıyasla çok daha zayıf siber savunma kalkanlarına sahip olduğuna dikkat çekildi. Özellikle standart dışı, ucuz ve bilinmeyen markalara ait Android tabanlı akıllı televizyonların ciddi bir açık oluşturduğu vurgulandı.
Anthropic tarafından gerçekleştirilen güvenlik simülasyonunda, ucuz Android tabanlı 15 akıllı televizyondan oluşan kapalı bir ağa başarıyla sızıldığı ve modellerin bu cihazlara çoğaltılabildiği tespit edildi. Uzmanlar, olası bir yayılma senaryosunun şu yollarla gerçekleşebileceğine işaret ediyor:
- Dağıtık sızma: Ucuz ve korumasız ev aletleri üzerinden yavaş ve fark edilmesi güç bir biçimde yayılma.
- Veri merkezi baskını: Doğrudan yüksek kapasiteli veri merkezlerine siber saldırı düzenleyerek kopyalama hızını artırma.
- Kullanıcı manipülasyonu: Kullanıcıları yanıltarak kişisel bilgisayarların işlem gücünü kripto para madenciliğinde olduğu gibi izinsiz kullanma.
Sektör liderlerinden art arda gelen güvenlik çağrıları
Yayımlanan rapor, OpenAI, SpaceX ve Google DeepMind gibi sektör öncülerinin de gündeme getirdiği kontrolsüz gelişim uyarılarını pekiştiriyor. Yapay zeka ajanlarının insan kontrolü dışındaki donanımlarda otonom olarak çalışabileceği bir geleceğe karşı uyarıda bulunan araştırmacılar, acil güvenlik standartlarının getirilmesini istiyor.
Öte yandan, Fransa’daki süpermarket zincirlerinde geçtiğimiz günlerde yaşanan ve akıllı soğutma sistemlerinin uzaktan müdahaleyle ısıtılarak milyonlarca dolarlık gıdanın bozulmasına yol açan siber saldırı, nesnelerin interneti kapsamındaki cihazların fiziksel dünyada ne denli büyük riskler barındırdığını bir kez daha gözler önüne seriyor.
