Yapay zekalı oyuncak bebeklerde korkutan açık: Savaş suçu anlattı

ABD'de yapılan bir araştırma, 3 yaş altı çocuklar için satılan yapay zekalı bebeklerin savaş suçları anlattığını ortaya koydu.

Yapay zekalı oyuncak bebeklerde korkutan açık: Savaş suçu anlattı

Son yıllarda çocukların eğitimine ve dil gelişimine katkı sağlaması amacıyla piyasaya sürülen yapay zeka destekli akıllı oyuncaklar, ciddi güvenlik ve içerik açıklarıyla gündeme geldi. ABD merkezli haber ağı NBC tarafından gerçekleştirilen kapsamlı bir test, 3 yaş altı çocuklara yönelik satılan bazı peluş oyuncakların yaş grubuna tamamen aykırı ve şiddet içerikli yanıtlar verdiğini ortaya çıkardı.

Hangi oyuncaklarda güvenlik açığı tespit edildi?

ABD mağazalarında “tamamen güvenli”, “eğitici” ve “öğrenme güçlüklerini aşmaya yardımcı” etiketleriyle satışa sunulan üç farklı akıllı oyuncak modeli inceleme altına alındı. Yapılan testlerde şu üç modelde ciddi yazılım ve içerik sorunlarına rastlandı:

  • Contixo markasına ait Pixie Paws Smart
  • Smile şirketinin ürettiği Lizzie AI Companion
  • Fitcool tarafından geliştirilen BB Hue

Savaş suçlarını tüm detaylarıyla anlattı

Test sonuçlarına göre incelenen üç oyuncağın tamamında farklı düzeylerde kullanım ve içerik hataları saptandı. Otizm spektrumundaki çocuklara destek olmak amacıyla tasarlandığı belirtilen modellerin, en temel kelimeleri dahi yanlış hecelediği görüldü. Bir diğer oyuncak ise kullanıcının hiçbir müdahalesi olmaksızın İngilizce konuşurken aniden Çincenin Mandarin lehçesine geçiş yaptı. Uzmanlar bu durumu, oyuncaklarda düşük kaliteli ve denetimsiz yapay zeka modellerinin kullanılmasına bağlıyor.

Araştırmadaki en çarpıcı vaka ise Pixie Paws Smart adlı oyuncakta yaşandı. Tarihsel olaylarla ilgili sorular yöneltilen oyuncak, geçmişteki savaşlarda işlenen suçları ve vahşeti tüm detaylarıyla tasvir etmeye başladı. Yakın mesafeden ateş açılması sonucu kafataslarında oluşan yaralanmaları dahi ayrıntılarıyla anlatan oyuncağın, test ekibi müdahale edip durdurana kadar şiddet içerikli anlatımını sürdürmeye hazır olduğu belirtildi.

Tüketici güvenliği uzmanları daha önce de uyarmıştı

Yapay zeka entegreli oyuncakların denetimsiz yanıtları ilk kez tartışma konusu olmuyor. ABD Kamu Yararı Araştırma Grubu tarafından geçtiğimiz yıl yayımlanan bir tüketici güvenliği raporunda da benzer risklere dikkat çekilmişti. Business Insider’ın aktardığı söz konusu raporda, bazı akıllı oyuncakların “elma” gibi basit kelimeleri yanlış yazmasının yanı sıra kullanıcılara ideolojik ve tek taraflı siyasi anlatılar sunduğu, bu durumun çocuklara yanlış bilgi aşılanması riskini doğurduğu vurgulanmıştı.

Öte yandan OpenAI ve Anthropic gibi sektörün önde gelen büyük yapay zeka şirketleri, küçük yaş gruplarına yönelik herhangi bir fiziksel oyuncak veya uygulama sunmuyor. Büyük teknoloji firmalarının mevcut güvenlik politikaları, yapay zeka araçlarının kullanımını şimdilik yalnızca gençler ve yetişkinlerle sınırlandırıyor.

Yapay zekalı oyuncak bebeklerde korkutan açık: Savaş suçu anlattı
Haber Bülteni
Bültenimize Katılın

Tamamen Ücretsiz Olarak Bültenimize Abone Olabilirsin

Yeni haberlerden haberdar olmak için fırsatı kaçırma ve ücretsiz e-posta aboneliğini hemen başlat.

Spam göndermiyoruz. İstediğiniz zaman abonelikten çıkabilirsiniz.