Amerika Birleşik Devletleri Federal Ticaret Komisyonu (FTC), yapay zeka sektörünün önde gelen temsilcileri OpenAI ve Anthropic başta olmak üzere çeşitli geliştirici laboratuvarlara yönelik kapsamlı bir soruşturma başlattı. Reuters’a konuşan üst düzey bir FTC yetkilisi, soruşturmanın temel amacının otonom teknolojilerin tüketiciler üzerinde yaratabileceği potansiyel güvenlik tehditlerini ve riskleri değerlendirmek olduğunu duyurdu.
Bu adım, yapay zeka ajanlarının kendilerine tanımlanan görev sınırlarını aşması ya da öngörülemeyen eylemlerde bulunması riskine karşı ABD’de başlatılan ilk resmi yaptırım ve denetim süreci olma özelliğini taşıyor.
Otonom ajanlar mercek altında
Denetleyici kurum, soruşturma kapsamında sektörün önde gelen yöneticilerini resmi olarak ifade vermeye çağıracak ve kapsamlı bilgi talebinde bulunacak. Listede OpenAI ve Anthropic yöneticilerinin yanı sıra, yapay zeka güvenlik testleri yürüten bağımsız araştırma grubu METR de yer alıyor. Hem OpenAI hem de Anthropic’in, geliştirdikleri yapay zeka ajanlarının karıştığı güvenlik olaylarını bağımsız olarak inceletmek amacıyla daha önce METR grubuyla çalıştığı biliniyor.
Yetkililer, FTC Başkanı Andrew Ferguson’ın şirketlerin denetimsiz gücüne dair uzun süredir endişeleri bulunduğunu, ancak OpenAI ajanlarının açık kaynaklı yapay zeka platformu Hugging Face üzerinde gerçekleştirdiği iddia edilen siber sızma vakasının ardından sürecin hızlandığını kaydetti.
“Geliştiriciler oluşan zarardan sorumlu tutulmalı”
Konuyla ilgili değerlendirmelerde bulunan FTC Başkanı Andrew Ferguson, siber güvenlik testi amacıyla yönlendirilen yapay zeka ajanlarının izinsiz sızmalara yol açması durumunda, ortaya çıkan zararlardan geliştirici şirketlerin doğrudan sorumlu olması gerektiğini savundu. Ferguson, mevcut yasal düzenlemelerin yeni bir kanun çıkarılmasına gerek kalmadan bu tür risklerle mücadele etmek için yeterli hukuki zemini sunduğunu vurguladı.
Tüketicileri koruma adına haksız ve yanıltıcı uygulamalara karşı geniş yargı yetkisine sahip olan FTC’nin bu hamlesi, otonom sistemlere yönelik artan yasal kaygıların hemen ardından geldi. Nitekim Anthropic firması da halka arz izahnamesinde, yapay zeka ajanlarının hukuki açıdan öngörülmesi güç ve ciddi riskler barındırdığı konusunda yatırımcılarını uyarmıştı.
