Yapay zeka modellerinin iş dünyasında, ekonomide ve siber güvenlik alanındaki etkisi hızla genişlerken, bu sistemlerin barındırdığı riskleri kontrol altına alacak yasal çerçevenin yetersizliği teknoloji dünyasında yeni bir tartışma başlattı. Microsoft Başkanı Brad Smith, geleneksel tüketici ürünlerine uygulanan sıkı güvenlik standartları ile yapay zekaya tanınan denetimsiz serbestlik arasındaki çarpıcı uçuruma dikkat çekerek uluslararası düzenleme çağrısında bulundu.
BBC’ye verdiği mülakatta dikkat çekici bir kıyaslama yapan Smith; bir kutu süt ya da bir çamaşır makinesinin dahi piyasaya sürülmeden önce yapay zeka modellerine kıyasla çok daha açık, net ve bağlayıcı güvenlik testlerinden geçtiğini ifade etti.
“Acil durum freni” ve bağımsız denetim şartı
Yapay zeka teknolojisinin yalnızca sorulara cevap veren sohbet robotları olmaktan çıkıp kullanıcı adına dijital sistemlerde doğrudan işlem yapan “otonom ajanlara” dönüştüğünü hatırlatan Smith, mevcut gönüllü taahhütlerin yetersiz kaldığını vurguladı.
Teknoloji şirketlerine bağımsız dış denetim zorunluluğu getirilmesi gerektiğini savunan Microsoft Başkanı, sistemlerin kontrolden çıkması ihtimaline karşı şirketlerin elinde mekanik bir “acil durum freni” bulunması gerektiğini belirtti. Smith ayrıca, kontrolden çıkan bir yapay zeka aracının veri ihlaline ya da sistemsel zarara yol açması halinde şirketlerin bunu yasal olarak bildirmesini ve etkilenen tarafları uyarmasını zorunlu kılacak bağlayıcı kurallar önerdi.
İnovasyon ve sıkı kurallar arasındaki hassas denge
Geleneksel gıda ve sanayi ürünlerinde standartlar, rutin kontroller ve hukuki sorumluluk zinciri net biçimde tanımlanmışken; yapay zekada zararın kaynağını tespit etmek hukuken gri bir alan oluşturuyor. Hatanın temel modeli geliştiren şirkette mi, bunu kendi yazılımına entegre eden kurumda mı yoksa modele geniş yetkiler veren son kullanıcıda mı olduğu sorusu yanıtsız kalıyor.
Buna karşın hükümetler, kamu güvenliğini sağlarken teknolojik yenilikleri ve serbest rekabeti boğmayacak bir denge arayışında. Sektör temsilcileri, aşırı katı ve maliyetli regülasyonların küçük girişimlerin önünü keserek yalnızca pazar lideri dev şirketlerin işine yarayabileceği uyarısında bulunuyor.
İngiltere modeli ve küresel mevzuat arayışı
İngiltere’de faaliyet gösteren Yapay Zeka Güvenlik Enstitüsü, ileri düzey modelleri kamuya açılmadan önce şirketlerle yapılan gönüllü anlaşmalar çerçevesinde test ediyor. Ancak İngiltere Yapay Zeka Bakanı Kanishka Narayan, mevcut gönüllü mekanizmaların yetersiz kalması durumunda hükümetin bağlayıcı yasal düzenlemeleri derhal masaya yatıracağını belirtiyor.
Microsoft kendi bünyesinde sorumlu yapay zeka standartlarını güncellediğini açıklasa da uzmanlar, şirketlerin iç denetim mekanizmalarının bağımsız gözetimin ve yasal yaptırımların yerini tutamayacağı konusunda hemfikir.
