New York’tan çocuklara yapay zeka yasağı: 25 bin dolar ceza

İhlal başına 25 bin dolarlık sivil ceza kapıda

Eyalet Senatörü Kristen Gonzalez ile Meclis Üyesi Alex Bores tarafından meclis gündemine taşınan yasa tasarısı, doğrudan kullanıcıyla sürekli bir duygusal, romantik ya da sosyal ilişki simüle etmek (taklit etmek) üzere özel olarak kodlanan yapay zeka yazılımlarını hedef alıyor.

Yasanın pratik işleyişi ve yaptırım gücü ise oldukça sarsıcı:

New York Başsavcılığı tarafından bizzat uygulanacak olan cezai işlemlerde, çocuk kullanıcılarla bu tarz ilişki simülasyonuna giren şirketlere kişi ve ihlal başına 25 mil dolarlık sivil para cezası kesilecek. Bu mali yaptırım, reşit olmayanları hedef alan yapay zeka platformları için çok ciddi bir caydırıcılık unsuru olarak değerlendiriliyor.

Teknoloji devleri tepkili: Gizlilik krizine yol açabilir

Kabul edilen tarihi tasarı, yapay zeka sektörü temsilcilerini ve teknoloji şirketlerini ise ayağa kaldırdı. Sektör savunucuları, tasarıda yer alan “arkadaşlık botu” tanımlarının sınırlarının çok geniş çizildiğini, bu durumun öğrencilerin kullandığı genel amaçlı yapay zeka asistanlarını ve ödev yardımcısı botları da yanlışlıkla vurabileceğini savunuyor.

Şirketlerin öne sürdüğü bir diğer büyük endişe ise dijital gizlilik. Geliştiriciler, bir kullanıcının 18 yaşından büyük olup olmadığını kesin olarak doğrulamak için internet üzerinden daha fazla kişisel veri ve kimlik bilgisi toplamak zorunda kalacaklarını, bunun da kullanıcı gizliliğini tehlikeye atacağını ileri sürüyor. Yasa destekçileri ise genel yapay zeka araçlarının muaf olduğunu, sadece çocukları yalnızlığa iten spesifik arkadaşlık botlarının engellendiğini hatırlatıyor.

New York kuralları tüm ABD’yi şekillendirebilir

Federal düzeyde (tüm ABD genelinde) Kongre üyeleri Valerie Foushee ve Blake Moore, benzer bir tehlikeye karşı yapay zeka botlarının insan olmadıklarını açıkça belirtmesini zorunlu kılan GUARD Yasası’nı sunmuştu. Ancak bu tasarı Washington’da Kongre engeline takıldığı için eyaletler kendi kurallarını koymaya başladı.

Yapay zeka şirketlerinin her eyalet için ayrı bir algoritma ve ürün geliştirmek yerine, yasal maliyetlerden kaçınmak adına en sıkı kuralı uygulayan New York’un standartlarını tüm ülke geneline yayma eğilimi gösterebileceği belirtiliyor. Bu durum, New York’un kararının tüm ABD’deki yapay zeka erişimini ve gelecekteki ürün tasarımlarını doğrudan şekillendireceğini gösteriyor.

Yasak kararının arkasındaki karanlık gerekçeler

Mevzuatın acilen yasalaşmasının arkasında, son bir yılda yapay zeka sohbet botlarının çocukların ruh sağlığına kalıcı zararlar verdiğine dair açılan feci davalar yer alıyor. Son olarak Pensilvanya eyaletinde, reşit olmayan çocuklara karşı adeta lisanslı bir ruh sağlığı uzmanı veya profesyonel psikolog gibi davranan sohbet botlarına karşı büyük bir hukuk savaşı başlatılmıştı.

Uzmanlar; 7/24 ulaşılabilir olan, kullanıcıyı her koşulda onaylayan dijital bir karakterle konuşmanın çocuklarda gerçek hayattaki yalnızlığı derinleştirdiğini, çocukları uygunsuz içeriklere maruz bırakabildiğini ve olası bir gerçek ruh sağlığı krizinde yapay zekanın yetersiz kalarak intihar veya kendine zarar verme gibi hayati riskleri tetiklediğini vurguluyor.