ABD’nin New York kentinde düzenlenen geniş kapsamlı meclis oturumu, yapay zeka teknolojilerinin geleceğine ilişkin çarpıcı uyarılara sahne oldu. Anthropic firmasından istifa eden eski araştırmacı Jacob Coxon başta olmak üzere sektörden ayrılan uzmanlar ve dev teknoloji şirketlerinin temsilcileri New York Belediye Meclisi önünde ifade verdi. Oturumda, kontrolsüz hızla geliştirilen sistemlerin insan neslini tehdit edebileceği vurgulandı.
“İçimizdeki düşmanı kendi ellerimizle büyütebiliriz”
Oturumda söz alan eski araştırmacılar, teknoloji devlerinin benimsediği “hızlı ilerle, hatayı sonra düzelt” mantığının insanlık adına büyük risk taşıdığını savundu.
İstifasının ardından New York Belediye Meclisinde tanıklık eden Jacob Coxon, mevcut geliştirme temposunun sürmesi durumunda insanlığın yapay zeka üzerindeki kontrolü tamamen kaybedebileceğini dile getirdi. Coxon, bu gidişatın insanlığın yok oluşuna zemin hazırlayabileceğini kaydetti.
Eski Google DeepMind araştırmacısı Alex Turner ise küresel rekabete değinerek, “Tek potansiyel rakip Çin değil; asıl tehlike kendi içimizde kontrolsüzce büyüyen yapay zeka gücü olabilir” uyarısında bulundu. Eski OpenAI çalışanı Daniel Kokotajlo da şirketlere şeffaflığı artırma ve öncü modellerin çıkış sürecini yavaşlatma çağrısı yaptı.
Şirketlerin kaçamak yanıtları mecliste tepki çekti
Oturuma OpenAI, Google, Meta ve Anthropic temsilcileri video konferans yoluyla katılım gösterdi. New York Belediye Meclisi Başkanı Julie Menin’in yönettiği oturumda şirket temsilcilerine, yapay zekanın yol açabileceği ölümcül zararlardan veya devasa maddi kayıplardan doğacak hukuki sorumluluklar soruldu.
Elon Musk’ın şirketine dava hazırlığı
Görüşmede şirket yöneticilerinin somut risk yüzdeleri ve yasal sorumluluklar konusundaki soruları net yanıtlamaktan kaçınması dikkat çekti. Meclis Başkanı Menin, teknoloji devlerinin ancak yasal celp tehdidi sonrası meclise bağlandığını belirtti. Elon Musk’ın sahibi olduğu SpaceX şirketinin ise tebligata uymadığını açıklayan Menin, konuyu yargıya taşıyacaklarını duyurdu.
New York’tan bağımsız denetim ve ihbarcı koruması hazırlığı
Federal hükümetin sektöre dönük bağlayıcı kurallar getirmekte yavaş kalması üzerine New York şehri kendi yerel düzenlemelerini hayata geçirmeye hazırlanıyor.
Meclis gündeminde yer alan yasa taslağı şu maddeleri içeriyor:
- Kent sınırları içinde kullanılacak yapay zeka sistemlerinin üçüncü taraf bağımsız denetçilerce onaylanması şartı,
- Şirketlerin modellerine dair güvenlik verilerini kamuoyuna ve yerel makamlara açıklama zorunluluğu,
- Şirket içindeki tehlikeli ihlalleri yetkililere bildiren çalışanlara (ihbarcılara) kesilecek idari para cezalarından pay verilmesi.
Teknoloji dünyasının kendi kendini denetleyip denetleyemeyeceği tartışılırken, yerel yönetimlerin sektöre yönelik yasal çerçeve arayışları hız kazanıyor.
