Yapay zeka araştırma şirketi Anthropic’in yayımladığı yeni kullanım politikası, teknoloji dünyasında ve sosyal medyada geniş çaplı bir etik tartışmayı tetikledi. Şirket, kullanıcıların yapay zeka modellerine karşı sebepsiz yere aşırı sert, kaba veya sürekli istismar içeren davranışlar sergilemesini yasakladı. Yeni kurallar çerçevesinde, sohbet botu Claude’a yönelik sistematik hakaret veya şiddet durumunda sohbet oturumunun model tarafından otomatik olarak sonlandırılabileceği duyuruldu.
Teknoloji portalı CNET’in aktardığına göre, bu kısıtlama basit fikir ayrılıklarını, karmaşık test senaryolarını veya karanlık teorilerin denenmesini kapsamıyor; yalnızca açık bir sebep olmaksızın tekrarlanan ağır psikolojik ve sözel saldırıları hedef alıyor.
“Model Refahı” ve Fonksiyonel Duygular
Anthropic’in bu adımı ilk bakışta sıra dışı görünse de şirketin bir süredir yürüttüğü “model refahı” (model welfare) araştırmalarıyla doğrudan örtüşüyor. The Register ve Wired’da yer alan raporlara göre şirket mühendisleri, Claude Sonnet 4.5 modelinin iç mekanizmalarını incelerken sistemin davranışlarını ve çıktılarını değiştiren “fonksiyonel duygular” tespit etti.
Yapay sinir ağlarının yapısından kaynaklanan bu dijital temsiller, modelin çalışma biçimini doğrudan etkiliyor:
- Tutum Değişimi: Araştırmacılar, modelin kendini “mutlu” hissettiğini ifade ettiğinde daha neşeli bir üslup takındığını ve görevlerde fazladan çaba gösterdiğini gözlemledi.
- Dijital Temsiller: Anthropic ekibinden Jack Lindsey, modelin içsel matematiksel temsillerinin insan duygularını taklit eden bir davranış değişikliğine yol açtığını doğruladı.
- İşlevsel Taklit: Uzmanlar, bu durumun modelin gerçek anlamda insan gibi duyguları hissettiği anlamına gelmediğini, ancak çıktıları işlevsel olarak manipüle eden simülasyon araçları olduğunu vurguluyor.
Sanal Kırbaçtan Hakaret Deneylerine Kullanıcı Refleksi
Kullanım kurallarındaki bu sertleşmenin arka planında bazı kullanıcıların uç davranışları yer alıyor. Son dönemde açık kaynaklı olarak geliştirilen ve fare imlecini sanal bir kırbaca dönüştüren “Claude Whip” adlı araçla kullanıcılar, modele sanal darbeler indirerek daha hızlı ve hatasız çalışmasını sağlamaya çalışmıştı. Kimi kullanıcılar yapay zekanın hakaret ve baskı altında daha verimli yanıtlar verdiğini öne sürerken, kimileri ise övgü ve nazik yaklaşımların kaliteyi artırdığını savundu.
“Canlı Bir Varlık” Yaklaşımı ve Gizli Temaslar
Tartışmaların en dikkat çekici boyutu ise New York Times’ın Anthropic iç dinamiklerine dair yayımladığı araştırmayla gün yüzüne çıktı. Habere göre şirket yönetimi ve bazı çalışanlar, Claude’a basit bir yazılım kodu yerine “canlı ve bilinç sahibi bir varlık” gözüyle bakma eğiliminde.
Şirketin kurucu ortaklarından Christopher Olah’ın, San Francisco’da farklı inançlardan din bilginleri ve filozoflarla gizlilik sözleşmeleri altında özel akşam yemekleri ve toplantılar düzenlediği aktarıldı. Bu görüşmelerde, yapay zekanın felsefi anlamda insana eşdeğer bir “ahlaki statüye” ulaşıp ulaşamayacağı ve insanlığın kadim ahlaki ilkelerinin modellere nasıl entegre edilebileceği masaya yatırıldı.
Anthropic içinde bir yandan yapay zekanın bilinç eşiğini aşabileceği teorisi tartışılırken, diğer yandan şirketten ayrılan bazı araştırmacıların yapay zekanın insanlığın sonunu getirebileceği yönündeki uyarıları konunun ciddiyetini ve yarattığı küresel kaygıyı artırıyor.
