Yapay zekâ teknolojilerinin kötüye kullanımını engellemeyi hedefleyen OpenAI, popüler sohbet robotu ChatGPT için kapsamlı yeni güvenlik önlemlerini devreye sokmaya hazırlanıyor. Şirket, reşit olmayan kullanıcıların silahlara ve güvenlik açıklarına dair pratik bilgilere ulaşmasını kısıtlarken, şiddet veya başkalarına zarar verme eğilimi taşıyan sohbetleri otomatik olarak sonlandıracak yeni algoritmalar geliştirdiğini duyurdu.
Kullanıcıların ve çevrelerinin güvenliğini tehdit edebilecek içeriklere karşı genişletilen bu protokol; yalnızca doğrudan yöneltilen açık tehditleri değil, bağlam içinde şiddet şüphesi uyandıran dolaylı soruları da denetim altına alıyor.
Tehlikeli sohbetlere anında müdahale ve hesap askıya alma
Yeni güvenlik mimarisinin en kritik unsurlarından birini, kullanıcı sorularını tek tek ele almak yerine konuşmanın bütünsel bağlamını analiz eden erken uyarı mekanizması oluşturuyor. Sistem; peş peşe gelen komutları ve diyalog geçmişini tarayarak bir kişiye fiziksel zarar verme, şiddet eylemi planlama veya saldırı hazırlığına işaret eden kalıpları eş zamanlı olarak değerlendiriyor.
Söz konusu risk göstergeleri tespit edildiğinde ChatGPT görüşmeyi anında sonlandırabilecek. Benzer uyarıların aynı kullanıcı tarafından tekrarlanması durumunda ise hesabın geçici olarak askıya alınması veya kalıcı olarak kapatılması gibi kademeli yaptırımlar uygulanacak. OpenAI yetkilileri, erken müdahale mekanizmalarını geliştirmek adına güvenlik ve suç önleme uzmanlarıyla ortak çalışmalar yürüttüklerini belirtiyor.
Silah ve kitlesel saldırı verilerine küresel sınırlama
Yeni kurallar doğrultusunda özellikle 18 yaş altındaki gençlerin silah temini, çalıştırılması veya eylemlerde kullanılmasına dair pratik talimatlara erişimi tamamen engelleniyor. Amaç, kullanıcının kötü niyet taşımadığı durumlarda dahi sohbet robotunun rehberlik edebilecek operasyonel detaylar paylaşmasının önüne geçmek.
Tüm kullanıcıları kapsayan bir diğer önlem ise kitlesel silahlı saldırılara ilişkin teknik ayrıntıların sınırlandırılması oldu. Saldırganların kullandığı teçhizat modelleri, mühimmat temin yolları ve verilen hasarın karşılaştırmalı dökümleri gibi hassas veriler yanıtlardan arındırılıyor. Akademik, gazetecilik ve tarihsel araştırmaları korumak adına olayların sosyolojik etkileri ve şiddeti önleme yöntemlerine dair genel tartışmalar ise kısıtlama dışında tutuluyor.
Otomatik yaş tespiti ve ebeveyn denetimi
OpenAI, genç kullanıcıları koruma altına almak amacıyla doğrudan beyan edilen doğum tarihine ek olarak yapay zekâ tabanlı bir yaş tahmin sistemini de devreye alıyor:
- Davranışsal Analiz: Kullanıcının tartıştığı konular, platformdaki aktif saatleri, kullanım alışkanlıkları ve hesap geçmişi gibi göstergeler üzerinden 18 yaş altı profiller otomatik olarak belirleniyor.
- Doğrulama Seçeneği: Hatalı sınıflandırmaya uğrayan yetişkin kullanıcılar, kimlik doğrulama hizmeti Persona üzerinden yaşlarını kanıtlayarak standart kullanım moduna geri dönebiliyor.
- Ebeveyn Bildirimleri: Ebeveynler, çocuklarının hesaplarını kendi hesaplarıyla eşleştirebilecek. Mesaj içerikleri gizlilik gereği ebeveynlere gösterilmezken, şiddet şüphesiyle hesabın askıya alınması gibi kritik durumlarda ailelere anlık bildirim iletilecek.
Gizlilik kaygıları ve yapay zekânın doğruluk sınavı
Otomatik izleme sistemlerinin devreye girmesi, dijital gizlilik ve algoritmanın doğruluk payı tartışmalarını da beraberinde getirdi. Güvenlik filtrelerinin meşru akademik araştırmalar ile gerçek tehlikeleri ayırt etmekte zorlanabileceği ve meşru bilgiye erişimi kısıtlayabileceği ifade ediliyor.
Reuters’ın aktardığına göre, tüketici hakları örgütü Common Sense Media tarafından yayımlanan önceki bir raporda, kendine zarar verme ve yeme bozukluğu gibi kritik vakalarda ailelere iletilen güvenlik uyarılarının geciktiği veya hiç ulaşmadığı eleştirisi yöneltilmişti. OpenAI, yeni koruma protokollerini önümüzdeki haftalarda kademeli olarak uygulamaya alacağını, şiddet içerikli eğilimlere müdahale istatistiklerini içeren ilk topluluk güvenlik raporunu ise 2027 yılı başında yayımlayacağını açıkladı.
