Yakın zamana kadar dijital gizlilik tartışmaları şirketlerin topladığı verilerin miktarı etrafında dönerken, günümüzde soru tamamen değişti: Yapay zeka sizin hakkınızda neleri hatırlıyor ve bu hatıralardan hangi sonuçları çıkarabiliyor? Teknoloji devleri OpenAI, Google ve Anthropic’in uzun süreli hafızaya sahip yapay zeka asistanları geliştirmesiyle birlikte, dijital gizlilik mücadelesi yeni bir boyuta taşındı.
Sohbet robotlarının sadece paylaşılan bilgileri kaydetmekle kalmayıp, zaman içinde sohbetleri birleştirerek kullanıcının açıkça ifade etmediği durumları tespit edebilmesi teknik, hukuki ve etik tartışmaları beraberinde getiriyor.
Veri toplamaktan çıkarım yapma çağına
Geliştirilen yeni nesil asistanlar, kullanıcıların tercihlerini, alışkanlıklarını ve günlük rutinlerini hatırlayarak her defasında sıfırdan başlamayan sürekli bir etkileşim sunuyor. Örneğin Google’ın “Personal Intelligence” yapısı veya ChatGPT’nin hafıza yetenekleri kullanıcı deneyimini kişiselleştirmeyi hedefliyor.
Ancak sistemlerin sadece aktarılan verileri depolamakla kalmayıp, arka planda örüntüler kurarak çıkarım yapması uzmanları endişelendiriyor. Kullanıcının farklı zamanlarda yaptığı yemek, ilaç veya diyet aramalarını birleştiren bir yapay zeka, kullanıcı açıkça belirtmemiş olsa bile kişinin diyabet hastası olduğu sonucuna ulaşabiliyor. Aynı yöntemle kişilerin finansal durumu, siyasi eğilimleri veya mesleki değişim planları da yüksek doğruluk oranlarıyla tahmin edilebiliyor.
Riskler ve etik kaygılar
İspanya merkezli VigIA Derneği Başkan Yardımcısı ve yapay zeka etiği araştırmacısı Almira Zejnuddinova, yapay zekanın ürettiği çıkarımların ham veriden daha tehlikeli olabileceği uyarısında bulunuyor. Zejnuddinova, sistem tarafından oluşturulan profillerin gelecekte iş başvuruları, sigorta poliçeleri veya kredi değerlendirmelerinde kullanıcı aleyhine sessizce kullanılabileceğine dikkat çekiyor.
Birleşik Krallık Gloucestershire Üniversitesi Araştırmacısı Eleanor Watson ise mevcut gizlilik yasalarının verileri korumak üzere tasarlandığını, ancak yapay zekanın “insan kişiliğinin sürekli güncellenen bir modelini” ürettiğini vurguluyor. Watson, yapay zekanın yanlış çıkarımlar yapması halinde bile bu durumun kullanıcıya sunulan reklamları, hizmetleri ve fiyatları etkileyebileceğini ifade ediyor.
Çıkarımsal gizlilik ve dijital kimlik hakkı
Uzmanlar, “Verilerimin sahibi kim?” sorusunun yerini “Hakkımda kim bir teori yürütüyor ve bununla ne yapmaya hakkı var?” sorusunun aldığını belirtiyor. Bu durum, gizlilik anlayışını sadece veri korumadan çıkarıp “çıkarımsal gizlilik” ve “zihinsel mahremiyet” kavramlarına kaydırıyor.
Geleneksel Genel Veri Koruma Tüzüğü (GDPR) gibi mevzuatların, sürekli öğrenen ve kullanıcı profilini yeniden inşa eden sistemler karşısında yetersiz kalabileceği ifade ediliyor. Kullanıcıların sadece verdikleri verileri silme hakkına değil, yapay zekanın kendileri hakkında ulaştığı çıkarımsal profilleri de görme, düzeltme ve silme hakkına sahip olması gerektiği savunuluyor.
