Yapay zekanın geleceğine odaklanan yeni bir belgesel, insanlığın teknolojiyle olan sınavına dair köklü bir paradigma değişimini gözler önüne seriyor. Bilgisayar bilimci ve yapay zeka araştırmacısı Ben Goertzel’in, teknolojinin mevcut gelişim rotasını “öldürme, gözetleme ve zihin yönlendirme” olarak özetleyen çarpıcı tespiti, tartışmanın merkezine oturuyor. Ancak yapay genel zekanın insanlığı aşacağı veya bilinç kazanan robotların dünyaya hükmedeceği yönündeki bilim kurgu senaryolarının aksine, uzmanlar çok daha yakın ve sinsi bir tehdide işaret ediyor: Kararlarımızı, tercihlerimizi ve dikkatimizi sessizce dizayn eden veri modelleri ve algoritmalar.
Dijital ayak izlerinden davranış modellerine
İnternet kullanıcılarının arkasında bıraktığı sıradan beğeniler, arama geçmişleri, konum bilgileri ve izleme süreleri, veri bilimciler tarafından karmaşık davranış modellerine dönüştürülüyor. Veri ve dijital davranış uzmanı Michal Kosinski, bu izlerin bireylerin eğilimlerini, zayıflıklarını ve olası tepkilerini tahmin etmede kullanıldığını belirtiyor. Algoritmanın insan duygularını anlamasına gerek kalmadan; hangi başlığın tıklandığını, hangi görüntünün duraksattığını ve hangi konunun öfke yarattığını test edip milyarlarca kullanıcıda tekrarlaması, kitlelerin algısını yönetmek için yeterli oluyor.
Artık asıl soru bireyin özgürce seçim yapıp yapamadığı değil, önüne sunulan seçeneklerin ne kadarının kendi kontrolü dışındaki algoritmalar tarafından belirlendiği gerçeğidir.
Dikkat ekonomisi ve gözetleme zaman makinesi
Silikon Vadisi’nin bilgiye erişim vaadinden “dikkat avcılığına” dayalı bir modele evrildiğini hatırlatan teknoloji gazetecisi Kara Swisher, sistemin kullanıcıyı ekranda tutabilmek adına içerikleri manipüle etme gücüne değiniyor. Bireyselleştirilmiş mesajlar sayesinde siyaset, sağlık ve toplumsal kutuplaşma gibi kritik başlıklarda kitlelerin yönlendirilebildiği bir zemin oluşuyor.
Öte yandan Stanford Üniversitesi Öğretim Üyesi Rob Reich, toplanan devasa verileri bir “gözetleme zaman makinesine” benzeterek uyarıda bulunuyor: Bugün kaydedilen yüz tanıma ve video analiz verileri, gelecekte siyasi dengeler değiştiğinde veya bireyler şüpheli konumuna düştüğünde geriye dönük bir baskı aracına dönüştürülebilir.
Karar verici kim: Algoritmanın hedefini kim çiziyor?
Belgeselde, ABD Savunma Bakanlığı’nın insansız hava aracı görüntülerinin analizinde yapay zekayı kullandığı tartışmalı Project Maven projesi de hatırlatılarak askeri alandaki risklere dikkat çekiliyor:
- Otonom silahlar ve hedef tespiti: Yapay zekanın askeri sahada karar alma mekanizmalarına dahil olması, insan hayatına dair son kararı kimin vereceği sorusunu doğuruyor.
- Şeffaflık ve denetim gerekliliği: Avrupa Birliği’nin Dijital Hizmetler Yasası (DSA) gibi yasal düzenlemelerle dev teknoloji platformlarına getirdiği risk değerlendirme ve algoritma şeffaflığı zorunluluğu, tehdidin teorik değil pratik bir toplumsal sorun olduğunu tescilliyor.
Uzmanların ortaklaştığı nihai sonuç; yapay zekanın kendi başına iyi veya kötü bir amaç gütmediği, yalnızca onu yöneten ve hedefini belirleyen güç odaklarının niyetlerini büyüttüğü yönünde. İnsanlığın yüzleştiği gerçek sınav, makinelerin ne zaman isyan edeceği değil, veriyi elinde tutanların algoritmaları ne amaçla eğittiğidir.
