Tarihte ABD’de belirli mahallelerin haritalar üzerinde kırmızı hatlarla işaretlenip yatırımdan ve krediden mahrum bırakılmasıyla bilinen “redlining” (kırmızı çizgi) uygulaması, günümüzde boyut değiştirerek dijital platformlarda varlığını sürdürüyor. Algoritmik coğrafi ayrımcılık, açıkça ırk veya sınıf kavramlarına vurgu yapmasa da geçmişteki taraflı ve ayrımcı verileri işleyerek benzer sonuçlar üretiyor.
Yeşilçam ve teknoloji uzmanlarının dikkat çektiği bu durum; teslimat uygulamalarından yol tariflerine, kredi onaylarından sigorta primlerine kadar pek çok alanda düşük gelirli veya belirli etnik kökenlerin yoğunlaştığı mahallelerin sistem tarafından “yüksek riskli” ya da “düşük kârlı” ilan edilmesine yol açıyor.
Dijital gıda çölleri ve lojistik dışlanma
Yemek ve kargo teslimat platformları, beklenen kârlılığı tahmin etmek adına ısı haritaları oluşturuyor. Algoritmalar zamanla belirli işçi sınıfı mahallelerini şu nedenlerle “yüksek maliyetli” olarak tanımlıyor:
-
Düşük sipariş tutarları ve kurye gecikmelerine bağlı yüksek iptal oranları,
-
Dinamik teslimat ücretlerinin bu bölgelerde caydırıcı seviyelere çıkarılması,
-
İndirim ve kampanyaların söz konusu alanlarda geçerli kılınmaması.
Bu durum, söz konusu mahalle sakinlerinin temel hizmetlere daha pahalıya ulaşmasına ya da hizmetten tamamen mahrum kalmasına yol açarak “dijital gıda çölleri” kavramını ortaya çıkarıyor.
Navigasyon uygulamaları ve emlak kredilerinde dijital taraflılık
Navigasyon algoritmaları, trafiği rahatlatmak adına sakin mahalleleri bir gecede yoğun kestirme yollara dönüştürebildiği gibi, kârsız veya “riskli” gördüğü bölgeleri rotaların dışında tutarak yerel esnafın ticari hareketliliğini zayıflatabiliyor.
Emlak ve bankacılık sektöründe kullanılan yapay zeka modelleri de benzeşen mali profil ve kredi puanlarına sahip bireyleri sadece yaşadıkları posta kodları nedeniyle farklı muameleye tabi tutabiliyor. Belirli mahallelerde yaşayan kişilerin kredi taleplerinin otomatik sistemler tarafından reddedilme oranı artarken, sigorta şirketlerinin uyguladığı yüksek primler sosyo-ekonomik uçurumu daha da derinleştiriyor.
Daha adil algoritmalar için çözüm yolları
Şehirlerin birer veri pazarından öte toplumsal yaşam alanı olduğunu vurgulayan uzmanlar, teknolojinin ayrımcılığı pekiştirmek yerine dışlanan bölgelere yatırım çekmek amacıyla kullanılması gerektiğini savunuyor. Bu kapsamda öne çıkan çözüm önerileri şunlardır:
-
Algoritmaların bağımsız kurumlarca düzenli olarak denetlenmesi,
-
Coğrafi bilgilere dayalı taraflı veri kullanımının sınırlandırılması,
-
Dijital platformların şehrin tüm bölgelerine asgari hizmet sunmasını zorunlu kılacak yasal düzenlemelerin hayata geçirilmesi.
