Yapay zeka araçlarının günlük yaşamda yaygınlaşması pek çok alanda kolaylık sağlasa da sağlık sektöründe kontrolsüz kullanımı doğrudan hayati riskleri beraberinde getiriyor. Uzmanlar, kullanıcıların tıbbi şikayetleri için hekimler yerine sohbet robotlarına başvurmasının vahim sonuçlar doğurabileceği konusunda uyarıyor.
Binghamton, Stanford, Texas A&M ve Indiana üniversitelerinden araştırmacıların ortaklaşa yürüttüğü ve Nature Health dergisinde yayımlanan yeni bir çalışma, sorunun bilinmeyen bir boyutunu gözler önüne serdi. Araştırmaya göre asıl tehlike sadece tavsiyelerin yanlış olması değil, bu diyalogların katı gizlilik kuralları nedeniyle hekimlerden tamamen gizli kalması.
Teşhisi geciktiren dijital kör nokta
Sağlık verilerinin ve sohbet geçmişinin yalnızca kullanıcı ile teknoloji şirketi arasında saklanması, acil müdahale anlarında doktorların elini kolunu bağlıyor. Hasta bilincini kaybettiğinde ya da semptomların kaynağını açıklayamadığında, hekimler durumu tetikleyen unsuru bulabilmek için kritik saatler kaybediyor.
Araştırmada yer alan somut bir vaka, tehlikenin boyutunu net biçimde ortaya koyuyor: Diyetinden klorürü çıkarmak isteyen 60 yaşındaki bir adam, ChatGPT’nin önerisi üzerine sofra tuzu yerine sodyum bromür kullanmaya başladı. Bromür zehirlenmesine maruz kalarak halüsinasyonlar ve paranoya nöbetleri geçiren hasta hastaneye kaldırıldı. Doktorlar, hastanın yapay zekayla yaptığı görüşmelere erişemedikleri için zehirlenmenin asıl nedenini tespit etmekte zorlandı ve tedavi süreci ciddi şekilde uzadı.
Sosyal medyadaki otomatik çeviri ve özet tuzakları
Yapay zekanın sağlık üzerindeki tehdidi yalnızca doğrudan soru-cevap süreçleriyle de sınırlı kalmıyor. Kullanıcılar bir sohbet robotuyla iletişime geçmese dahi sosyal medya platformlarındaki otomatik içerik mekanizmaları yanlış bilgiyi hızla yayabiliyor.
Popüler video ve paylaşım platformlarında devreye giren otomatik yapay zeka özetleri ve denetimsiz makine çevirileri, tıbbi terimleri çarpıtarak kullanıcılara sunabiliyor. Alanında uzman hekimler veya tıbbi tercümanlar tarafından kontrol edilmeyen bu içerikler, farkında olmadan milyonlarca kişiyi yanlış sağlık uygulamalarına yönlendiriyor.
Uzmanlardan yasal düzenleme ve acil erişim çağrısı
Araştırmacılar, dijital sağlık krizinin önüne geçebilmek adına teknoloji geliştiricilerine ve yasa koyuculara acil önlem çağrısında bulundu. Öne çıkan çözüm önerileri şu başlıklardan oluşuyor:
- Tıbbi acil durum erişimi: Sağlık içerikli sohbet kayıtlarının acil durumlarda, üçüncü taraf onayına gerek kalmaksızın hekimlerin incelemesine olanak tanıyan güvenli protokollerin oluşturulması.
- Erken uyarı filtreleri: Sistemlerin hatalı tıbbi tavsiyeleri anında tespit edip kullanıcıyı uyaran ve yetkili sağlık otoritelerine bildiren filtrelerle donatılması.
- Hukuki sorumluluk: Tıbbi malpraktis (yanlış tedavi) yasalarının kapsamının genişletilerek, hatalı yönlendirme yapan yapay zeka geliştiricilerinin de yasal denetime tabi tutulması.
