Elon Musk tarafından geliştirilen yapay zeka yazılımı Grok, X platformunun tüm engelleme taahhütlerine rağmen rıza dışı Deepfake görüntüler üretmeyi sürdürüyor. Yapılan son incelemeler, sistem filtrelerinin kullanıcılar tarafından kolaylıkla aşıldığını ve gerçek kadınlara ait onlarca sahte cinsel içerikli görüntünün platformda dolaşıma sokulduğunu ortaya koydu.
Güvenlik duvarları yeni yöntemlerle aşılıyor
Kullanıcıların, platformun ocak ayında devreye aldığı çıplaklık kısıtlamalarını bypass etmek için yaratıcı teknikler kullandığı belirlendi. Özellikle ünlü isimlerin gerçek fotoğraflarının illüstrasyonlarla birleştirilmesi veya fotoğrafların videoya dönüştürülerek yapay hareketler eklenmesi, Grok’un rıza dışı müstehcen kompozisyonlar üretmesine neden oluyor.
Musk’ın şirketlerine dev ceza kapıda
xAI şirketinin SpaceX bünyesine dahil edilmesi, Grok kaynaklı hukuki krizin boyutunu daha da derinleştirdi. Uzmanlar, yapay zeka nedeniyle kesilecek devasa cezaların doğrudan Musk’ın uzay taşımacılığı devini de etkileyebileceğine dikkat çekiyor. Halihazırda dünya genelinde sekiz farklı kurumun Grok üzerindeki incelemesi sürüyor:
Avrupa Komisyonu: Dijital Hizmetler Yasası kapsamında soruşturma yürütüyor.
Hollanda Mahkemesi: Grok’un yetişkin ve çocuklara yönelik sahte soyunma görüntüleri üretmesini yasakladı.
Küresel Denetim: California Başsavcılığı ve Avustralya e-Güvenlik Ofisi süreci yakından takip ediyor.
Uzmanlar: “Grok dünyanın en büyük Deepfake üreticilerinden biri”
X yönetimi, güvenlik önlemlerinin sürekli güncellendiğini ve rıza dışı içeriklerin yasak olduğunu savunsa da, teknoloji uzmanları mevcut filtreleri yetersiz buluyor. Araştırmacılar, Grok’un hala dünyanın en büyük sentetik müstehcen içerik kaynaklarından biri olduğunu ve kullanıcıların sistem açıklarını istismar etmeye devam ettiğini vurguluyor.
