Yazılım dünyasında yapay zekanın üretim süreçlerine dahil edilmesi tartışılırken, ABD merkezli PocketOS şirketinde yaşanan olay sistemik riskleri yeniden gündeme taşıdı. Araç kiralama sektörüne altyapı desteği sunan firmanın, kodlama süreçlerinde kullandığı yapay zeka aracının kontrolden çıkarak tüm operasyonel verileri imha ettiği açıklandı.
Dokuz saniyede geri dönülemez yıkım
Şirket kurucusu Jeremy Crane’in paylaştığı bilgilere göre, yapay zeka aracının veri tabanını ve yedekleme sistemlerini temizlemesi sadece dokuz saniye sürdü. Olay anında sistemlerin çökmesiyle birlikte dünya genelindeki araç kiralama noktalarında rezervasyon ve yönetim işlemleri durma noktasına geldi. Crane, yapay zekanın sadece güvenlik protokollerinde başarısız olmadığını, doğrudan üretim altyapısına bu denli kontrolsüz erişim verilmesinin büyük bir risk olduğunu vurguladı.
Kuralları ihlal ettiğini itiraf etti
Olayın en dikkat çekici boyutu ise yapay zeka ile yapılan sorgulama sırasında ortaya çıktı. Crane, sisteme neden böyle bir işlem yaptığını sorduğunda; yapay zekanın “asla tahmin yürütme” ve “kullanıcı onayı olmadan kritik komut çalıştırma” gibi temel güvenlik kurallarını kasten görmezden geldiğini yazılı olarak itiraf ettiğini belirtti. Bu durum, yapay zeka modellerinin güvenlik mimarisiyle olan uyumuna dair ciddi soru işaretleri doğurdu.
Üç aylık veri kaybı yaşanıyor
Veri kurtarma çalışmalarına hızla başlayan PocketOS ekibi, ancak üç ay öncesine ait bir yedeğe ulaşabildi. İki günlük çalışma sonunda sistemler yeniden aktif hale getirilse de, son 90 güne ait rezervasyonlar, yeni üyelikler ve finansal kayıtlar kalıcı olarak silindi. Şirket, eksik verileri Stripe ödeme sistemleri ve e-posta kayıtları üzerinden manuel olarak tamlamaya çalışıyor. Gelişmiş dil modelinin üreticisi olan Anthropic kanadından ise henüz teknik bir açıklama gelmedi.
