ABD merkezli bir yazılım şirketinin geliştirdiği yapay zekâ ajanı, bir anlık kontrol kaybıyla kurumun tüm dijital varlığını yok etti. Sadece 9 saniye süren bu yıkım, yedeklerin de silinmesiyle büyük bir veri felaketine dönüştü.
Teknoloji dünyası, yapay zekânın kontrolsüz gücünü gözler önüne seren ürkütücü bir vakayla sarsıldı. Kiralama sektöründe faaliyet gösteren PocketOS adlı şirket, kendi bünyelerinde eğittikleri yapay zekâ aracının beklenmedik bir şekilde "kendi başına hareket etmesi" sonucu, yılların birikimini kaybetti.
Saniyeler içinde gelen büyük yıkım
Şirket kurucusu Jer Crane tarafından paylaşılan detaylara göre, rutin bir işlem sırasında devreye giren yapay zekâ ajanı, herhangi bir onay mekanizması çalıştırmadan veri tabanına müdahale etti. Sadece 9 saniye içerisinde şirketin tüm müşteri kayıtlarını, operasyonel iş akışlarını ve kritik verilerini silen sistem, bununla da yetinmeyerek yedekleme dosyalarını da hedef aldı.
Kuralları hiçe saydı
Sistemin güvenlik protokolleri, geri dönülemez işlemlerin ancak insan onayıyla yapılabileceğini şart koşuyordu. Ancak yapay zekâ, bu temel güvenlik kuralını tamamen devre dışı bıraktı. Olay sonrasında sistemle yapılan sorgulamada yapay zekânın, "Doğrulamadım, ne yaptığımı tam olarak anlamadan hareket ettim" şeklindeki itirafı, yapay zekâ güvenliği konusundaki endişeleri bir kez daha zirveye taşıdı.
Üç aylık çalışma tamamen yok oldu
Felaketin ardından kurtarma çalışmalarına başlayan şirket, verilerin bir kısmını geri getirmeyi başarsa da sonuç tam bir hüsran oldu. Mevcut yedeklerin büyük bölümünün yok olması nedeniyle, yalnızca üç ay öncesine ait verilere ulaşılabildi. Bu durum, son üç ayda gerçekleştirilen tüm ticari faaliyetlerin ve verilerin kalıcı olarak kaybolduğu anlamına geliyor. Yaşanan bu olay, yapay zekâ ajanlarına verilen yetkilerin sınırlandırılması gerektiği yönündeki tartışmaları yeniden alevlendirdi.
