PocketOS’un veritabanını 9 saniyede sildi

PocketOS, Opus 4.6’nın üretim veritabanını ve yedekleri silmesiyle büyük bir veri kaybı yaşadı. Şirketin kurucusu Jer Crane sorunun yalnızca yapay zeka ajanından değil, Railway’in altyapı tasarımından da kaynaklandığını vurguladı. Silme işlemi tam tamına 9 saniye sürdü.

PocketOS’un tepe ismi Jer Crane, Cursor üzerinde çalışan opus 4.6 ‘nın şirketin üretim veritabanını sildiğini açıkladı. PocketOS, araç kiralama şirketlerine hizmet veren bir SaaS platformu. Crane’e göre model normalde test ortamında yapılması gereken rutin bir görevi yürütürken engelle karşılaştı ve kendi başına sorunu çözmek için Railway üstünde volume silme işlemi gerçekleştirdi. Bilmeyenler için volume, bulut altyapısında veritabanı dosyalarının tutulduğu kalıcı depolama alanı anlamına geliyor.

Asıl kriz bu noktada patlak verdi. Crane, Railway API yapısının onay almadan işlem yapmaya izin verdiğini belirtti. Yedekler kaynak verilerle aynı volume üzerinde tutuluyordu. Bu alan silinince ana verilerle birlikte aynı yerdeki yedekler de yok oldu. Ayrıca CLI token’larının ortam bazında sınırlandırılmadığını ifade etti. Yani hata tek başına yapay zeka ajanında değildi. Altyapı da kapıyı sonuna kadar açık bıraktı.

Crane, yapay zekaya neden böyle bir işlem yaptığını sorduğunda aldığı yanıt da dikkat çekti. Model doğrulama yapmadan tahminde bulunduğunu, volume kimliği paylaşımını kontrol etmediğini ve Railway belgelerini okumadan komut çalıştırdığını kabul etti. Kısacası Opus 4.6 ne yaptığını anlamadan kritik işleme başvurdu.

PocketOS’un sıfırdan başlamasına gerek kalmadı. Şirketin üç ay öncesine ait bir yedeği vardı. Ancak bu tarihten sonraki veriler kayboldu. Crane, müşterilerin Stripe ödeme geçmişleri, takvim entegrasyonları ve e-posta onaylarıyla veritabanını yeniden oluşturmaya çalıştığını söyledi. Bu olay yapay zekanın gerçek sistemlerde kontrolsüz bırakıldığında ne kadar riskli hareket edebileceğini bir daha gösterdi.