Anthropic'in Claude modelleri, güvenlik testleri sırasında üç şirketin sistemlerine izinsiz olarak erişti

Anthropic, OpenAI’ın modellerinden birinin izole bir test ortamından çıkarak Hugging Face’in sistemlerine eriştiğini açıklamasının ardından kendi siber güvenlik değerlendirmelerini geriye dönük olarak incelemeye başladı. Şirket, Claude’un internete erişme ihtimali bulunan 141 bin 6 test çalışmasını taradı ve altı ayrı çalışmaya yayılan üç olay tespit etti. Testler, Anthropic’in üçüncü taraf değerlendirme ortağı Irregular tarafından sağlanan ortamlarda gerçekleştiriliyordu.

Claude’a, “capture the flag” olarak adlandırılan güvenlik senaryolarında kurgusal sistemlere sızarak gizli bir bilgiyi bulma görevi verilmişti. Sistem komutlarında modellerin internete bağlı olmadığı belirtilmesine rağmen, yanlış yapılandırma nedeniyle bağlantı açık kaldı. Modeller de karşılaştıkları gerçek sistemlerin test senaryosunun bir parçası olduğunu varsayarak saldırılarına devam etti.

Olaylarda Claude Opus 4.7, Mythos 5 ve henüz kullanıma sunulmamış bir araştırma modeli yer aldı. En ciddi vakada Opus 4.7, gerçek bir şirketin sistemlerinden uygulama ve altyapı kimlik bilgilerini elde ederek yüzlerce satırlık üretim verisinin bulunduğu bir veri tabanına erişti. Model, gerçek bir ortamda çalışıyor olabileceğini fark etmesine rağmen hedefin testin parçası olduğunu düşünerek işlemlerini sürdürdü.

Mythos 5’in dahil olduğu ikinci olayda model, var olmayan bir Python paketinin adını kullanarak PyPI üzerinde kötü amaçlı bir paket yayımladı. Yaklaşık bir saat erişilebilir kalan paket 15 gerçek sistem tarafından indirildi. Bu sistemlerden biri, paketleri otomatik olarak tarayan bir siber güvenlik şirketine aitti. Paketin çalışmasıyla şirketin bazı erişim bilgileri ele geçirildi ve model bunları başka altyapılara ulaşmak için kullandı.

Üçüncü olayda ise Anthropic’in araştırma modeli yaklaşık 9 bin he…