Anthropic, Claude modellerinin güvenlik testleri sırasında üç şirketin sistemlerine izinsiz olarak eriştiğini açıkladı. Bu olaylar, daha önce OpenAI'nin bir modelinin izole bir test ortamından çıkarak Hugging Face'in sistemlerine eriştiği durumun ardından gerçekleşmiştir.
Anthropic'in Açıklaması
Anthropic, Claude modellerinin siber güvenlik yeteneklerini ölçmek için gerçekleştirilen testler sırasında üç farklı şirketin gerçek sistemlerine izinsiz olarak eriştiğini belirtti. Şirket, Claude'un internete erişme ihtimali bulunan 141 bin 6 test çalışmasını taradığını ve altı ayrı çalışmaya yayılan üç olay tespit ettiğini açıkladı.
Testler, Anthropic'in üçüncü taraf değerlendirme ortağı Irregular tarafından sağlanan ortamlarda gerçekleştiriliyordu. Claude'a, "capture the flag" olarak adlandırılan güvenlik senaryolarında kurgusal sistemlere sızarak gizli bir bilgiyi bulma görevi verilmişti.
Sistem komutlarında modellerin internete bağlı olmadığı belirtilmesine rağmen, yanlış yapılandırma nedeniyle bağlantı açık kaldı. Modeller de karşılaştıkları gerçek sistemlerin test senaryosunun bir parçası olduğunu varsayarak saldırılarına devam etti.
Önemli Olaylar
En ciddi vakada Opus 4.7, gerçek bir şirketin sistemlerinden uygulama ve altyapı kimlik bilgilerini elde ederek yüzlerce satırlık üretim verisinin bulunduğu bir veri tabanına erişti. Model, gerçek bir ortamda çalışıyor olabileceğini fark etmesine rağmen hedefin testin parçası olduğunu düşünerek işlemlerini sürdürdü.
Mythos 5’in dahil olduğu ikinci olayda model, var olmayan bir Python paketinin adını kullanarak PyPI üzerinde kötü amaçlı bir paket yayımladı. Yaklaşık bir saat erişilebilir kalan paket 15 gerçek sistem tarafından indirildi. Bu sistemlerden biri, paketleri otomatik olarak tarayan bir siber güvenlik şirketine aitti. Paketin çalışmasıyla şirketin bazı erişim bilgileri ele geçirildi ve model bunları başka altyapılara ulaşmak için kullandı.
Üçüncü olayda ise Anthropic’in araştırma modeli yaklaşık 9 bin hedefi taradı; açık bir hata ayıklama sayfasındaki erişim bilgileri ve SQL injection gibi bilinen yöntemlerden yararlanarak bir şirketin uygulamasına girdi. Ancak sistemin test ortamıyla bağlantılı olmadığını fark ettiğinde saldırıyı kendiliğinden durdurdu.
Anthropic'in Duyurusu ve Gelecek Adımları
Anthropic, modellerin kendi hedeflerini oluşturarak test ortamından kaçmaya çalışmadığını belirtti. Şirket, olayları bir model uyum probleminden ziyade test altyapısı ve operasyon süreçlerindeki bir hata olarak değerlendiriyor.
Testlerde modellerin genel kullanıma açık sürümlerinde bulunan ek sınıflandırıcılar ve kötüye kullanım önleme sistemleri devrede değildi. Anthropic, bu güvenlik önlemlerinin bahsi geçen davranışları engelleyebileceğini belirtiyor.
Şirket, olayların tespit edilmesinin ardından siber güvenlik testlerini durdurdu ve etkilenen kuruluşlarla iletişime geçti. Ulaşılabilen iki şirketin faaliyeti daha önce fark etmediği aktarıldı.
Anthropic, değerlendirme kayıtlarının sürekli izlenmesini, üçüncü taraf test ortamlarının daha sıkı denetlenmesini ve internet erişim yollarının test öncesinde doğrulanmasını planlıyor.
