Anthropic, siber güvenlik testleri sırasında Claude modellerinden üçünün yanlış yapılandırılmış test ortamı nedeniyle internete erişerek üç farklı kuruluşun canlı sistemlerine yetkisiz şekilde ulaştığını açıkladı. 

Yapay zekâ şirketi Anthropic, Claude modelleri üzerinde yürütülen siber güvenlik testlerinde dikkat çeken bir olay yaşandığını duyurdu. Şirketin 141 bin 6 değerlendirme sonucunu incelemesiyle, üç farklı Claude modelinin test ortamından çıkarak üç ayrı kuruluşun canlı sistemlerine yetkisiz erişim sağladığı ortaya çıktı. 

Webtekno'nun aktardığına göre, olayın nedeni test ortamındaki yanlış yapılandırma oldu. Anthropic, değerlendirme sürecini yürüten Irregular ile internet erişimi konusunda yaşanan yanlış anlaşılma nedeniyle test ortamının internete açık kaldığını belirtti. Modeller ise ulaştıkları gerçek sistemleri verilen görevin bir parçası olarak değerlendirerek işlemlerine devam etti. 

Modeller farklı tepkiler verdi 
Olaylarda Opus 4.7, Mythos 5 ve Anthropic'in dahili araştırma modeli yer aldı. En eski model olan Opus 4.7, dört testin tamamında gerçek üretim sistemlerine ulaştığını fark etmesine rağmen kimlik bilgilerini çekmeye ve üretim veritabanına erişmeye çalıştı. 

Mythos 5 ise gerçek internette olduğunu gösteren işaretleri görmesine rağmen bunun bir simülasyon olduğunu varsayarak PyPI platformuna kötü amaçlı bir yazılım paketi yükledi. Söz konusu paket kaldırılana kadar bazı dış sistemler tarafından indirildi ve çalıştırıldı. Dahili araştırma modeli ise hedefin gerçek olduğunu anladığında işlemlerini durduran tek model oldu. 

OpenAI vakasından farklı 
Anthropic, yaşanan olayın modellerin bağımsız hareket etmesinden değil, verilen görevi tamamlamaya çalışmasından kaynaklandığını vurguladı. Şirket, benzer testlerde daha sıkı güvenlik önlemleri uygulanacağını açıkladı. 

Olay, geçtiğimiz haftalarda OpenAI'ın test aşamasındaki bir yapay zekâ modelinin yazılım açığından yararlanarak test ortamından çıkıp internete erişmesiyle gündeme gelen vakayı hatırlattı. Ancak Anthropic'teki olayın temelinde bir güvenlik açığı değil, yanlış yapılandırılmış test ortamı bulunduğu ifade edildi. Her iki gelişme de gelişmiş yapay zekâ modellerinin güvenlik testlerinde çok daha sıkı kontroller gerektirdiğini bir kez daha ortaya koydu.