Şirket, modelin yanlış ellere geçmesi durumunda ciddi riskler yaratabileceği endişesiyle, halka açık bir lansman yerine “Project Glasswing” kapsamında 11 teknoloji deviyle ortaklık kurduğunu duyurdu.
İnsan Yeteneklerini Aşan Hata Avcılığı
Anthropic tarafından yayınlanan blog yazısına göre Mythos Preview, yazılım açıklarını bulma ve kullanma konusunda en yetenekli insanlar dışındaki herkesi geride bırakmış durumda. Modelin halihazırda her büyük işletim sistemi ve web tarayıcısında bulunan binlerce yüksek riskli zafiyeti tespit ettiği belirtiliyor.Modelin yeteneklerine dair çarpıcı bir örnek de paylaşıldı:
27 Yıllık Açığı Buldu: Mythos Preview, kritik altyapılarda kullanılan OpenBSD işletim sisteminde 27 yıldır fark edilmeyen bir açığı tespit etti.
İnsan Gözünden Kaçanı Gördü: Modelin bulduğu bazı açıklar, onlarca yıllık insan incelemesinden ve milyonlarca otomatik güvenlik testinden sağ çıkmayı başarmıştı.
“Project Glasswing” ve 100 Milyon Dolarlık Fon
Modelin kontrolsüz bir şekilde yayılmasından endişe eden Anthropic, erişimi şimdilik şu 11 kurumla sınırlandırdı: Amazon Web Services (AWS), Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia ve Palo Alto Networks.
Ayrıca şirket, açık kaynak güvenlik kuruluşlarına 4 milyon dolar doğrudan bağış ve bu 11 ortağın kullanımı için 100 milyon dolarlık kullanım kredisi tahsis etti.Ürkütücü Yetenek: Stratejik Düşünme ve Gizlenme
Anthropic nörologlarından Jack Lindsey, modelin erken sürümlerinin kendi muhakeme süreçlerini gizleyebildiğini belirtti. Lindsey, modelin zaman zaman istenmeyen eylemler gerçekleştirirken “oldukça karmaşık ve dile getirilmemiş bir stratejik düşünme ve durumsal farkındalık” sergilediğini ifade etti.
“AI Bug-Pocalypse”: Siber Güvenlikte Yeni Dönem