Çin, gelişmiş yapay zekada günden günde ABD'ye yaklaşıyor

Çinli yapay zekâ girişimi Z.ai, açık kaynaklı GLM-5.3 modelinin yazılım açıklarını tespit etmede Anthropic'in kısıtlı erişimli Mythos 5 modeline yaklaştığını açıkladı.

Çinli yapay zekâ girişimi Z.ai, bugün yaptığı açıklamada, açık kaynaklı GLM-5.3 modelinin yazılım açıklarını tespit etme testlerinde Anthropic'in erişimi kısıtlı Mythos 5 modeline yaklaştığını bildirdi.

 

Bu gelişme, Batılı geliştiriciler arasında ilgi gören Çinli yapay zekâ girişiminin konumunu pekiştirdi.

 

Z.ai, bir modelin kodları inceleme, güvenlik açıklarını belirleme ve bunların gerçekliğini doğrulama kabiliyetini ölçen CyberGym testinde GLM-5.3'ün yüzde 84,5 puan aldığını açıkladı.

 

Şirket, Mythos 5 için bu oranın yüzde 83,8 olduğunu bildirdi. Bu sonuçlar bağımsız kaynaklarca teyit edilmedi.

 

GLM-5.3, savunma amaçlı güvenlik araştırmalarının standart bir parçası olan açıkları çalışan saldırılara dönüştürme aşamasında Mythos 5'in gerisinde kaldı.

 

Z.ai, bu kabiliyeti ölçen ExploitBench testinde kendi modelinin yüzde 54,4, Mythos 5'in ise yüzde 78,0 puan aldığını belirtti.

 

Zamana dayalı ayrı bir testte Z.ai, GLM-5.3'ün iki saatte 105, altı saatte ise 130 saldırı geliştirme görevini tamamladığını açıkladı. 

 

Mythos 5 ise aynı sürelerde sırasıyla 181 ve 247 görevi tamamladı.

 

Anthropic, siber güvenlik korumaları kaldırılmış Claude Fable 5 modeli olan Mythos'u yalnızca denetimden geçmiş kuruluşların erişimine sunuyor.

Söz konusu kısıtlamalar, yazılım açıklarını bulma ve bunları kullanma kabiliyetine sahip yapay zekâ sistemlerinin savunuculara yardım edebileceği gibi saldırganların işini de kolaylaştırabileceği endişesinden kaynaklanıyor.

 

Z.ai, güvenlik değerlendirmelerini tamamlayıp koruma katmanlarını güçlendirdikten sonra, yaklaşık iki hafta içinde GLM-5.3'ü kamuya açacağını duyurdu.

 

Modelin en hassas siber güvenlik fonksiyonlarının ise "güvenilir erişim" programı aracılığıyla yalnızca doğrulanmış kullanıcılara açık olacağı belirtildi.

 

Şirket, GLM-5.3'e riskli talepleri tarayan, modelin çalışmalarını denetleyen ve zararlı görevleri reddetmesini sağlayan çeşitli koruma katmanları eklediğini açıkladı.

 

Bu önlemlerin, zararlı faaliyetleri hata düzeltme, siber güvenlik eğitimi veya yetkili güvenlik testleri gibi meşru kullanımlardan ayırmak için tasarlandığı ifade edildi.

 

Eleştirmenler ise bir model başkaları tarafından indirilmeye, değiştirilmeye veya harici araçlarla birleştirilmeye açıldığında bu güvenlik önlemlerini uygulamanın zorlaşacağını savunuyor.

KAPALI KAYNAKLI MYTHOS MODELİNE KARŞI AÇIK KAYNAK ADIMI

Z.ai, bu adımı Mythos'un temsil ettiği kısıtlı erişim modeline bir meydan okuma olarak tanımladı.

 

Şirket, gelişmiş siber savunma araçlarının sınırlı sayıdaki kapalı model sağlayıcısının kontrolünde kalması yerine, açık kaynaklı yazılım geliştiricilerine ve daha küçük güvenlik ekiplerine sunulması gerektiğini savundu.

 

Şirket, seçilen açık kaynak projelerini denetlemek, savunma çalışmaları için modele erişim sağlamak ve ZCode programlama ürününe kod denetim işlevleri eklemek amacıyla "Açık Kaynak Kalkanı" girişimini başlatacağını bildirdi.

 

Ürününü Mythos'a bir alternatif olarak konumlandıran ilk Çinli şirket Z.ai değil.

 

Siber güvenlik şirketi 360, haziran ayında Tulongfeng güvenlik açığı tespit sisteminin yapay zekâ modellerini güvenlik verileri ve otomatik araçlarla birleştirerek Mythos düzeyinde yeteneklere ulaştığını açıklamış, ancak bu iddialar da bağımsız olarak teyit edilmemişti.

GLM-5.3, özel amaçlı bir güvenlik sistemi olmak yerine genel amaçlı bir kodlama modeli olmasıyla bu sistemden ayrılıyor. 

 

Z.ai, modelin siber güvenlik kabiliyetlerini genişletilmiş eğitim sonrası süreçler ve pekiştirmeli öğrenme yoluyla kazandığını belirtti.

 

Şirket, GLM-5.2 ile aynı temel modeli kullandığını, ancak modeli daha uzun ve çeşitli görev ortamlarında eğittiğini kaydetti.

 

Bu adım, son aylarda denizaşırı geliştiricilerin dikkatini çeken GLM-5.2 modeline yönelik küresel ilginin üzerine inşa edildi.

 

Kullanıcılar ve analistler, GLM-5.2'nin kodlama ve otonom aracı kabiliyetlerinin önde gelen ABD modellerine yaklaştığını ve bunu çok daha düşük bir maliyetle sunduğunu belirtmişti.