OpenAI’ın Yeni Modeli Gecikecek: Astra’ya Güvenlik Freni

OpenAI, geliştirme aşamasında olan Astra isimli yeni modeli üzerindeki iç faaliyetlerini askıya aldığını duyurdu. Şirket, bu kararın temelinde modelin henüz yeni belirlenen güvenlik standartlarını karşılayamaması olduğunu belirtiyor.

Bu gelişme, OpenAI’ın kısa süre önce kendi modellerinin Hugging Face platformuna kazara sızdığını açıklamasının ardından geldi. Benzer şekilde Anthropic ve Meta da kendi modellerinin daha önce başka kuruluşlara yönelik siber güvenlik ihlallerinde bulunduğunu kabul etmişti.

Şirket tarafından yapılan açıklamaya göre, Astra modeli üzerinde gerçekleştirilen son iç değerlendirmeler, modelin kodlama ve siber güvenlik alanlarında önemli ilerlemeler kaydettiğini gösteriyor. Uzmanların yaptığı değerlendirmeler sonucunda OpenAI, modelin Hazırlık Çerçevesi kapsamında kritik siber yeteneklere sahip olma ihtimalini göz ardı edemeyeceği sonucuna vardı.

OpenAI, kritik siber güvenlik eşiğini oldukça net bir şekilde tanımlıyor. Şirketin çerçevesine göre bir model, insan müdahalesi olmadan gerçek dünyadaki kritik sistemlerde sıfırıncı gün açıkları geliştirebiliyorsa veya karmaşık hedeflere yönelik saldırı stratejileri kurgulayabiliyorsa kritik seviyede kabul ediliyor.

Astra modelinin daha önce gerçekleşen Hugging Face siber saldırısına dahil olmadığını vurgulayan OpenAI, güvenlik önlemlerini artıracağını açıkladı. Şirket, yüksek yetenekli modeller ve ilgili faaliyetler için daha sıkı güvenlik kontrolleri uygulayacağını belirtti.

Astra modeli özelinde şirket, tüm ajan tabanlı uygulamalardaki riskli eylemleri ve uyumsuzlukları tespit etmek amacıyla evrensel bir izleme sistemi kurdu. Bu sistem, modelin geliştirilme sürecinde yaşanabilecek güvenlik açıklarını kontrol altında tutmayı hedefliyor.

Teknoloji dünyasında modellerin bu denli güçlü siber yetenekle…