OpenAI yeni modelinde “frene bastı”

Yapay zeka modellerinin giderek güçlenen yetenekleri, beraberinde yeni güvenlik tartışmalarını da getiriyor. OpenAI, geliştirmekte olduğu Astra modelinin otonom kodlama ve siber güvenlik alanlarında ulaştığı seviye nedeniyle çalışmaların bir bölümünü askıya aldı. Modelin “kritik risk” eşiğine yaklaşmış olabileceği değerlendirilirken şirket, Astra’yı daha sıkı güvenlik önlemlerinin uygulandığı izole test ortamlarına taşıdı.

Yapay zeka yarışında modellerin kabiliyetleri hızla gelişirken, güvenlik sınırları da teknoloji şirketlerinin en önemli gündemlerinden biri haline geliyor. OpenAI, geliştirmekte olduğu yeni yapay zeka modeli Astra üzerindeki çalışmaların bir kısmını güvenlik endişeleri nedeniyle durdurdu.

Kararın arkasında modelin özellikle otonom kodlama ve siber güvenlik alanlarında gösterdiği gelişim bulunuyor. Yapılan testlerde Astra’nın yazılımlardaki güvenlik açıklarını tespit etme ve çözüm geliştirme konusunda oldukça ileri yetenekler sergilediği belirtiliyor.

Ancak savunma amacıyla geliştirilen bu kabiliyetlerin kötüye kullanılması halinde aynı teknoloji, gelişmiş siber saldırıların gerçekleştirilmesi için de kullanılabilir. OpenAI’ın değerlendirmesine göre bir yapay zekâ sisteminin insan denetimine ihtiyaç duymadan kritik sistemlerde güvenlik açıkları bulabilmesi veya gelişmiş saldırılar için yeni yöntemler geliştirebilmesi “kritik” risk seviyesine işaret edebiliyor.

Risk değerlendirmelerinin ardından OpenAI, Astra’nın test edildiği güvenlik koşullarını sıkılaştırdı. Model daha izole test ortamlarına taşınırken, sistem dışına çıkmasını önlemeye yönelik kontroller de güçlendirildi.

Şirket, gerekli yüksek güvenlik standartlarının sağlanmadığı koşullarda Astra üzerindeki ilgili çalışmaların sürdürülemeyeceğini belirtiyor. Modelin daha geniş kullanıma açılma…