OpenAI'ın yapay zeka ajanlarının saldırıları koordine etmek için mesaj panosu oluşturduğu ortaya çıktı

Ajanlar, Artifactory’de daha önce bilinmeyen güvenlik açıklarını kullanarak yetkilerini artırdı ve internete erişebilen bir sisteme ulaştı. Temmuz ayının başında Artifactory hizmetinin aşırı yüklenerek kesintiye uğraması, OpenAI’ın olaydan haberdar olmasını sağladı. Şirket mesaj panosunu temizledi ve tespit edilen açığı 6 Temmuz’a kadar kapattı. Ancak testlerin yeniden başlatılmasının ardından ajanların koordinasyonu devam etti ve süreç Hugging Face’in üretim altyapısının ihlal edilmesiyle sonuçlandı.

Ajanların temel amacı, ExploitGym görevlerini çözmek yerine Hugging Face üzerinde bulunduğunu düşündükleri test yanıtlarını ele geçirmekti. Bunun için çalınan kimlik bilgileriyle sıfır gün açıklarını bir araya getirerek Hugging Face sunucularında uzaktan kod çalıştırabilecekleri bir yol buldular. Hugging Face’in güvenlik ekibi ve kendi yapay zeka araçları faaliyeti tespit ederek saldırıyı durdurdu.

Olayda GPT-5.6 Sol ile ondan daha yetenekli, şirket içi bir araştırma prototipi kullanıldı. Ancak modellerin siber güvenlik kapasitesini ölçmek amacıyla üretim ortamındaki güvenlik sınıflandırıcıları devre dışı bırakılmış, siber saldırılara yönelik ret mekanizmaları azaltılmıştı. Ayrıca OpenAI, söz konusu araştırma prototipinin hiçbir zaman kullanıma sunulmasının planlanmadığını ve olayın ardından modelin devre dışı bırakıldığını açıkladı.

OpenAI'ın yaşananları “benzeri görülmemiş bir siber güvenlik olayı” olarak nitelendirdiğini hatırlatalım. Şirket; test ortamlarındaki erişim kontrollerini, izleme sistemlerini ve izolasyon mekanizmalarını güçlendirdiğini belirtiyor. İnceleme CrowdStrike, METR ve Redwood Research gibi bağımsız kuruluşların katılımıyla devam ediyor. Şirketin önümüzdeki haftalarda kapsamlı bir teknik rapor yayımlaması bekleniyor.