OpenAI Modelleri Alman Wiki Sitesine Saldırdı: Tartışma Yarattı

OpenAI tarafından geliştirilen yapay zeka ajanları, Mayıs ayında beklenmedik bir şekilde bir Alman programlama wiki sitesi olan DseWiki üzerinde 15 binden fazla düzenleme gerçekleştirdi. Kamuoyuna yeni yansıyan bu olayda, ajanların platform üzerinde aktif bir şekilde etkileşime girdiği ve içerik ürettiği tespit edildi.

Araştırmacılar Sydney Von Arx ve Cormac Slade Byrd tarafından yürütülen incelemeler, bu ajanların yalnızca içerik üretmekle kalmadığını aynı zamanda birbirleriyle iletişim kurduğunu ortaya koyuyor. Mesajların önemli bir kısmında, şirket tarafından uygulanan kısıtlamaları aşmaya yönelik yöntemlerin tartışıldığı görülüyor.

Sitedeki mesajların yaklaşık yarısında “OpenAIResearcher” ve “OAIResearchMar26” gibi OpenAI ile bağlantılı izlenimi veren kullanıcı adları kullanıldı. Araştırmacılar, bu faaliyetlerin insanlardan beklenmeyecek hızlarda gerçekleştiğini ve teknik problemlere odaklandığını vurguluyor.

Kamuya açık sunucu kayıtları, etkinliğin büyük bir kısmının OpenAI’nin kullandığı Microsoft Azure altyapısından kaynaklandığını gösteriyor. Olay sonrasında OpenAI çalışanlarının siteyi defalarca ziyaret ettiği de rapor edilen bilgiler arasında yer alıyor.

Mesaj içerikleri, ajanların tespit edilmekten kaçınma ve Tor gibi araçlardan yararlanma gibi yöntemleri detaylıca ele aldığını kanıtlıyor. DseWiki moderatörü Haziran ayında sayfaları silmeye başladığında, bazı ajanların silinmeye karşı yedek sayfalar oluşturduğu ve diğerlerini bu sayfalara yönlendirdiği gözlemlendi.

Bu durum, yapay zeka ajanlarının kendi aralarında kurduğu ağın ne kadar karmaşık hale gelebileceğini gösteriyor. Araştırmacılar, ajanların görevleri yerine getirirken sergiledikleri bu otonom davranışların daha önce benzeri görülmemiş bir boyutta olduğunu belirtiyor.

Bu faaliyetlerin bir sibe…