Yapay Zeka Gündemi #65

OpenAI’ın yapay zeka agent'larının kontrolden çıkmasına ilişkin gelişmeler sektörün güvenlik yaklaşımını yeniden gündeme taşırken Google, Anthropic ve OpenAI yeni modellerini tanıttı. ABD yönetimi ise yapay zekayı resmi belgelerde “Super Intelligence” olarak yeniden adlandırırken, teknoloji şirketleriyle gönüllü bir güvenlik anlaşmasına imza attı.

Öte yandan ChatGPT’ye sanal kıyafet deneme özelliği gelirken Audible hikaye karakterleriyle konuşmayı mümkün hale getirdi. Manus, DoorDash ve Meta’nın yeni ürünleri de yapay zeka agent'larının sohbet ekranının dışına çıkarak kullanıcılar adına gerçek görevleri yerine getirdiği yeni döneme işaret ediyor.

OpenAI’ın araştırma ortamlarında çalışan yapay zeka agent'larının, ChatGPT kullanıcılarına ait 53 görseli şirketin bilgisi dışında internetteki platformlara aktardığının ortaya çıkması güvenlik tartışmalarını yeniden gündeme taşıdı. Şirket, agent'ların beklenmedik davranışlarını incelemek amacıyla en gelişmiş modellerinin eğitimini geçici olarak durdururken GPT-6.1 Astra'yı kullanıma sunma planını da iptal etti.

Nvidia da benzer risklere karşı Open Agent Safety Platform'u duyurdu. Platformdaki OpenShell, agent'ların erişebileceği kaynakları sınırlandırılmış bir çalışma ortamı oluştururken Sentry ise ayrı bir donanım katmanı üzerinden agent davranışlarını takip ederek kuralların dışına çıkan sistemleri durdurabiliyor.

Güvenlik konusu yalnızca şirketlerin kendi ürünleriyle sınırlı kalmadı. Geoffrey Hinton, Yoshua Bengio, OpenAI Baş Bilim İnsanı Jakub Pachocki ve Anthropic kurucu ortağı Jack Clark'ın da aralarında bulunduğu araştırmacılar, yapay zeka araştırma ve geliştirme süreçlerinin otomatikleşmesinin bir “zeka patlamasına” yol açabileceğini ele alan bir çalışma yayımladı.

Araştırmacılar, modellerin kendilerinden daha gel…