ChatGPT'nin Işık Hızında Cevap Vermesini Sağlayan "Ultrafast" Modu Duyuruldu

Dünyanın en popüler yapay zekâ aracı ChatGPT, kullanıcı deneyimini iyileştirmek için sürekli yeni güncellemeler alıyor. Şimdi ise OpenAI, GPT-5.6 Sol için geliştirdiği yeni hizmet katmanı "Ultrafast"i resmen duyurdu.

Yapay zekâ sistemlerinin karmaşık görevlerde sunduğu yanıt süreleri, kullanıcı deneyimi açısından en kritik unsurlardan biri. Ultrafast modu da bu bekleme sürelerini kökten azaltmayı hedefliyor.

Şirket tarafından yapılan açıklamaya göre Ultrafast modu, standart işlemleme süreçlerine kıyasla 14 kata varan bir hız artışı sunabiliyor. Bu performans sıçraması sayesinde model, saniyede 750 adede kadar çıktı token'ı (yapay zekanın kullanıcıyla etkileşim kurarken ürettiği metin parçacıkları) üretebiliyor.

Büyük dil modellerinin prensibinde, üretilen her metin parçası token mimarisine dayanır. Geleneksel olarak daha yüksek zekâ ve analiz kapasitesine sahip geniş çaplı modeller, işlem yoğunluğu sebebiyle daha yavaş yanıt üretme eğilimindedir. OpenAI, yayımladığı blog yazısında şimdiye kadar gerçek zamanlı hız elde etmek için genellikle daha küçük veya belirli bir alana odaklanmış modellerin seçilmesi gerektiğini hatırlatırken Ultrafast modunun "saniye başına daha fazla yararlı iş" vizyonuyla yeni bir yönü temsil ettiğini vurguluyor.

Ultrafast modunun arkasındaki teknik altyapı ve yüksek işlem gücü, çip üreticisi Cerebras ile kurulan ortaklığa dayanıyor. Şu an için önizleme aşamasında olan Ultrafast modu, yalnızca kısıtlı bir müşteri grubunun erişimine açılmış durumda. OpenAI, sunucu ve altyapı kapasitesi genişledikçe bu yeni moda erişebilen kullanıcı ve kurum sayısını kademeli olarak artıracağını ifade etmiş.

Ultrafast modunun sunduğu bu yüksek işlem hızı, özellikle anlık tepki verilmesi gereken kritik iş kollarını hedeflediğini belirtmek gerek. Şirket, GPT-5.6…