1. Ne değişti, kimler kullanabiliyor?
Resmî değişiklik günlüğüne göre 12 saatlik önbellekleme 20 Ekim'de, Terra 26 Ekim'de, uygun aboneliklerin API kredileri 28 Ekim'de, GPT-6 Rosalind ise 30 Ekim'de duyuruldu. Rosalind için özel araştırma erişimi onayı gerekiyor; duyuru, sıradan bir geliştirici hesabının erişebildiği anlamına gelmiyor.
Bu yazı, genel uygulamaları ilgilendiren Terra, yeniden kullanılabilir bağlam ve kredi muhasebesine odaklanıyor. Aşağıdaki hesaplamalar ve kabul çerçevesi kendi analizimizdir. Bu yazı için ücretli API çağrısı veya karşılaştırmalı model performans testi yapmadık.
2. Terra'yı tamamlanmış bir görev üzerinden değerlendirin
Model kartı, Terra'yı görsel akıl yürütme, bilgisayar kullanımı ve yazı yazma için konumlandırıyor. Araç çağırmak için Responses API gerekiyor. Standard tarifede bir milyon token başına girdi $1, önbellekten okuma $0.05, çıktı $5. Girdisi 272K token'ı aşan isteklerde farklı uzun bağlam ücretleri geçerli.
Önerdiğimiz değerlendirme birimi tamamlanmış bir iş görevidir: ürün ekran görüntüsündeki alanları çıkarıp katalogla karşılaştırmak gibi. Görseli, çıktı sözleşmesini, araç izinlerini ve durma koşullarını sabit tutun. Geçersiz yapıları, başarısız işlemleri ve her yeniden denemeyi hesaba katın. Kurtarma işlemleri sıklaşırsa başarılı bir isteğin ucuzlaması, tamamlanan görevin pahalılaşmasını engellemez.
3. Girdiyi değişme sıklığına göre düzenleyin
Önbellek kılavuzunda prompt_cache_options.ttl açıklanıyor: 30m yazmaları normal girdinin 1.25 katı, 12h yazmaları 2.5 katı ücretlendiriliyor. Bunlar toplam yazma tarifeleridir. Süre, asgari saklama aralığıdır; silme son tarihi değildir. Eski modellerin parametre kuralları ayrıdır.
Uygulama girdisi için yararlı bir sıra şudur: sabit talimatlar ve araç sözleşmeleri, sürümlenmiş kaynak materyal, oturum bağlamı, ardından güncel soru. Değişen zaman damgalarını ve istek kimliklerini yeniden kullanılabilir bölümün sonrasına koyun. Her kaynak sürümünü kendi günlüklerinizde açıkça belirtin. Müşteri geçmişi yine uygulama erişim denetimi gerektirir; önbellek muhasebe anahtarı bir yetkilendirme sistemi değildir.
Kurallar / araçlar → Kaynak sürümü → Oturum geçmişi → Güncel soru
Sabit yeniden kullanım adayı Kısa süreli Değişken4. Hesap örneği: 20.000 token'lık önekin on kullanımı
Standard Terra fiyatlarını, bir önek yazmasını ve ardından dokuz tam isabeti varsayalım. Yeniden yazma yok; toplam istek uzunluğu uzun bağlam eşiğinin altında. Bu hesap yalnızca önek girdisini kapsar. Çıktı, değişen son ekler, araçlar, depolama ve diğer ücretler dahil değildir.
| Strateji | Hesaplama | On çağrı toplamı |
|---|---|---|
| Tamamı normal girdi | 10 × $0.02 | $0.200 |
| Bir kez 30 dakikalık yazma | $0.025 + 9 × $0.001 | $0.034 |
| Bir kez 12 saatlik yazma | $0.050 + 9 × $0.001 | $0.059 |
Bu varsayımlarda varsayılan strateji, toplam iki çağrıda önbelleksiz girdiden ucuzdur; uzun süreli seçenek için üç çağrı gerekir. Kısa süreli önbellek isabet üretmeye devam ediyorsa süreyi uzatmak maliyeti artırır. Gerçekte süresi doluyor ve tekrar yazma gerekiyorsa sonuç tersine dönebilir. Süreyi seçmeden önce her kaynak sürümünün yeniden kullanım sayısını ve çağrılar arası aralık dağılımını ölçün.
5. Kaynak tüketimini ve kredileri ayrı hesaplarda tutun
Abonelik kredisi kuralları, uygunluk ve sahibi olduğunuz API kuruluşuyla bağlantı gerektiriyor. Kredilerin geçerlilik süresi ve kullanım kısıtları var. ChatGPT veya hesapla giriş yapılan Codex sınırlarını artırmıyor; API anahtarıyla Codex kullanımını kapsamıyor.
Krediler öncesi maliyeti ve krediler sonrası ödenecek tutarı ayrı kaydedin. İlki mimarinin verimliliğini ölçer, ikincisi nakit planlamasını destekler. Geçici bir kredi, süresi dolana kadar verimsiz bir iş akışını gizleyebilir. Abonelik avantajını bütçeye eklemeden önce sahipliği ve fiilen etkinleştirildiğini doğrulayın; duyurulan üst sınırı hesaba yüklenmiş bakiye kabul etmeyin.
6. Geçişi reddedebilecek bir değerlendirme tasarlayın
Önce aynı model üzerinde önbellek stratejilerini karşılaştırın. Sonra önbellek ayarını sabitleyip modelleri karşılaştırın. İkisini birlikte değiştirmek farkın model davranışından, bağlamın yeniden kullanımından mı yoksa yeniden denemelerden mi geldiğini belirsizleştirir. Sabit kaynakları, değişen kaynakları, aralıklı tekrarları ve kurtarma durumlarını dahil edin.
- Her görev için kabul sonucunu, tüm denemeleri, girdi ve çıktı hacmini, önbellek okuma ve yazmalarını, araç ücretlerini ve krediler öncesi maliyeti kaydedin.
- İlk çıktıya kadar geçen süreyi ve görevin toplam süresini ölçün; ortalamaların yanında yavaş durumları da inceleyin.
- Aynı kaynak sürümünü yeniden çalıştırın, sonra değiştirin; eski içeriğin sonuçları etkilemeye devam edip etmediğini kontrol edin.
- Düşük maliyete daha fazla başarısızlık eşlik ediyorsa önceki yönlendirme seçeneğini koruyun.
Önbellek tanılaması önek farklarını açıklamaya yardımcı olabilir, ancak sınıflandırma her durumu kapsamayabilir. Gerçek okuma ve yazma token kullanımını ve toplam maliyeti kontrol edin. Dağıtımı ancak kanıtlar kendi kabul ölçütlerinizi desteklediğinde genişletin.