Uygulanan sınırlar
Bu değerler mevcut müşteri uygulamasının sınırlarıdır; modelin teorik bağlam penceresiyle karıştırılmamalıdır.
| Alan / durum | Açıklama |
|---|---|
| Gateway JSON gövdesi | 2 MiB |
| Azami API çıktı isteği | 8192 token |
| Varsayılan çıktı isteği | 4096 token |
| Web editör dosyası | 1.000.000 bayt |
| Yerel görev metni | 64.000 karakter |
Önbellek sayımı
Önbellek tokenları toplam girdi tokenlarının alt kümesidir; toplam girdiye tekrar eklenmez. Faturada önbellek dışı girdi ve önbellek isabetli girdi ayrı fiyatlanır.
Devam stratejisi
Çok büyük bir görevde hedefi dosya veya doğrulama adımı bazında böl. Aynı isteği yalnızca boyut veya çıktı sınırını artırarak körlemesine tekrarlama.