Skip to main content
CID222 Docs
Yönetim

Token maliyeti ve tasarruf

LLM trafiğinizin gerçekte ne kadara mal olduğunu, optimizasyonsuz ne kadara mal olacağını ve aradaki farkı üç tasarruf kolundan hangisinin kazandırdığını okuyun.

  • Sürüm: 0.4
  • Özellik: cost.calculator
  • Rol: admin_user, viewer
  • Tür: görev

Token Maliyeti ve Tasarruf, LLM trafiğinizin ne kadara mal olduğunu, aynı trafiğin hiç optimizasyon olmasa ne kadara mal olacağını ve farkın nereden geldiğini raporlar. Her rakam ai_usage_logs tablosundan toplanır — tamamlama başına bir satır, ağ geçidinin kendi sohbet hattı tarafından yazılır.

Neye ihtiyacım var?

Lisans
Any
Rol
admin_userviewer

Ön koşullar

  • Ağ geçidinin sohbet yolundan trafik geçmiş olmalıdır. Cihazda başka hiçbir şey kullanım satırı üretmez.
  • Kullanılan modellerin Modeller sayfasında fiyatı olmalıdır; yoksa her maliyet sıfır okunur.
  • admin_user, superadmin ya da viewer olarak oturum açmış olmalısınız. Bir normal_user API tarafından reddedilir.

Bu sayfadaki tasarrufu üç kol üretir ve yalnızca bu üçü:

  • Prompt Sıkıştırma, sağlayıcıya gönderilen giriş token'ı sayısını azaltır.
  • Model Yönlendirme, kolay bir isteği daha ucuz bir modele gönderir — aynı token'lar, daha düşük ücret.
  • Prompt caching (istem önbelleği), yinelenen bir istem önekini sağlayıcının kendi önbellek muhasebesini kullanarak giriş ücretinin altında faturalandırır.

Warning

Kullanım satırlarını yalnızca iki sohbet yolu yazar. Satır içi vekil sunucu/ICAP trafiği, tarayıcı eklentisi, uç nokta ajanı ve görsel ya da belge analizi tespit kaydeder ama kullanım kaydetmez; dolayısıyla burada hiç görünmezler. Oturum özetleme de bu sayfada bir kol değildir — daha sonraki bir istemin ne içereceğini değiştirir ve etkisi sıkıştırma olarak ya da daha az token olarak gelir, hiçbir zaman kendi rakamı olarak değil.

Sayfanın neyi kapsayacağını seçin

Sayfayı açın

Yönetim → Token Maliyeti ve Tasarruf öğesini seçin.

Sayfa, görebildiğiniz her LLM kaynağı için son 30 günü yükler.

Tek bir kaynağa daraltın

İlk açılır listeyi açıp bir kaynak seçin ya da Tüm kaynaklar olarak bırakın.

Liste, pencerede gerçekten trafik üretmiş kaynaklardan kurulur; dolayısıyla kullanılmayan bir sağlayıcı sunulmaz. Seçim kutucukları, eğilimi, model grafiğini ve tabloları birlikte daraltır.

Bakmak istediğiniz kolu seçin

İkinci açılır listeyi açın: All levers (tüm kollar), Compression (sıkıştırma), Model switching (model değiştirme) ya da Prompt caching.

Bu, tarayıcıdaki bir görünüm filtresidir — hangi satırların getirildiğini değil, her kutucuk ve sütunun hangi tasarruf rakamını göstereceğini değiştirir. Model switching ve Prompt caching seçildiğinde Tokens saved kutucuğu, saves on rate, not tokens alt satırıyla birlikte uzun bir tire gösterir; çünkü iki kol da token kaldırmaz.

Dönemi belirleyin

Son 24 saat, Son 7 gün, Son 30 gün, Son 90 gün ya da Custom range… seçip takvimden bir başlangıç ve bitiş tarihi belirleyin ve Uygula öğesini seçin.

Özel bir aralık her iki tarihi de kapsar, geleceğe uzanamaz ve ağ geçidi tarafından 366 günle sınırlanır. Başlıktaki açılır liste, özel bir aralık için 2026-08-01 → 2026-08-31 biçiminde gösterir.

Rakamları okuyun

Üstteki dört kutucuk sorunun tamamını yanıtlar:

KutucukNedir
Cost before optimizationTemel değer — aynı çağrıların istenen modelde, sıkıştırılmadan ve önbelleksiz ne kadara mal olacağı
Cost after optimizationGerçekte ne faturalandığı; yanında tasarruf yüzdesi, istek sayısı ve kullanıcı sayısı
Total saved (ya da Saved — compression / model routing / prompt caching)Seçili kol için temel değer eksi gerçekleşen
Tokens savedSıkıştırmanın kaldırdığı giriş token'ları. Seçili kol ücret üzerinden tasarruf sağlıyorsa uzun tire

Bunların altında Daily trend, Savings (gün başına kol bazlı yığılmış çubuk) ile Cost vs baseline (iki çizgi: Actual cost ve Baseline — no optimization) arasında geçiş yapar. Trafiği olmayan günler sıfırla doldurulur ki eksen sürekli kalsın. Savings by lever aynı toplamları halka grafik olarak verir, Savings by model en çok tasarruf sağlayan beş modeli sıralar, By source ve By team ise aynı rakamları sağlayıcı ve kiracı grubu bazında listeler.

Note

Bir sentin altındaki maliyetler altı ondalık basamakla yazılır ($0.000412); daha büyükleri iki basamakla. Milyon token başına fiyatlandırma, tek çağrıları gerçekten bu kadar küçük yapar.

Bir kullanıcıya ve projelerine inin

Kullanıcıyı bulun

By user & project bölümüne inip bir satır seçin.

Tablo hesap başına bir satırdır ve net maliyete göre sıralanır. Saved %, temel değerin geri kazanılan payını çizer.

Proje listesini okuyun

Pencere, o hesabın dönem içinde sahip olduğu her projeyi aynı token, maliyet ve tasarruf sütunlarıyla listeler.

Proje bir sohbet oturumudur. Durumsuz /chat/completions çağrıları oturum taşımaz, dolayısıyla hiçbir projeye ait değildir — pencere bu kalanı, projelerin kullanıcı toplamını tutturamamasına izin vermek yerine kendi satırı olarak gösterir.

Warning

Bir kullanıcı satırı yalnızca çağıran bir yöneticiyse görünür. By team kutucuğu ve Users dışa aktarımı da aynısını ister. viewer rolü burada bilinçli olarak yönetici sayılır; böylece sayfa ile PDF'i birbiriyle uyumlu olur.

Raporu dışa aktarın

Dışa aktarma menüsünü açın

Sayfa başlığında Dışa aktar öğesini seçin.

Menü PDF raporu ile birlikte CSV dilimleri sunar: Daily breakdown, Modeller, Projects ve — yönetici için — Kullanıcı. Satırı olmayan bir dilim devre dışıdır.

PDF'i alın

PDF raporu öğesini seçin.

Ağ geçidi raporun tamamını sizin kendi kapsamınız altında sunucu tarafında yeniden kurar ve rapor oluşturucu üzerinden basar; böylece dosya ekranın gösterdiğinden fazlasını gösteremez. Kapağı konuyu, kaynak filtresini, oturum kiracısı filtresini ve dönemi taşır.

Ya da bir CSV dilimi alın

CSV girdilerinden birini seçin.

CSV, tarayıcıya hâlihazırda yüklenmiş satırlardan yazılır. Dosya adı ve kapsam satırı dönemi, kaynağı ve kolu taşır — kol Lever (view filter) olarak etiketlenir, çünkü veriyi değil görünümü daraltmıştır.

Warning

PDF raporu işlemi yalnızca dönemi ve kaynağı gönderir, başka hiçbir şeyi. Tek bir kullanıcının proje penceresini açmak dışa aktarılan PDF'i daraltmaz — ağ geçidi dışa aktarımda bir tenantId daraltmasını destekler, ama panonun menüsü bunu göndermez.

Alan başvurusu

Başlık denetimleri

DenetimNe yapar
Tüm kaynaklarHer rakamı tek bir LLM kaynağına filtreler. Sunucu tarafında
All levers / Compression / Model switching / Prompt cachingKutucukların, grafiklerin ve sütunların hangi tasarruf rakamını göstereceğini seçer. Tarayıcı tarafında görünüm filtresi
Dönem açılır listesiSon 24 saat, Son 7 gün, Son 30 gün, Son 90 gün, Custom range…
Dışa aktarPDF raporu (sunucuda oluşturulur) ve dört CSV dilimi

By user & project sütunları

SütunNeyi gösterir
User / projectHesap adı ya da tablo gruplanmadığında proje adı
İsteklerDönemde faturalanan tamamlamalar
Input / Output / Toplamİstem, tamamlama ve toplam token; Toplam bir −n saved alt satırı taşır
BaselineAynı çağrıların optimizasyonsuz ne kadara mal olacağı
Net costNe faturalandığı
SavedSeçili kol için temel değer eksi net
Saved %Bu tasarrufun temel değerdeki payı, %100 ile sınırlı
Son etkinlikEn yeni çağrının göreli zamanı

Ağ geçidinin çağrı başına kaydettikleri

ai_usage_logs sütunuAnlamı
cost_usdÇağrının ne faturalandığı
baseline_cost_usdİstenen modelde, sıkıştırılmadan ne kadara mal olacağı
saved_usdTemel değer eksi gerçekleşen — gerçekleşmiş azalma
input_saved_usd / output_saved_usd / cache_saved_usdBu tasarrufun sıkıştırma, yönlendirme ve sağlayıcı önbelleği arasındaki dağılımı
projected_saved_usdGölge kipteki bir optimizasyonun sağlayacağı tasarruf. Tasarruf olarak sayılmaz
tokens_savedSıkıştırmanın kaldırdığı giriş token'ları
cache_read_tokens / cache_write_tokensSağlayıcının kendi istem önbelleği muhasebesi

Doğrulama

  1. Ağ geçidi üzerinden bir sohbet mesajı gönderin, ardından dönemi Son 24 saat yapıp sayfayı yeniden yükleyin. Cost after optimization hareket eder ve istek sayısı bir artar.
  2. Bir kullanıcı satırının İstekler değerini, o kullanıcının proje satırlarının toplamıyla ve penceredeki No project satırıyla karşılaştırın. Uyuşurlar; bir fark durumsuz çağrılar demektir ve kalan satırı tam da bunu göstermek için vardır.
  3. Dışa aktar → PDF raporu öğesini seçin ve kapaktaki dönemin ekrandaki dönemle eşleştiğini doğrulayın.
  4. Bu sayfa hiçbir olay kaydı satırı yazmaz. Olay Günlükleri sayfasında aranacak bir şey yoktur — bir maliyet raporunu okumak, ağ geçidindeki diğer her okuma uç noktası gibi denetlenmez.

Başarısız olursa

  • This feature (cost.calculator) is not included in the installed license tier. Contact your CID representative to upgrade. — FEATURE_NOT_LICENSED koduyla bir 403. Anahtar üç katmanda da bulunur; dolayısıyla bu normalde hiç lisans kurulu olmadığı anlamına gelir. Bkz. Lisans.
  • Could not load the report. Please try again. — özet isteği başarısız oldu. En sık neden ağ geçidine erişilememesidir; boş sayfadan bir sonuç çıkarmadan önce bunu denetleyin.
  • İstekler sayılırken her maliyet $0.00 okunuyorsa: kullanılan modellerin kayıtlı fiyatı yoktur. Fiyatlar model kataloğundan gelir; bkz. Modeller.
  • Halka grafikte No savings in this period ve eğilimde No usage in this period — pencerede sohbet trafiği yoktur ya da hiçbiri optimize edilmemiştir. Kolların kapalı olduğu sonucuna varmadan önce dönemi genişletin.
  • Cihaz yoğunken sayfa boşsa: trafik sohbet yolundan gelmiyordur. Satır içi vekil sunucu, eklenti ve ajan trafiği kullanım satırı üretmez.
  • Failed to render cost-savings PDF: … — bir 503. Rapor oluşturucu kapalıdır; JSON görünümleri ve CSV dışa aktarımları çalışmayı sürdürür.
  • This is a read-only demo account (viewer role) — actions and changes are disabled. — bir READ_ONLY_ROLE reddi. Bu sayfadaki okumalara bir viewer için izin verilir; dolayısıyla bu, aynı oturumdaki başka bir işleme işaret eder.

Sonraki adımlar

  • AI kullanımı — sohbet yolunun dışında, eklenti ve vekil sunucu tarafından yakalanan ve hiç maliyet kaydedilmeyen kullanım.
  • Kiracı analitiği — tek bir hesap için aynı token'lar ve maliyetler; yanında tespitler ve uyumluluk.
  • Modeller — model başına fiyatlandırmanın geldiği yer.

Son güncelleme

Bu sayfada