Maliyetleri yönetme

Bu kılavuz, ajan çalıştırmalarının ne kadara mal olduğunu nasıl göreceğinizi ve özerk bir çalıştırmaya nasıl üst sınır koyacağınızı gösterir.

Maliyetler nasıl kaydedilir

Her ajan çalıştırması; girdi token’larını, çıktı token’larını, akıl yürütme token’larını, önbellek okuma ve önbellek yazma token’larını, sent cinsinden tahmini maliyeti ve başlattığı alt ajanların maliyetini taşıyan bir çalıştırma günlüğü yazar.

Fiyatlandırma models.dev kataloğundan gelir; bu katalog yalnızca model listesini fiyat ve bağlam penceresiyle zenginleştirmek için kullanılır, asla model kimliklerinin kaynağı olarak değil. Kataloğun fiyatlandıramadığı bir model $0 kaydeder ve sıfır maliyetli çalıştırmalar Kullanım ve maliyet özetine dahil edilmez. Bu nedenle yerel bir Ollama modeli hiç harcama göstermez, ancak token sayıları yine de kaydedilir. Sabit ücretli bir plan (kimi-code, bir Claude aboneliği) yalnızca katalogda sunulan modelin fiyatı yoksa aynıdır; varsa çalıştırma yine de o fiyatlar üzerinden tahmin edilir. Bir yedek zincirinde çalıştırma, istenen model üzerinden değil onu gerçekte sunan model üzerinden fiyatlandırılır.

Neye harcadığınızı görün

Gözlemlenebilirlik → İçgörüler

Kenar çubuğunun alt kısmından → Gözlemlenebilirlik üzerinden ulaşın. Önce Kullanım sekmesi açılır (başlangıçtan bu yana token toplamları); asıl maliyet yüzeyi için ikinci sekme olan İçgörüler’e geçin:

Bir zaman aralığı seçici: son 24 saat, son 7 gün, son 30 gün veya tüm zamanlar
Ajan, model, durum ve rol üzerinde, kapatılabilir çipler hâlinde çok yönlü filtreler
Bir KPI şeridi: toplam çalıştırma, toplam maliyet, hata oranı, önbellek oranı, saniye başına token, ortalama gecikme ve ilk token süresi; her biri önceki döneme göre bir değişimle birlikte (“Tüm zamanlar”da gizlenir)
Etkinlik ve maliyet grafikleri, ayrıca harcamayı ana ajan, alt ajanları ve Advisor’ı arasında bölen bir Role göre maliyet dökümü
Maliyete göre sıralanmış, tümünü göster düğmesiyle ilk onu gösteren ajan başına bir tablo. Bir satıra dokunmak diğer tüm yüzeyleri o ajana göre filtreler
Seçili bir çalıştırma için transkript çekmecesini açan ayrıntılı çalıştırma günlüğü

Ayarlar → Sunucu → Model sağlayıcıları

Bu sayfadaki Kullanım ve maliyet kartı, son yedi günün gözlemlenen harcamasını tek bir dolar rakamı olarak gösterir; sağlayıcı başına bir döküm ve bir sağlayıcı yayımladığında bir sonraki kota penceresinin sıfırlanmasına kalan süreyi de içerir.

Tek bir ajanın çalıştırmaları

Ayarlar → Çalışma alanı → Ajanlar → bir ajan seçin → Loglar, çalıştırmalarını durum, süre, başlangıç ve tamamlanma zamanları, PID ve adaptör ile listeler. Bu sekme maliyet göstermez — bunun için Gözlemlenebilirlik → İçgörüler içindeki ajan başına tabloyu kullanın.

Özerk bir çalıştırmaya üst sınır koyun

Bir alanın yazı alanına yazılan iki slash komutu, harcama üst sınırı olan tek çalıştırmalardır:

/goal ship the auth refactor --budget 20
/loop keep the flaky tests green

Bir /goal veya /loop çalıştırmasının her segmenti, fiyatlandırılmış harcaması 500 sent ($5.00) değerine ulaştığında durur. Bunun %80’inde döngü önce modeli işi toparlamaya ve temiz bir devir bırakmaya yönlendirir; böylece görev ortasında ölmez.
Kalıcı bir hedefin tamamı, --budget <dollars> vermediğiniz sürece 5000 sent ($50.00) ile sınırlıdır. Gözetmen, hedefin kalan bütçesini her segmente aktarır; böylece açıkça verilen bir bütçe asla bir segmentin tamamı kadar aşılmaz.
--days N bir duvar saati son tarihi, --max N ise bir çalıştırma sayısı üst sınırı ekler. İkisi de isteğe bağlıdır; bunlar olmadan hedef yalnızca maliyetle sınırlanır.
Sınırına dayanan bir hedef budgetExhausted durumunda durur ve yalnızca bütçe yükseltilerek sürdürülebilir.

Üst sınır fiyatlandırılmış olduğundan, kataloğun fiyatlandıramadığı bir model ona asla ulaşamaz. Böyle bir çalıştırma bunun yerine kısır döngü yineleme korumasıyla, gözetmenin arka arkaya üç başarısızlıktan sonra pes etmesiyle ve sizinle sınırlanır.

Bir alandaki mesajın, bir @ anmasının veya bir pipeline adımının harcama üst sınırı yoktur. Çalıştırma, model durduğunda, siz onu durdurduğunuzda ya da kısır döngü koruması onu yönlendirdiğinde biter.

Token kullanımını azaltın

Uzun bir konuşmayı sıkıştırın

Alanın yazı alanına /compact yazın. Komut istemci tarafında yakalanır ve asla transkripte düşmez; sunucu daha eski geçmişi bağlanmış bir özete katlar ve konuşma sıkıştırılmış bağlam üzerinde devam eder.

Bir ajan turunun ortasındayken ve katlanacak kadar eski bir şey yokken sıkıştırma reddedilir. Yerleşik harness ayrıca geçmiş modelin bağlam penceresine yaklaştıkça kendi kendine sıkıştırır.

Efor düzeyini bilinçli seçin

Bir ajanın Akıl yürütme eforu (Ayarlar → Çalışma alanı → Ajanlar) seçili modelin yayımladığı düzeyleri sunar. Daha yüksek düzeyler daha fazla akıl yürütme token’ı harcar. En üst düzeyleri onlara ihtiyaç duyan işlere ayırın.

Modeli ajan başına seçin

Model ajan başına bir alandır; böylece bir biçimlendirme veya triyaj ajanı ucuz bir modelde çalışırken bir mimari ajanı pahalı bir modelde çalışabilir. Hangi eşleşmenin size gerçekte ne kadara mal olduğunu görmek için Gözlemlenebilirlik → İçgörüler içindeki ajan başına tabloyu modele göre filtreleyin.

Aşırı token sayısına sahip çalıştırmaları arayın

İçgörüler çalıştırma günlüğünü (filtrelenmiş en yeni 50 çalıştırma) ve sıra dışı olan her şeyde transkript çekmecesini açın. Yaygın nedenler; aşırı uzun bir sistem istemi veya persona, sıkıştırılmış olması gereken bağlam ve birkaç daha küçük göreve bölünmesi gereken bir görevdir.

Bütçe bant dışı ayarlanırsa ne olur

Bütünlük adına, monthlyBudgetCents veya bir bütçe politikası doğrudan bir ajan satırına yazılırsa:

Bütçeler gönderimden önce değil, bir çalıştırma tamamlandıktan sonra değerlendirilir. Çalıştırma tamamlanmasına bağlı bir dinleyici, ajanın ay başından bugüne harcamasını üst sınırıyla karşılaştırır.
Yumuşak eşiğin (varsayılan olarak %80) aşılması bir uyarı olayı kaydeder ve bir pipeline tetikleyicisi bağlayabileceğiniz bir BudgetThresholdCrossed olayını tetikler.
Bütçenin tükenmesi katı bir olay kaydeder, aynı olayı tetikler ve ajanın yaşam döngüsü durumunu paused olarak değiştirir.
Gönderim öncesi engel mevcuttur ancak yalnızca yetim çalıştırma toplayıcısı ve kurtarma planlarken takılı kalmış bilet uzlaştırıcısı tarafından okunur — normal bir gönderim ona asla ulaşmaz ve gönderim yolundaki hiçbir şey paused durumunu denetlemez. Görünen tek sinyal organizasyon şemasındaki yaşam döngüsü rozetidir.

İlgili kılavuzlar

İlgili kavramlar

Ajan gönderim yaşam döngüsü