Kelola biaya

Panduan ini menunjukkan cara melihat biaya run agen dan cara membatasi run otonom.

Bagaimana biaya dicatat

Setiap run agen menulis log run yang memuat token masukan, token keluaran, token penalaran, token pembacaan cache dan token penulisan cache, perkiraan biaya dalam sen, serta biaya subagen apa pun yang dibangkitkannya.

Harga berasal dari katalog models.dev, yang hanya dipakai untuk memperkaya daftar model dengan harga dan jendela konteks — tidak pernah sebagai sumber id model. Model yang tidak dapat diberi harga oleh katalog mencatat $0 dan run tanpa biaya dikecualikan dari ringkasan Pemakaian & biaya. Model Ollama lokal karena itu tidak menampilkan pengeluaran sama sekali, meskipun jumlah tokennya tetap dicatat. Paket tarif tetap (kimi-code, langganan Claude) berperilaku sama hanya bila katalog tidak punya harga untuk model yang dilayani; jika katalog memilikinya, run tetap diestimasikan pada tarif tersebut. Dalam kondisi rantai fallback, biaya run dihitung berdasarkan model yang benar-benar melayaninya, bukan model yang diminta.

Lihat pengeluaran Anda

Observabilitas → Wawasan

Buka dari bagian bawah sidebar → Observabilitas. Tab Penggunaan terbuka lebih dulu (total token sejak awal); beralihlah ke Wawasan — tab kedua — untuk permukaan biaya utamanya:

• Pemilih rentang waktu: 24 jam terakhir, 7 hari terakhir, 30 hari terakhir, atau seluruh waktu
• Filter berfaset atas agen, model, status, dan peran, sebagai chip yang dapat ditutup
• Deret KPI: total run, total biaya, tingkat error, tingkat cache, token per detik, latensi rata-rata, dan waktu ke token pertama, masing-masing dengan perubahan terhadap periode sebelumnya (disembunyikan pada “Semua waktu”)
• Grafik aktivitas dan biaya, plus rincian biaya menurut peran yang membagi pengeluaran antara agen utama, subagennya, dan penasihatnya
• Tabel per agen yang diurutkan menurut biaya, sepuluh teratas dengan tombol tampilkan semua. Menekan sebuah baris memfilter setiap permukaan lain ke agen tersebut
• Log run yang terperinci, yang membuka laci transkrip untuk run yang dipilih

“Semua waktu” bukan seluruh waktu

Feed run berlangganan ke 2000 log run terbaru di semua ruang kerja, lalu memfilternya ke ruang kerja yang aktif. Pada server multi-ruang kerja yang sibuk, riwayat yang lebih lama untuk ruang kerja yang sepi akan keluar dari jendela tersebut.

Pengaturan → Server → Penyedia model

Kartu Pemakaian & biaya di halaman ini menampilkan pengeluaran teramati tujuh hari terakhir sebagai satu angka dolar, dengan rincian per penyedia dan, bila penyedia mempublikasikannya, waktu hingga jendela kuota berikutnya direset.

Run satu agen

Pengaturan → Ruang kerja → Agen → pilih agen → Log mencantumkan run-nya beserta status, durasi, waktu mulai dan penyelesaian, PID, dan adapter. Tab ini tidak menampilkan biaya — gunakan tabel per agen di Observabilitas → Wawasan untuk itu.

Batasi run otonom

Dua perintah slash, yang diketik di penyusun pesan sebuah space, adalah satu-satunya run dengan batas pengeluaran:

/goal ship the auth refactor --budget 20
/loop keep the flaky tests green

• Setiap segmen dari run /goal atau /loop berhenti ketika pengeluaran yang dihargai mencapai 500 sen ($5,00). Pada 80% dari angka itu, loop terlebih dahulu mengarahkan model untuk merampungkan pekerjaan dan meninggalkan serah terima yang bersih, sehingga ia tidak mati di tengah tugas.
• Satu goal tahan lama secara keseluruhan dibatasi pada 5.000 sen ($50,00) kecuali Anda meneruskan --budget <dollars>. Supervisor meneruskan anggaran tersisa goal ke setiap segmen, sehingga anggaran yang eksplisit tidak pernah dilampaui sebanyak satu segmen penuh.
• --days N menambahkan tenggat waktu nyata dan --max N plafon jumlah run. Keduanya bersifat opsional; tanpanya, goal hanya dibatasi oleh biaya.
• Goal yang menabrak batas kerasnya berhenti pada budgetExhausted dan hanya dapat dilanjutkan dengan menaikkan anggaran.

Karena batasnya berbasis harga, model yang tidak dapat diberi harga oleh katalog tidak akan pernah mencapainya. Run seperti itu justru dibatasi oleh pagar pengulangan doom-loop, menyerahnya supervisor setelah tiga kegagalan berturut-turut, dan Anda.

Pesan di sebuah space, @-mention, atau langkah pipeline tidak punya batas pengeluaran. Run berakhir ketika model berhenti, ketika Anda menghentikannya, atau ketika pagar doom-loop mengarahkannya.

Pangkas pemakaian token

Padatkan percakapan yang panjang

Ketik /compact di penyusun pesan space. Perintah ini dicegat di sisi klien dan tidak pernah masuk ke transkrip; server melipat riwayat yang lebih lama menjadi ringkasan berjangkar dan percakapan berlanjut pada konteks yang telah dipadatkan.

Pemadatan ditolak saat agen berada di tengah giliran dan ketika tidak ada apa pun yang cukup lama untuk dilipat. Harness bawaan juga memadatkan sendiri saat riwayat mendekati jendela konteks model.

Pilih tingkat upaya secara sengaja

Upaya penalaran milik agen (Pengaturan → Ruang kerja → Agen) menawarkan tingkat apa pun yang dipublikasikan model terpilih. Tingkat yang lebih tinggi menghabiskan lebih banyak token penalaran. Sisakan tingkat teratas untuk pekerjaan yang membutuhkannya.

Pilih model per agen

Model adalah bidang per agen, jadi agen pemformatan atau triage dapat berjalan pada model murah sementara agen arsitektur berjalan pada model mahal. Filter tabel per agen di Observabilitas → Wawasan menurut model untuk melihat pasangan mana yang sebenarnya membebani biaya Anda.

Cari run dengan jumlah token yang tidak proporsional

Buka log run Wawasan (50 run terfilter terbaru) dan laci transkrip pada apa pun yang tidak biasa. Penyebab umumnya adalah prompt sistem atau persona yang terlalu panjang, konteks yang seharusnya sudah dipadatkan, dan tugas yang seharusnya dipecah menjadi beberapa tugas yang lebih kecil.

Apa yang terjadi jika anggaran disetel di luar jalur normal

Sebagai kelengkapan, jika monthlyBudgetCents atau kebijakan anggaran ditulis langsung ke baris agen:

• Anggaran dievaluasi setelah run selesai, bukan sebelum pengiriman. Sebuah listener pada penyelesaian run membandingkan pengeluaran agen sejak awal bulan dengan plafonnya.
• Melewati ambang lunak (defaultnya 80%) mencatat insiden peringatan dan memicu peristiwa BudgetThresholdCrossed yang dapat Anda sandarkan pemicu pipeline padanya.
• Menghabiskan anggaran mencatat insiden keras, memicu peristiwa yang sama, dan membalik status siklus hidup agen menjadi paused.
• Blok pra-pengiriman itu ada tetapi hanya dikonsultasikan oleh reaper run yatim dan reconciler tiket terdampar saat menjadwalkan pemulihan — pengiriman biasa tidak pernah mencapainya dan tidak ada apa pun di jalur pengiriman yang memeriksa status paused. Satu-satunya sinyal yang terlihat adalah lencana siklus hidup di bagan organisasi.

Panduan terkait

• Buat dan konfigurasi agen
• Kelola adapter dan model
• Diagnosis agen
• Konfigurasi agen

Konsep terkait

• Siklus hidup pengiriman agen