跳到內容

管理成本

本指南說明如何查看代理執行的花費,以及如何為自主執行設定上限。

每次代理執行都會寫下一筆執行日誌,記載它的輸入 token、輸出 token、推理 token、快取讀取與快取寫入 token、以美分計的預估成本,以及它生成的任何子代理的成本。

定價來自 models.dev 目錄;該目錄只用來以價格與上下文視窗充實模型清單,絕不是模型 id 的來源。目錄無法計價的模型會記錄為 $0,而零成本的執行會被排除在用量與費用摘要之外。因此本機的 Ollama 模型完全不會顯示花費,儘管它的 token 數仍會被記錄。固定費率方案(kimi-code、Claude 訂閱)只有在目錄對所供應的模型沒有價格時才會如此;若目錄有價格,執行仍會依那些費率估算。在後備鏈之下,執行是依實際供應它的模型計價,而不是依請求的模型。

從側邊欄底部 → 可觀測性進入。預設會先開啟用量分頁(累計 token 總數);切到第二個分頁洞察,才是主要的成本介面:

  • 時間範圍選擇器:最近 24 小時、最近 7 天、最近 30 天或所有時間
  • 針對代理、模型、狀態與角色的多面向篩選器,以可關閉的晶片呈現
  • KPI 列:執行總數、總成本、錯誤率、快取率、每秒 token 數、平均延遲與首 token 時間,每一項都附有相較於前一期的變化(在「所有時間」下會隱藏)
  • 活動與成本圖表,以及依角色的成本細分,將支出拆分到主代理、其子代理與其顧問
  • 依成本排序的個別代理表格,顯示前十名並附有顯示全部的切換鈕。點選某一列會把其他每一個介面都篩選到該代理
  • 細緻的執行日誌,會為選取的執行停靠一個逐字稿抽屜

這個頁面上的用量與費用卡片會以單一美元數字顯示最近七天觀測到的花費,附有依供應商劃分的細目,以及(當供應商有公布時)距離下一個配額時間窗重設還有多久。

設定 → 工作區 → 代理 → 選取一個代理 → 日誌會列出它的執行,包含狀態、持續時間、開始與完成時間、PID 與配接器。這個分頁不會顯示成本——請改用可觀測性 → 洞察中的個別代理表格。

在空間的訊息輸入區輸入的兩個斜線指令,是唯一有花費上限的執行:

/goal ship the auth refactor --budget 20
/loop keep the flaky tests green
  • /goal 或 /loop 執行的每個區段,會在計價後的花費達到 **500 美分($5.00)**時停止。到達那個金額的 80% 時,迴圈會先引導模型收尾並留下乾淨的交接,因此它不會在任務中途死掉。
  • 整個持久目標的上限是 5000 美分($50.00),除非你傳入 --budget <dollars>。監督者會把目標的_剩餘_預算串接到每個區段,因此明確指定的預算絕不會被超過整整一個區段。
  • --days N 會加上一個實際時間期限,--max N 則是執行次數上限。兩者都是選用的;沒有它們時,目標只受成本限制。
  • 撞到自身極限的目標會停在 budgetExhausted,而且只能透過調高預算來恢復。

由於上限是經過計價的,目錄無法計價的模型永遠不會觸及它。這樣的執行改由死迴圈重複防護、監督者在連續三次失敗後的放棄,以及你來設限。

空間中的訊息、@提及或管線步驟都沒有花費上限。執行的結束時機是模型停下來、你把它停下來,或死迴圈防護引導它的時候。

在空間的訊息輸入區輸入 /compact。這個指令會在用戶端被攔截,永遠不會進入逐字稿;伺服器會把較舊的歷史摺疊成一份錨定的摘要,對話則在壓縮後的情境上繼續。

當代理正處於回合中途,或沒有夠舊的內容可摺疊時,會拒絕壓縮。內建執行環境也會在歷史接近模型的上下文視窗時自行進行壓縮。

代理的推理力度(設定 → 工作區 → 代理)會提供所選模型公布的各種等級。等級越高,花費的推理 token 越多。請把最高等級留給真正需要的工作。

模型是每個代理各自的欄位,因此格式化或分流代理可以跑在便宜的模型上,而架構代理則跑在昂貴的模型上。在可觀測性 → 洞察中依模型篩選個別代理表格,就能看出實際讓你花錢的是哪一種搭配。

打開洞察的執行日誌(最新 50 筆經過篩選的執行),並對任何不尋常的項目開啟逐字稿抽屜。常見原因是過長的系統提示或人設、早該壓縮的情境,以及原本應該拆成幾個較小任務的工作。

為求完整,如果 monthlyBudgetCents 或某個預算原則被直接寫入代理的資料列:

  • 預算是在執行完成之後評估,而不是在派送之前。執行完成時的監聽器會把代理本月至今的支出與其上限比較。
  • 越過軟性閾值(預設 80%)會記錄一筆警告事故,並觸發一個 BudgetThresholdCrossed 事件,你可以把管線觸發器掛在上面。
  • 用盡預算會記錄一筆硬性事故、觸發同一個事件,並把代理的生命週期狀態翻轉為 paused。
  • 派送前的阻擋確實存在,但只有孤兒執行回收程式與擱淺工單協調程式在安排復原時會查詢它——一般的派送永遠不會觸及它,派送路徑上也沒有任何東西會檢查已暫停狀態。唯一可見的訊號是組織圖中的生命週期徽章。