Quản lý chi phí

Hướng dẫn này chỉ cách xem các lượt chạy agent tốn bao nhiêu và cách giới hạn một lượt chạy tự chủ.

Chi phí được ghi lại như thế nào

Mỗi lượt chạy agent đều ghi một bản ghi lượt chạy mang theo token đầu vào, token đầu ra, token suy luận, token đọc từ bộ nhớ đệm và ghi vào bộ nhớ đệm, chi phí ước tính theo cent, cùng chi phí của mọi subagent mà nó sinh ra.

Giá đến từ danh mục models.dev, vốn chỉ được dùng để làm phong phú danh sách mô hình bằng giá và cửa sổ ngữ cảnh — không bao giờ là nguồn id mô hình. Một mô hình mà danh mục không thể định giá sẽ ghi $0 và những lượt chạy không tốn chi phí bị loại khỏi phần tóm tắt Sử dụng và chi phí. Vì vậy một mô hình Ollama cục bộ hoàn toàn không hiển thị chi tiêu nào, dù số token của nó vẫn được ghi lại. Một gói cước trọn gói (kimi-code, một thuê bao Claude) cũng vậy, nhưng chỉ khi danh mục không có giá cho mô hình đã phục vụ; nếu có, lượt chạy vẫn được ước tính theo chính mức giá đó. Trong một chuỗi dự phòng, lượt chạy được định giá theo mô hình thực sự phục vụ nó, chứ không phải mô hình được yêu cầu.

Xem bạn đang chi bao nhiêu

Quan sát → Phân tích

Truy cập từ chân thanh điều hướng phụ → Quan sát. Tab Mức dùng mở trước (tổng token trọn đời); hãy chuyển sang Phân tích — tab thứ hai — để vào bề mặt chi phí chính:

Bộ chọn khoảng thời gian: 24 giờ qua, 7 ngày qua, 30 ngày qua hoặc mọi lúc
Bộ lọc theo khía cạnh trên agent, mô hình, trạng thái và vai trò, dưới dạng các chip có thể bỏ chọn
Dải KPI: tổng số lượt chạy, tổng chi phí, tỷ lệ lỗi, tỷ lệ cache, token mỗi giây, độ trễ trung bình và thời gian đến token đầu, mỗi chỉ số kèm mức thay đổi so với giai đoạn trước (ẩn ở “Mọi lúc”)
Biểu đồ hoạt động và chi phí, cùng phần phân tích Chi phí theo vai trò chia chi tiêu giữa agent chính, các subagent và cố vấn của nó
Bảng theo từng agent sắp xếp theo chi phí, mười dòng đầu kèm nút bật/tắt hiện tất cả. Chạm vào một hàng sẽ lọc mọi bề mặt khác theo agent đó
Bản ghi lượt chạy chi tiết, nơi gắn một ngăn kéo bản ghi hội thoại cho lượt chạy được chọn

Cài đặt → Máy chủ → Nhà cung cấp mô hình

Thẻ Sử dụng và chi phí trên trang này hiển thị chi tiêu ghi nhận được trong bảy ngày qua dưới dạng một con số đô-la duy nhất, kèm phần phân tích theo từng nhà cung cấp và, khi nhà cung cấp có công bố, thời gian cho đến khi cửa sổ hạn ngạch kế tiếp được đặt lại.

Các lượt chạy của một agent

Cài đặt → Không gian làm việc → Agent → chọn một agent → Nhật ký liệt kê các lượt chạy của nó với trạng thái, thời lượng, thời điểm bắt đầu và kết thúc, PID và adapter. Tab này không hiển thị chi phí — hãy dùng bảng theo từng agent trong Quan sát → Phân tích cho việc đó.

Giới hạn một lượt chạy tự chủ

Hai lệnh slash, gõ trong khung soạn tin của một space, là những lượt chạy duy nhất có mức trần chi tiêu:

/goal ship the auth refactor --budget 20
/loop keep the flaky tests green

Mỗi phân đoạn của một lượt chạy /goal hoặc /loop dừng lại khi chi tiêu được định giá của nó đạt 500 cent ($5.00). Ở mức 80% của ngưỡng đó, vòng lặp trước tiên điều hướng mô hình kết thúc gọn gàng và để lại một bàn giao sạch, nhờ đó nó không chết giữa tác vụ.
Toàn bộ một mục tiêu bền vững bị giới hạn ở 5000 cent ($50.00) trừ khi bạn truyền --budget <dollars>. Bộ giám sát luồn ngân sách còn lại của mục tiêu vào từng phân đoạn, nên một ngân sách tường minh không bao giờ bị vượt quá nguyên một phân đoạn.
--days N thêm một hạn chót theo đồng hồ thực và --max N một mức trần số lượt chạy. Cả hai đều là tùy chọn; nếu không có chúng, mục tiêu chỉ bị giới hạn bởi chi phí.
Một mục tiêu chạm mức trần của nó sẽ dừng ở budgetExhausted và chỉ có thể tiếp tục bằng cách nâng ngân sách.

Vì mức trần được định giá, một mô hình mà danh mục không thể định giá sẽ không bao giờ chạm tới nó. Thay vào đó, một lượt chạy như vậy bị giới hạn bởi rào chắn chống lặp vòng lặp chết, việc bộ giám sát bỏ cuộc sau ba lần thất bại liên tiếp, và chính bạn.

Một tin nhắn trong space, một lượt @-mention, hay một bước quy trình đều không có mức trần chi tiêu. Lượt chạy kết thúc khi mô hình dừng, khi bạn dừng nó, hoặc khi rào chắn vòng lặp chết điều hướng nó.

Cắt giảm lượng token dùng

Nén một cuộc hội thoại dài

Gõ /compact trong khung soạn tin của space. Lệnh này bị chặn ở phía máy khách và không bao giờ lọt vào bản ghi hội thoại; máy chủ gộp phần lịch sử cũ hơn thành một bản tóm tắt được neo và cuộc hội thoại tiếp tục trên ngữ cảnh đã nén.

Việc nén bị từ chối khi một agent đang giữa lượt và khi không có gì đủ cũ để gộp. Harness tích hợp sẵn cũng tự nén khi lịch sử tiến gần cửa sổ ngữ cảnh của mô hình.

Chọn mức công sức một cách có chủ đích

Mức suy luận của một agent (Cài đặt → Không gian làm việc → Agent) cung cấp bất kỳ mức nào mà mô hình đã chọn công bố. Mức càng cao càng tiêu nhiều token suy luận. Hãy để dành những mức cao nhất cho công việc thực sự cần chúng.

Chọn mô hình cho từng agent

Mô hình là một trường theo từng agent, nên một agent định dạng hay phân loại có thể chạy trên một mô hình rẻ trong khi một agent kiến trúc chạy trên một mô hình đắt. Hãy lọc bảng theo từng agent trong Quan sát → Phân tích theo mô hình để xem cặp đôi nào thực sự đang ngốn chi phí của bạn.

Tìm những lượt chạy có số token vượt trội

Mở bản ghi lượt chạy trong Phân tích (50 lượt chạy đã lọc mới nhất) và ngăn kéo bản ghi hội thoại với bất kỳ thứ gì bất thường. Nguyên nhân phổ biến là một prompt hệ thống hoặc persona quá dài, ngữ cảnh lẽ ra phải được nén, và một tác vụ lẽ ra nên tách thành vài tác vụ nhỏ hơn.

Điều gì xảy ra nếu một ngân sách được đặt ngoài luồng

Để cho đầy đủ, nếu monthlyBudgetCents hoặc một chính sách ngân sách được ghi thẳng vào hàng của một agent:

Ngân sách được đánh giá sau khi một lượt chạy hoàn tất, chứ không phải trước khi điều phối. Một bộ lắng nghe khi lượt chạy hoàn tất sẽ so sánh chi tiêu từ đầu tháng đến nay của agent với mức trần của nó.
Vượt ngưỡng mềm (mặc định 80%) ghi lại một sự cố cảnh báo và phát một sự kiện BudgetThresholdCrossed mà bạn có thể gắn một trình kích hoạt quy trình vào.
Cạn ngân sách ghi lại một sự cố cứng, phát cùng sự kiện đó và đảo trạng thái vòng đời của agent thành paused.
Khối chặn trước điều phối vẫn tồn tại nhưng chỉ được bộ thu gom lượt chạy mồ côi và bộ đối soát phiếu mắc kẹt tham chiếu khi lên lịch khôi phục — một lần điều phối bình thường không bao giờ chạm tới nó và không có gì trên đường điều phối kiểm tra trạng thái tạm dừng. Tín hiệu duy nhất có thể thấy là huy hiệu vòng đời trong sơ đồ tổ chức.

Hướng dẫn liên quan

Khái niệm liên quan

Vòng đời điều phối agent