Zarządzaj kosztami

Ten poradnik pokazuje, jak sprawdzić, ile kosztują uruchomienia agentów, i jak ograniczyć autonomiczne uruchomienie.

Jak rejestrowane są koszty

Każde uruchomienie agenta zapisuje dziennik uruchomienia zawierający tokeny wejściowe, tokeny wyjściowe, tokeny rozumowania, tokeny odczytu z cache i zapisu do cache, szacowany koszt w centach oraz koszt wszystkich podagentów, które uruchomiło.

Ceny pochodzą z katalogu models.dev, który służy wyłącznie do wzbogacenia listy modeli o cenę i okno kontekstu — nigdy jako źródło identyfikatorów modeli. Model, którego katalog nie potrafi wycenić, zapisuje $0, a uruchomienia o koszcie zerowym są wyłączone z podsumowania Użycie i koszt. Lokalny model Ollama nie pokazuje więc żadnych wydatków, choć jego liczba tokenów wciąż jest zapisywana. Plan ryczałtowy (kimi-code, subskrypcja Claude) działa tak samo tylko wtedy, gdy katalog nie ma ceny dla obsługującego modelu; jeśli ma, uruchomienie i tak jest szacowane według tych stawek. W łańcuchu zapasowym uruchomienie jest wyceniane według modelu, który faktycznie je obsłużył, a nie tego, o który poproszono.

Zobacz, ile wydajesz

Obserwowalność → Analizy

Otwórz ją ze stopki paska bocznego → Obserwowalność. Najpierw otwiera się karta Użycie (łączne liczby tokenów); przełącz się na Analizy — drugą kartę — aby zobaczyć główny widok kosztów:

Selektor zakresu czasu: ostatnie 24 godziny, ostatnie 7 dni, ostatnie 30 dni albo cały okres
Filtry fasetowe po agencie, modelu, statusie i roli, jako zamykane chipy
Pasek KPI: uruchomienia łącznie, koszt łącznie, współczynnik błędów, trafność cache, tokeny na sekundę, średnie opóźnienie i czas do pierwszego tokena — każdy ze zmianą względem poprzedniego okresu (ukryty w widoku „Cały okres”)
Wykresy aktywności i kosztów oraz zestawienie Koszt według roli rozbijające wydatki na głównego agenta, jego podagentów i jego doradcę
Tabela dla poszczególnych agentów sortowana według kosztu, dziesięć pierwszych pozycji z przełącznikiem pokazania wszystkich. Dotknięcie wiersza filtruje wszystkie pozostałe widoki do tego agenta
Szczegółowy dziennik uruchomień, który zadokowuje szufladę transkryptu dla wybranego uruchomienia

Ustawienia → Serwer → Dostawcy modeli

Karta Użycie i koszt na tej stronie pokazuje wydatki zaobserwowane w ostatnich siedmiu dniach jako jedną kwotę w dolarach, z rozbiciem na dostawców oraz — gdy dostawca je publikuje — czas do zresetowania następnego okna limitu.

Uruchomienia pojedynczego agenta

Ustawienia → Obszar roboczy → Agenci → wybierz agenta → Logi zawierają listę jego uruchomień ze statusem, czasem trwania, godzinami rozpoczęcia i zakończenia, PID-em oraz adapterem. Ta karta nie pokazuje kosztu — w tym celu użyj tabeli dla poszczególnych agentów w sekcji Obserwowalność → Analizy.

Ustaw limit autonomicznego uruchomienia

Dwa polecenia slash, wpisywane w kompozytorze przestrzeni, to jedyne uruchomienia z limitem wydatków:

/goal ship the auth refactor --budget 20
/loop keep the flaky tests green

Każdy segment uruchomienia /goal lub /loop zatrzymuje się, gdy jego wyceniony wydatek osiągnie 500 centów (5,00 USD). Przy 80% tej kwoty pętla najpierw nakierowuje model, by domknął pracę i zostawił czyste przekazanie, żeby nie zginął w połowie zadania.
Cały trwały cel ma limit 5000 centów (50,00 USD), chyba że podasz --budget <dollars>. Nadzorca przekazuje pozostały budżet celu do każdego segmentu, więc jawny budżet nigdy nie zostaje przekroczony o cały segment.
--days N dodaje termin zegarowy, a --max N pułap liczby uruchomień. Oba są opcjonalne; bez nich cel ogranicza wyłącznie koszt.
Cel, który osiągnie swój limit, zatrzymuje się na budgetExhausted i można go wznowić wyłącznie przez podniesienie budżetu.

Ponieważ limit opiera się na wycenie, model, którego katalog nie potrafi wycenić, nigdy go nie osiągnie. Takie uruchomienie ogranicza zamiast tego zabezpieczenie przed powtarzaniem w pętli zagłady, rezygnacja nadzorcy po trzech kolejnych niepowodzeniach oraz Ty.

Wiadomość w przestrzeni, wzmianka przez @ albo krok potoku nie mają limitu wydatków. Uruchomienie kończy się, gdy model się zatrzyma, gdy je zatrzymasz albo gdy zabezpieczenie przed pętlą zagłady je nakieruje.

Ogranicz zużycie tokenów

Kompaktuj długą rozmowę

Wpisz /compact w kompozytorze przestrzeni. Polecenie jest przechwytywane po stronie klienta i nigdy nie trafia do transkryptu; serwer składa starszą historię w zakotwiczone podsumowanie, a rozmowa toczy się dalej na skompaktowanym kontekście.

Kompakcja jest odrzucana, gdy agent jest w trakcie tury oraz gdy nie ma nic wystarczająco starego do złożenia. Wbudowany harness kompaktuje też samodzielnie, gdy historia zbliża się do okna kontekstu modelu.

Świadomie wybierz poziom wysiłku

Wysiłek rozumowania agenta (Ustawienia → Obszar roboczy → Agenci) oferuje poziomy publikowane przez wybrany model. Wyższe poziomy zużywają więcej tokenów rozumowania. Najwyższe poziomy zachowaj dla pracy, która ich potrzebuje.

Wybierz model dla każdego agenta

Model to pole przypisane do agenta, więc agent formatujący lub zajmujący się segregacją może działać na tanim modelu, a agent architektoniczny na drogim. Odfiltruj tabelę dla poszczególnych agentów w sekcji Obserwowalność → Analizy według modelu, aby zobaczyć, które połączenie naprawdę Cię kosztuje.

Szukaj uruchomień o nietypowo dużej liczbie tokenów

Otwórz dziennik uruchomień w Analizach (50 najnowszych przefiltrowanych uruchomień) i szufladę transkryptu przy wszystkim, co nietypowe. Typowe przyczyny to zbyt długi prompt systemowy lub persona, kontekst, który powinien zostać skompaktowany, oraz zadanie, które powinno być kilkoma mniejszymi.

Co się dzieje, gdy budżet zostanie ustawiony poza zwykłą ścieżką

Dla pełności obrazu: jeśli monthlyBudgetCents lub polityka budżetowa zostanie zapisana bezpośrednio w wierszu agenta:

Budżety są oceniane po zakończeniu uruchomienia, a nie przed wysłaniem. Nasłuchujący na zakończenie uruchomienia porównuje wydatki agenta od początku miesiąca z jego pułapem.
Przekroczenie miękkiego progu (domyślnie 80%) zapisuje incydent ostrzegawczy i emituje zdarzenie BudgetThresholdCrossed, pod które możesz podpiąć wyzwalacz potoku.
Wyczerpanie budżetu zapisuje incydent krytyczny, emituje to samo zdarzenie i przełącza status cyklu życia agenta na paused.
Blokada przed wysłaniem istnieje, ale sięgają do niej wyłącznie reaper osieroconych uruchomień i reconciler porzuconych zgłoszeń przy planowaniu odzyskiwania — zwykłe wysłanie nigdy do niej nie dociera, a nic na ścieżce wysyłania nie sprawdza statusu paused. Jedynym widocznym sygnałem jest odznaka cyklu życia na schemacie organizacyjnym.

Powiązane poradniki

Powiązane koncepcje

Cykl życia wysyłania agentów