Spravujte náklady

Tenhle návod ukazuje, jak zjistit, kolik stojí běhy agentů, a jak autonomní běh zastropovat.

Jak se náklady zaznamenávají

Každý běh agenta zapíše záznam běhu se vstupními tokeny, výstupními tokeny, tokeny uvažování, tokeny čtení z cache a tokeny zápisu do cache, odhadovanou cenou v centech a cenou podagentů, které spustil.

Ceny bere z katalogu models.dev, který slouží jen k obohacení seznamu modelů o cenu a kontextové okno — nikdy jako zdroj id modelů. Model, který katalog neocení, zapíše $0 a běhy s nulovou cenou se ze souhrnu Využití a náklady vyřadí. Lokální model Ollama proto neukáže žádnou útratu, počty tokenů se ale pořád zaznamenají. Paušální tarif (kimi-code, předplatné Claude) se chová stejně jen tehdy, když katalog pro obsloužený model cenu nemá; když ji má, běh se přesto odhadne podle těch sazeb. Při řetězci záloh se běh ocení podle modelu, který ho skutečně obsloužil, ne podle toho, o který jsi požádal.

Kolik utrácíš

Observabilita → Přehledy

Dostaneš se tam ze zápatí postranního panelu → Observabilita. Nejdřív se otevře záložka Využití (celkové součty tokenů); na hlavní plochu nákladů přepni na Přehledy, druhou záložku:

Výběr období: Posledních 24 hodin, Posledních 7 dní, Posledních 30 dní nebo Celá doba
Fasetové filtry podle agenta, modelu, stavu a role, jako zavíratelné čipy
Pás KPI: celkem běhů, celkové náklady, míra chyb, míra cache, tokeny za sekundu, průměrná latence a čas k prvnímu tokenu, každý se změnou proti předchozímu období (na „Celá doba“ se skrývá)
Grafy aktivity a nákladů a rozpis Náklady podle role, který dělí útratu mezi hlavního agenta, jeho podagenty a poradce
Tabulka podle agentů seřazená podle nákladů, prvních deset a přepínač pro zobrazení všech. Klepnutí na řádek přefiltruje všechny ostatní plochy na toho agenta
Podrobný záznam běhů, který u vybraného běhu připne zásuvku s přepisem

Nastavení → Server → Poskytovatelé modelů

Karta Využití a náklady na téhle stránce ukáže posledních sedm dní pozorované útraty jako jedno číslo v dolarech, s rozpisem podle poskytovatele a, když poskytovatel čas obnovení zveřejňuje, i s dobou do dalšího okna kvóty.

Běhy jednoho agenta

Nastavení → Pracovní prostor → Agenti → vyber agenta → Protokoly vypíše jeho běhy se stavem, dobou trvání, časy začátku a dokončení, PID a adaptérem. Tahle záložka náklady neukazuje — na to slouží tabulka podle agentů v Observabilita → Přehledy.

Zastropuj autonomní běh

Jediné běhy se stropem nákladů jsou dva příkazy s lomítkem, které napíšeš do composeru prostoru:

/goal ship the auth refactor --budget 20
/loop keep the flaky tests green

Každý segment běhu /goal nebo /loop se zastaví, když oceněná útrata dosáhne 500 centů ($5.00). Při 80 % z toho smyčka nejdřív nasměruje model, ať práci uzavře a nechá čisté předání, aby neskončila uprostřed úkolu.
Celý trvalý cíl má strop 5000 centů ($50.00), pokud nepředáš --budget <dollars>. Supervisor do každého segmentu předá zbývající rozpočet cíle, takže výslovný rozpočet celý segment nikdy nepřestřelí.
--days N přidá lhůtu v reálném čase a --max N strop počtu běhů. Obojí je volitelné; bez nich cíl ohraničují jen náklady.
Cíl, který narazí na strop, skončí stavem budgetExhausted a obnovit ho jde jen zvýšením rozpočtu.

Protože se strop počítá z ceny, model, který katalog neocení, na něj nikdy nedosáhne. Takový běh místo toho ohraničuje ochrana před zacyklením, to, že se supervisor po třech selháních za sebou vzdá, a ty.

Zpráva v prostoru, zmínka přes @ ani krok pipeline strop nákladů nemají. Běh skončí, když se model zastaví, když ho zastavíš, nebo když ho ochrana před zacyklením nasměruje.

Omez spotřebu tokenů

Zkompaktuj dlouhou konverzaci

Napiš /compact do composeru prostoru. Příkaz zachytí klient a do přepisu se nikdy nedostane; server složí starší historii do ukotveného souhrnu a konverzace pokračuje na zkompaktovaném kontextu.

Kompakce se odmítne, když je agent uprostřed tahu a když není nic dost starého na složení. Vestavěný harness kompakci spouští i sám, jak se historie blíží kontextovému oknu modelu.

Úroveň úsilí vol záměrně

Úsilí uvažování agenta (Nastavení → Pracovní prostor → Agenti) nabízí ty úrovně, které vybraný model publikuje. Vyšší úrovně spotřebují víc tokenů uvažování. Nejvyšší si nech pro práci, která je potřebuje.

Model vol pro každého agenta

Model je pole každého agenta, takže agent na formátování nebo třídění může běžet na levném modelu a agent na architekturu na drahém. V tabulce podle agentů v Observabilita → Přehledy filtruj podle modelu a uvidíš, která dvojice tě opravdu stojí.

Hledej běhy s neúměrnými počty tokenů

Otevři záznam běhů v Přehledech (50 nejnovějších filtrovaných běhů) a zásuvku s přepisem u čehokoli neobvyklého. Obvyklé příčiny jsou příliš dlouhý systémový prompt nebo persona, kontext, který se měl zkompaktovat, a úkol, který měl být několik menších.

Co se stane, když se rozpočet nastaví mimo běžnou cestu

Pro úplnost: když se monthlyBudgetCents nebo politika rozpočtu zapíše přímo do řádku agenta:

Rozpočty se vyhodnocují až po dokončení běhu, ne před odesláním. Posluchač dokončení běhu porovná útratu agenta od začátku měsíce s jeho stropem.
Překročení měkkého prahu (výchozí je 80 %) zapíše varovný incident a publikuje událost BudgetThresholdCrossed, na kterou můžeš pověsit spouštěč pipeline.
Vyčerpání rozpočtu zapíše tvrdý incident, publikuje stejnou událost a přepne stav životního cyklu agenta na paused.
Blok před odesláním existuje, ale při plánování obnovy na něj sahá jen reaper osiřelých běhů a reconciler uvízlých ticketů — běžné odeslání k němu nikdy nedojde a nic na cestě odeslání stav paused nekontroluje. Jediný viditelný signál je odznak životního cyklu v organizačním schématu.

Související návody

Související koncepty

Životní cyklus odeslání agenta