จัดการต้นทุน

คู่มือนี้แสดงวิธีดูว่าการรันเอเจนต์มีต้นทุนเท่าใด และวิธีจำกัดงบของการรันอัตโนมัติ

ต้นทุนถูกบันทึกอย่างไร

การรันเอเจนต์ทุกครั้งจะเขียนบันทึกการรันที่พกโทเค็นอินพุต โทเค็นเอาต์พุต โทเค็นการคิด โทเค็นการอ่านจากแคชและเขียนลงแคช ค่าใช้จ่ายโดยประมาณเป็นเซนต์ และค่าใช้จ่ายของเอเจนต์ย่อยใด ๆ ที่มันสร้างขึ้น

ราคามาจากแค็ตตาล็อก models.dev ซึ่งใช้เพียงเพื่อเติมข้อมูลราคาและหน้าต่างบริบทให้รายการโมเดล — ไม่เคยใช้เป็นแหล่งของ id โมเดล โมเดลที่แค็ตตาล็อกราคาไม่ได้จะบันทึกเป็น $0 และการรันที่ไม่มีค่าใช้จ่ายจะถูกตัดออกจากสรุป การใช้งานและค่าใช้จ่าย โมเดล Ollama ในเครื่องจึงไม่แสดงการใช้จ่ายเลย แม้จำนวนโทเค็นของมันยังถูกบันทึกไว้ แผนราคาเหมาจ่าย (kimi-code, การสมัครใช้ Claude) จะเป็นเช่นนั้นเฉพาะเมื่อแค็ตตาล็อกไม่มีราคาของโมเดลที่ให้บริการอยู่ หากมี การรันก็ยังถูกประเมินด้วยอัตราเหล่านั้นอยู่ดี ภายใต้ห่วงโซ่สำรอง การรันจะถูกคิดราคาตามโมเดลที่ให้บริการจริง ไม่ใช่โมเดลที่ร้องขอ

ดูว่าคุณใช้จ่ายไปกับอะไร

การสังเกตการณ์ → ข้อมูลเชิงลึก

เข้าถึงได้จากส่วนท้ายของแถบข้าง → การสังเกตการณ์ แท็บ การใช้งาน จะเปิดขึ้นก่อน (ยอดโทเค็นสะสมทั้งหมด) สลับไปที่ ข้อมูลเชิงลึก — แท็บที่สอง — เพื่อดูพื้นผิวหลักของค่าใช้จ่าย:

• ตัวเลือกช่วงเวลา: 24 ชั่วโมงที่แล้ว, 7 วันที่แล้ว, 30 วันที่แล้ว หรือทั้งหมด
• ตัวกรองแบบหลายมิติตามเอเจนต์ โมเดล สถานะ และบทบาท ในรูปแบบชิปที่ปิดทิ้งได้
• แถบ KPI: รันทั้งหมด ค่าใช้จ่ายทั้งหมด อัตราข้อผิดพลาด อัตราแคช โทเค็นต่อวินาที ความหน่วงเฉลี่ย และเวลาถึงโทเค็นแรก โดยแต่ละค่ามีการเปลี่ยนแปลงเทียบกับช่วงก่อนหน้า (ซ่อนเมื่อเลือก “ทั้งหมด”)
• แผนภูมิกิจกรรมและค่าใช้จ่าย พร้อมรายละเอียด ค่าใช้จ่ายตามบทบาท ที่แยกการใช้จ่ายระหว่างเอเจนต์หลัก เอเจนต์ย่อยของมัน และที่ปรึกษาของมัน
• ตารางรายเอเจนต์ที่เรียงตามค่าใช้จ่าย สิบอันดับแรกพร้อมตัวสลับแสดงทั้งหมด การแตะที่แถวหนึ่งจะกรองพื้นผิวอื่นทั้งหมดให้เหลือเอเจนต์นั้น
• บันทึกการรันแบบละเอียด ซึ่งเปิดลิ้นชักทรานสคริปต์สำหรับการรันที่เลือก

“ทั้งหมด” ไม่ใช่ทั้งหมด

ฟีดการรันสมัครรับบันทึกการรันใหม่สุด 2000 รายการจากทุกเวิร์กสเปซ แล้วจึงกรองเหลือเวิร์กสเปซที่ใช้งานอยู่ บนเซิร์ฟเวอร์ที่มีหลายเวิร์กสเปซและมีงานหนาแน่น ประวัติที่เก่ากว่าของเวิร์กสเปซที่ไม่ค่อยมีงานจะหลุดออกจากหน้าต่างนั้น

การตั้งค่า → เซิร์ฟเวอร์ → ผู้ให้บริการโมเดล

การ์ด การใช้งานและค่าใช้จ่าย บนหน้านี้แสดงการใช้จ่ายที่สังเกตได้ในเจ็ดวันล่าสุดเป็นตัวเลขดอลลาร์ตัวเดียว พร้อมรายละเอียดรายผู้ให้บริการ และเมื่อผู้ให้บริการเผยแพร่ข้อมูลดังกล่าว เวลาจนถึงการรีเซ็ตหน้าต่างโควตาถัดไป

การรันของเอเจนต์ตัวเดียว

การตั้งค่า → เวิร์กสเปซ → เอเจนต์ → เลือกเอเจนต์ → บันทึก จะแสดงรายการการรันของมันพร้อมสถานะ ระยะเวลา เวลาเริ่มและเวลาเสร็จสิ้น PID และอะแดปเตอร์ แท็บนี้ ไม่ แสดงค่าใช้จ่าย — ให้ใช้ตารางรายเอเจนต์ใน การสังเกตการณ์ → ข้อมูลเชิงลึก แทน

จำกัดงบของการรันอัตโนมัติ

คำสั่งสแลชสองคำสั่งที่พิมพ์ในช่องเขียนข้อความของสเปซเป็นเพียงการรันเดียวที่มีเพดานการใช้จ่าย:

/goal ship the auth refactor --budget 20
/loop keep the flaky tests green

• แต่ละช่วงของการรัน /goal หรือ /loop จะหยุดเมื่อการใช้จ่ายที่คิดราคาแล้วถึง 500 เซนต์ ($5.00) ที่ 80% ของจำนวนนั้น ลูปจะบังคับทิศทางให้โมเดลสรุปงานและส่งต่ออย่างเรียบร้อยก่อน เพื่อไม่ให้มันตายกลางงาน
• เป้าหมายแบบคงทนทั้งอันมีเพดานที่ 5000 เซนต์ ($50.00) เว้นแต่คุณส่ง --budget <dollars> ตัวควบคุมจะร้อยงบประมาณที่ เหลืออยู่ ของเป้าหมายเข้าไปในแต่ละช่วง งบประมาณที่ระบุไว้อย่างชัดเจนจึงไม่มีทางถูกใช้เกินไปทั้งช่วง
• --days N เพิ่มกำหนดเส้นตายตามนาฬิกาจริง และ --max N เพิ่มเพดานจำนวนรัน ทั้งคู่ต้องเลือกเปิดใช้เอง หากไม่ระบุ เป้าหมายจะถูกจำกัดด้วยค่าใช้จ่ายเท่านั้น
• เป้าหมายที่ชนเพดานของตัวเองจะหยุดที่ budgetExhausted และกลับมาทำต่อได้โดยการเพิ่มงบประมาณเท่านั้น

เนื่องจากเพดานนี้คิดจากราคา โมเดลที่แค็ตตาล็อกราคาไม่ได้จึงไปไม่ถึงเพดานเลย การรันเช่นนั้นจะถูกจำกัดด้วยตัวป้องกันการวนซ้ำซาก การที่ตัวควบคุมยอมแพ้หลังล้มเหลวติดต่อกันสามครั้ง และตัวคุณเองแทน

ข้อความในสเปซ การ @-mention หรือขั้นตอนไปป์ไลน์ไม่มีเพดานการใช้จ่าย การรันจะจบลงเมื่อโมเดลหยุด เมื่อคุณสั่งให้หยุด หรือเมื่อตัวป้องกันการวนซ้ำซากบังคับทิศทางมัน

ลดการใช้โทเค็น

ย่อบทสนทนายาว

พิมพ์ /compact ในช่องเขียนข้อความของสเปซ คำสั่งนี้ถูกดักจับฝั่งไคลเอนต์และไม่เคยไปอยู่ในทรานสคริปต์ เซิร์ฟเวอร์จะพับประวัติที่เก่ากว่าไว้เป็นสรุปที่ปักหมุดไว้ และบทสนทนาจะดำเนินต่อไปบนบริบทที่ย่อแล้ว

การย่อจะถูกปฏิเสธขณะเอเจนต์อยู่กลางเทิร์น และเมื่อไม่มีอะไรเก่าพอให้พับ ฮาร์เนสในตัวยังย่อเองด้วยเมื่อประวัติเข้าใกล้หน้าต่างบริบทของโมเดล

เลือกระดับความพยายามอย่างตั้งใจ

ความพยายามในการคิด ของเอเจนต์ (การตั้งค่า → เวิร์กสเปซ → เอเจนต์) เสนอระดับต่าง ๆ เท่าที่โมเดลที่เลือกประกาศไว้ ระดับที่สูงขึ้นใช้โทเค็นการคิดมากขึ้น สงวนระดับสูงสุดไว้สำหรับงานที่ต้องใช้มันจริง ๆ

เลือกโมเดลต่อเอเจนต์

โมเดลเป็นฟิลด์รายเอเจนต์ เอเจนต์จัดรูปแบบหรือเอเจนต์คัดแยกจึงรันบนโมเดลราคาถูกได้ ขณะที่เอเจนต์สถาปัตยกรรมรันบนโมเดลราคาแพง กรองตารางรายเอเจนต์ใน การสังเกตการณ์ → ข้อมูลเชิงลึก ตามโมเดล เพื่อดูว่าการจับคู่ใดกำลังทำให้คุณเสียค่าใช้จ่ายจริง ๆ

มองหาการรันที่มีจำนวนโทเค็นสูงผิดปกติ

เปิดบันทึกการรันใน ข้อมูลเชิงลึก (50 การรันที่ผ่านการกรองล่าสุด) และเปิดลิ้นชักทรานสคริปต์บนรายการที่ผิดปกติ สาเหตุที่พบบ่อยคือพรอมต์ระบบหรือเพอร์โซนาที่ยาวเกินไป บริบทที่ควรถูกย่อไปแล้ว และงานที่ควรถูกแบ่งเป็นงานย่อยหลายงาน

เกิดอะไรขึ้นเมื่อตั้งงบประมาณนอกช่องทางปกติ

เพื่อความครบถ้วน หากมีการเขียน monthlyBudgetCents หรือนโยบายงบประมาณลงในแถวของเอเจนต์โดยตรง:

• งบประมาณจะถูกประเมิน หลัง การรันเสร็จสิ้น ไม่ใช่ก่อนการสั่งงาน ตัวรับฟังเหตุการณ์เมื่อการรันเสร็จสิ้นจะเทียบการใช้จ่ายตั้งแต่ต้นเดือนถึงปัจจุบันของเอเจนต์กับเพดานของมัน
• การข้ามเกณฑ์อ่อน (ค่าเริ่มต้น 80%) จะบันทึกอุบัติการณ์ระดับคำเตือน และยิงเหตุการณ์ BudgetThresholdCrossed ที่คุณใช้ผูกทริกเกอร์ไปป์ไลน์ได้
• การใช้งบประมาณจนหมดจะบันทึกอุบัติการณ์ระดับรุนแรง ยิงเหตุการณ์เดียวกัน และพลิกสถานะวงจรชีวิตของเอเจนต์เป็น paused
• ตัวบล็อกก่อนการสั่งงานมีอยู่จริง แต่มีเพียงตัวเก็บกวาดการรันกำพร้าและตัวกระทบยอดตั๋วงานที่ค้างอยู่เท่านั้นที่ปรึกษามันเมื่อจัดตารางการกู้คืน — การสั่งงานปกติไปไม่ถึงตัวบล็อกนั้น และไม่มีอะไรในเส้นทางการสั่งงานที่ตรวจสอบสถานะ paused สัญญาณเดียวที่มองเห็นได้คือป้ายวงจรชีวิตในผังองค์กร

คู่มือที่เกี่ยวข้อง

• สร้างและกำหนดค่าเอเจนต์
• จัดการอะแดปเตอร์และโมเดล
• วินิจฉัยเอเจนต์
• ข้อมูลอ้างอิงการตั้งค่าเอเจนต์

แนวคิดที่เกี่ยวข้อง

• วงจรชีวิตการสั่งงานเอเจนต์