דלגו לתוכן

ניהול עלויות

מדריך זה מראה כיצד לראות מה עולות הרצות סוכן וכיצד להגביל הרצה אוטונומית.

כל הרצת סוכן כותבת יומן הרצה הנושא את אסימוני הקלט, אסימוני הפלט, אסימוני החשיבה, אסימוני קריאת מטמון ואסימוני כתיבת מטמון, עלות מוערכת בסנטים ואת העלות של כל סוכני המשנה שהיא הפעילה.

התמחור מגיע מהקטלוג של models.dev, שמשמש רק להעשרת רשימת המודלים במחיר ובחלון הקשר — ולעולם לא כמקור למזהי מודלים. מודל שהקטלוג אינו יכול לתמחר נרשם כ-$0, והרצות בעלות אפס אינן נכללות בסיכום שימוש ועלות. מודל Ollama מקומי לכן אינו מציג הוצאה כלל, אף שספירות האסימונים שלו עדיין נרשמות. תוכנית בתעריף קבוע (kimi-code, מינוי Claude) זהה רק כשבקטלוג אין מחיר למודל ששירת את ההרצה; אם יש, ההרצה מוערכת בכל מקרה לפי התעריפים האלה. בשרשרת גיבוי ההרצה מתומחרת לפי המודל ששירת אותה בפועל, ולא לפי זה שהתבקש.

מגיעים אליו מתחתית סרגל הצד ← ניטור. לשונית שימוש נפתחת ראשונה (סכומי אסימונים מצטברים); עברו לתובנות — הלשונית השנייה — למשטח העלויות המרכזי:

  • בורר טווח זמן: 24 השעות האחרונות, 7 הימים האחרונים, 30 הימים האחרונים או כל הזמן
  • מסננים ממודרים לפי סוכן, מודל, סטטוס ותפקיד, כצ’יפים הניתנים להסרה
  • רצועת KPI: סך ההרצות, העלות הכוללת, שיעור השגיאות, שיעור המטמון, אסימונים לשנייה, השהיה ממוצעת וזמן עד האסימון הראשון, כל אחד עם שינוי לעומת התקופה הקודמת (מוסתר ב“כל הזמן”)
  • תרשימי פעילות ועלות, ובנוסף פירוט עלות לפי תפקיד המחלק את ההוצאה בין הסוכן הראשי, סוכני המשנה שלו והיועץ שלו
  • טבלה לפי סוכן הממוינת לפי עלות, עשרת המובילים עם מתג הצגת הכול. הקשה על שורה מסננת כל משטח אחר לאותו סוכן
  • יומן ההרצות המפורט, שמעגן מגירת תמלול עבור הרצה נבחרת

הגדרות ← שרת ← ספקי מודלים

קטע בשם “הגדרות ← שרת ← ספקי מודלים”

כרטיס שימוש ועלות בעמוד הזה מציג את ההוצאה שנצפתה בשבעת הימים האחרונים כסכום דולרי בודד, עם פירוט לפי ספק, וכשספק מפרסם אחד כזה, את הזמן עד איפוס חלון המכסה הבא.

הגדרות ← סביבת עבודה ← סוכנים ← בחרו סוכן ← יומנים מציג את ההרצות שלו עם סטטוס, משך, זמני התחלה וסיום, PID ומתאם. הלשונית הזו אינה מציגה עלות — השתמשו בטבלה לפי סוכן בניטור ← תובנות לשם כך.

שתי פקודות קו נטוי, שנכתבות בתיבת הכתיבה של מרחב, הן ההרצות היחידות עם תקרת הוצאה:

/goal ship the auth refactor --budget 20
/loop keep the flaky tests green
  • כל מקטע של הרצת /goal או /loop נעצר כשההוצאה המתומחרת שלו מגיעה ל-500 סנטים ($5.00). ב-80% מזה, הלולאה מנווטת תחילה את המודל לסגור את העבודה ולהשאיר מסירה נקייה, כדי שלא ימות באמצע המשימה.
  • יעד עמיד שלם מוגבל בתקרה של 5000 סנטים ($50.00) אלא אם תעבירו --budget <dollars>. מפקח היעד מזרים את התקציב הנותר של היעד לכל מקטע, כך שתקציב מפורש לעולם אינו נחצה במקטע שלם.
  • --days N מוסיף מועד אחרון בזמן שעון ו---max N תקרת מספר הרצות. שניהם אופציונליים; בלעדיהם היעד תחום רק לפי עלות.
  • יעד שמגיע לקיר שלו נעצר ב-budgetExhausted ויכול להתחדש רק על ידי העלאת התקציב.

מכיוון שהתקרה מתומחרת, מודל שהקטלוג אינו יכול לתמחר לעולם לא מגיע אליה. הרצה כזו תחומה במקום זאת על ידי מעקה לולאת האבדון, ויתור מפקח היעד אחרי שלושה כשלים רצופים ואתם.

להודעה במרחב, לאזכור ב-@ או לשלב פייפליין אין תקרת הוצאה. ההרצה מסתיימת כשהמודל עוצר, כשאתם עוצרים אותה, או כשמעקה לולאת האבדון מנווט אותה.

צמצום השימוש באסימונים

קטע בשם “צמצום השימוש באסימונים”

הקלידו /compact בתיבת הכתיבה של המרחב. הפקודה נלכדת בצד הלקוח ולעולם אינה נוחתת בתמלול; השרת מקפל היסטוריה ישנה לסיכום מעוגן והשיחה ממשיכה על ההקשר הדחוס.

הדחיסה נדחית כשסוכן נמצא באמצע תור וכשאין דבר ישן מספיק כדי לקפל. מנגנון ההרצה המובנה גם מדחס מעצמו כשההיסטוריה מתקרבת לחלון ההקשר של המודל.

בחירת רמת המאמץ במכוון

קטע בשם “בחירת רמת המאמץ במכוון”

מאמץ חשיבה של סוכן (הגדרות ← סביבת עבודה ← סוכנים) מציע את הרמות שהמודל הנבחר מפרסם. רמות גבוהות יותר מוציאות יותר אסימוני חשיבה. שמרו את הרמות העליונות לעבודה שזקוקה להן.

המודל הוא שדה לפי סוכן, כך שסוכן עיצוב או טריאז’ יכול לרוץ על מודל זול בעוד שסוכן ארכיטקטורה רץ על אחד יקר. סננו את הטבלה לפי סוכן בניטור ← תובנות לפי מודל כדי לראות איזה צימוד באמת עולה לכם.

חיפוש הרצות עם ספירות אסימונים חריגות

קטע בשם “חיפוש הרצות עם ספירות אסימונים חריגות”

פתחו את יומן ההרצות בתובנות (50 ההרצות המסוננות החדשות ביותר) ואת מגירת התמלול על כל דבר חריג. הסיבות הנפוצות הן הנחיית מערכת או פרסונה ארוכות מדי, הקשר שהיה צריך להיות מדוחס ומשימה שהייתה צריכה להיות כמה משימות קטנות יותר.

מה קורה כשתקציב מוגדר מחוץ למסלול

קטע בשם “מה קורה כשתקציב מוגדר מחוץ למסלול”

לשם שלמות, אם monthlyBudgetCents או מדיניות תקציב נכתבים ישירות לשורת סוכן:

  • התקציבים מוערכים אחרי שההרצה מסתיימת, ולא לפני השליחה. מאזין לסיום הרצה משווה את הוצאתו של הסוכן מתחילת החודש לתקרה שלו.
  • חציית הסף הרך (80% כברירת מחדל) רושמת תקרית אזהרה ומפעילה אירוע BudgetThresholdCrossed שאפשר לתלות עליו טריגר פייפליין.
  • מיצוי התקציב רושם תקרית קשה, מפעיל את אותו אירוע ומחליף את סטטוס מחזור החיים של הסוכן ל-paused.
  • החסימה שלפני השליחה קיימת, אבל נבדקת רק על ידי מנקה ההרצות היתומות ומיישר הכרטיסים התקועים כשהם מתזמנים התאוששות — שליחה רגילה לעולם אינה מגיעה אליה, ושום דבר במסלול השליחה אינו בודק את סטטוס המושהה. האות הנראה היחיד הוא תג מחזור החיים בתרשים הארגון.