Διαχείριση κόστους

Αυτός ο οδηγός δείχνει πώς να δείτε τι κοστίζουν οι εκτελέσεις πρακτόρων και πώς να περιορίσετε μια αυτόνομη εκτέλεση.

Πώς καταγράφεται το κόστος

Κάθε εκτέλεση πράκτορα γράφει ένα αρχείο καταγραφής εκτέλεσης που φέρει τα token εισόδου, τα token εξόδου, τα token συλλογισμού, τα token ανάγνωσης από cache και εγγραφής σε cache, ένα εκτιμώμενο κόστος σε σεντς και το κόστος κάθε υποπράκτορα που εκκίνησε.

Οι τιμές προέρχονται από τον κατάλογο models.dev, ο οποίος χρησιμοποιείται μόνο για να εμπλουτίσει τη λίστα μοντέλων με τιμή και παράθυρο πλαισίου — ποτέ ως πηγή αναγνωριστικών μοντέλων. Ένα μοντέλο που ο κατάλογος δεν μπορεί να τιμολογήσει καταγράφει 0 $ και οι εκτελέσεις μηδενικού κόστους εξαιρούνται από τη σύνοψη Χρήση και κόστος. Ένα τοπικό μοντέλο Ollama επομένως δεν εμφανίζει καθόλου δαπάνη, αν και τα πλήθη token του καταγράφονται ακόμη. Ένα πρόγραμμα σταθερής χρέωσης (kimi-code, μια συνδρομή Claude) είναι το ίδιο μόνο όταν ο κατάλογος δεν έχει τιμή για το μοντέλο που εξυπηρέτησε· αν έχει, η εκτέλεση εκτιμάται ούτως ή άλλως με αυτές τις τιμές. Σε αλυσίδα εφεδρικών, η εκτέλεση τιμολογείται με βάση το μοντέλο που την εξυπηρέτησε πραγματικά, όχι αυτό που ζητήθηκε.

Δείτε τι ξοδεύετε

Παρατηρησιμότητα → Στοιχεία

Φτάστε εκεί από το υποσέλιδο της πλαϊνής στήλης → Παρατηρησιμότητα. Η καρτέλα Χρήση ανοίγει πρώτη (συνολικά token από την αρχή)· μεταβείτε στα Στοιχεία — τη δεύτερη καρτέλα — για την κύρια επιφάνεια κόστους:

Έναν επιλογέα χρονικού εύρους: τελευταίες 24 ώρες, τελευταίες 7 ημέρες, τελευταίες 30 ημέρες ή όλο τον χρόνο
Φίλτρα με όψεις για πράκτορα, μοντέλο, κατάσταση και ρόλο, ως απορρίψιμα πλακίδια
Μια λωρίδα KPI: συνολικές εκτελέσεις, συνολικό κόστος, ποσοστό σφαλμάτων, ποσοστό cache, token ανά δευτερόλεπτο, μέση καθυστέρηση και χρόνος έως το πρώτο token, καθένα με μεταβολή έναντι της προηγούμενης περιόδου (κρύβεται στο «Όλος ο χρόνος»)
Γραφήματα δραστηριότητας και κόστους, καθώς και ανάλυση κόστους ανά ρόλο που μοιράζει τη δαπάνη στον κύριο πράκτορα, τους υποπράκτορές του και τον σύμβουλό του
Πίνακα ανά πράκτορα ταξινομημένο κατά κόστος, με τους δέκα κορυφαίους και διακόπτη εμφάνισης όλων. Το πάτημα μιας γραμμής φιλτράρει κάθε άλλη επιφάνεια σε αυτόν τον πράκτορα
Το λεπτομερές αρχείο καταγραφής εκτελέσεων, που ανοίγει συρτάρι μεταγραφής για μια επιλεγμένη εκτέλεση

Ρυθμίσεις → Διακομιστής → Πάροχοι μοντέλων

Η κάρτα Χρήση και κόστος σε αυτή τη σελίδα δείχνει τη δαπάνη των τελευταίων επτά ημερών όπως παρατηρήθηκε, ως ένα μοναδικό ποσό σε δολάρια, με ανάλυση ανά πάροχο και, όταν ένας πάροχος δημοσιεύει σχετική ένδειξη, τον χρόνο έως την επαναφορά του επόμενου παραθύρου ποσόστωσης.

Οι εκτελέσεις ενός μόνο πράκτορα

Ρυθμίσεις → Χώρος εργασίας → Πράκτορες → επιλέξτε έναν πράκτορα → τα Αρχεία καταγραφής παραθέτουν τις εκτελέσεις του με κατάσταση, διάρκεια, ώρες έναρξης και ολοκλήρωσης, PID και προσαρμογέα. Αυτή η καρτέλα δεν δείχνει κόστος — γι’ αυτό χρησιμοποιήστε τον πίνακα ανά πράκτορα στην Παρατηρησιμότητα → Στοιχεία.

Περιορίστε μια αυτόνομη εκτέλεση

Δύο εντολές κάθετου, που πληκτρολογούνται στο πεδίο σύνταξης ενός χώρου, είναι οι μόνες εκτελέσεις με όριο δαπάνης:

/goal ship the auth refactor --budget 20
/loop keep the flaky tests green

Κάθε τμήμα μιας εκτέλεσης /goal ή /loop σταματά όταν η τιμολογημένη δαπάνη του φτάσει τα 500 σεντς (5,00 $). Στο 80% αυτού, ο βρόχος κατευθύνει πρώτα το μοντέλο να ολοκληρώσει και να αφήσει μια καθαρή παράδοση, ώστε να μη σκοτωθεί στη μέση της εργασίας.
Ένας ολόκληρος ανθεκτικός στόχος οριοθετείται στα 5.000 σεντς (50,00 $) εκτός αν περάσετε --budget <dollars>. Ο επόπτης περνά τον εναπομείναντα προϋπολογισμό του στόχου σε κάθε τμήμα, ώστε ένας ρητός προϋπολογισμός να μην ξεπερνιέται ποτέ κατά ένα ολόκληρο τμήμα.
Το --days N προσθέτει προθεσμία πραγματικού χρόνου και το --max N ανώτατο όριο αριθμού εκτελέσεων. Και τα δύο είναι προαιρετικά· χωρίς αυτά, ο στόχος οριοθετείται μόνο από το κόστος.
Ένας στόχος που χτυπά το όριό του σταματά στο budgetExhausted και μπορεί να συνεχιστεί μόνο αυξάνοντας τον προϋπολογισμό.

Επειδή το όριο είναι τιμολογημένο, ένα μοντέλο που ο κατάλογος δεν μπορεί να τιμολογήσει δεν το φτάνει ποτέ. Μια τέτοια εκτέλεση οριοθετείται αντ’ αυτού από τον φρουρό επαναλήψεων του μοιραίου βρόχου, την εγκατάλειψη του επόπτη μετά από τρεις συνεχόμενες αποτυχίες και εσάς.

Ένα μήνυμα σε έναν χώρο, μια αναφορά @ ή ένα βήμα pipeline δεν έχουν όριο δαπάνης. Η εκτέλεση τελειώνει όταν σταματήσει το μοντέλο, όταν τη σταματήσετε εσείς ή όταν την κατευθύνει ο φρουρός του μοιραίου βρόχου.

Μειώστε τη χρήση token

Συμπυκνώστε μια μεγάλη συνομιλία

Πληκτρολογήστε /compact στο πεδίο σύνταξης του χώρου. Η εντολή αναχαιτίζεται στην πλευρά του πελάτη και δεν φτάνει ποτέ στη μεταγραφή· ο διακομιστής διπλώνει το παλαιότερο ιστορικό σε μια αγκυρωμένη σύνοψη και η συνομιλία συνεχίζεται στο συμπυκνωμένο πλαίσιο.

Η συμπύκνωση απορρίπτεται όταν ένας πράκτορας βρίσκεται στη μέση μιας στροφής και όταν δεν υπάρχει τίποτα αρκετά παλιό για δίπλωμα. Ο ενσωματωμένος μηχανισμός συμπυκνώνει επίσης μόνος του καθώς το ιστορικό πλησιάζει το παράθυρο πλαισίου του μοντέλου.

Διαλέξτε σκόπιμα το επίπεδο προσπάθειας

Η Προσπάθεια συλλογισμού ενός πράκτορα (Ρυθμίσεις → Χώρος εργασίας → Πράκτορες) προσφέρει όποια επίπεδα δημοσιεύει το επιλεγμένο μοντέλο. Τα υψηλότερα επίπεδα ξοδεύουν περισσότερα token συλλογισμού. Κρατήστε τα κορυφαία επίπεδα για εργασία που τα χρειάζεται.

Διαλέξτε το μοντέλο ανά πράκτορα

Το μοντέλο είναι πεδίο ανά πράκτορα, οπότε ένας πράκτορας μορφοποίησης ή διαλογής μπορεί να εκτελείται σε φθηνό μοντέλο ενώ ένας πράκτορας αρχιτεκτονικής σε ακριβό. Φιλτράρετε τον πίνακα ανά πράκτορα στην Παρατηρησιμότητα → Στοιχεία κατά μοντέλο για να δείτε ποιος συνδυασμός σας κοστίζει πραγματικά.

Αναζητήστε εκτελέσεις με δυσανάλογα πλήθη token

Ανοίξτε το αρχείο καταγραφής εκτελέσεων των Στοιχείων (τις 50 νεότερες φιλτραρισμένες εκτελέσεις) και το συρτάρι μεταγραφής σε κάθε ασυνήθιστο στοιχείο. Οι συνήθεις αιτίες είναι μια υπερβολικά μακριά προτροπή συστήματος ή περσόνα, πλαίσιο που θα έπρεπε να έχει συμπυκνωθεί και μια εργασία που θα έπρεπε να ήταν αρκετές μικρότερες.

Τι συμβαίνει όταν ένας προϋπολογισμός ορίζεται εκτός ζώνης

Για πληρότητα, αν το monthlyBudgetCents ή μια πολιτική προϋπολογισμού εγγραφεί απευθείας σε μια γραμμή πράκτορα:

Οι προϋπολογισμοί αξιολογούνται αφού ολοκληρωθεί μια εκτέλεση, όχι πριν από την αποστολή. Ένας ακροατής στην ολοκλήρωση εκτέλεσης συγκρίνει τη δαπάνη του πράκτορα από την αρχή του μήνα με το ανώτατό του όριο.
Η υπέρβαση του ήπιου κατωφλίου (80% από προεπιλογή) καταγράφει ένα περιστατικό προειδοποίησης και εκπέμπει ένα συμβάν BudgetThresholdCrossed στο οποίο μπορείτε να κρεμάσετε έναν ενεργοποιητή pipeline.
Η εξάντληση του προϋπολογισμού καταγράφει ένα σκληρό περιστατικό, εκπέμπει το ίδιο συμβάν και αναστρέφει την κατάσταση κύκλου ζωής του πράκτορα σε paused.
Ο αποκλεισμός πριν από την αποστολή υπάρχει, αλλά τον συμβουλεύονται μόνο ο καθαριστής ορφανών εκτελέσεων και ο συμφιλιωτής εγκαταλελειμμένων εισιτηρίων κατά τον προγραμματισμό ανάκαμψης — μια κανονική αποστολή δεν τον φτάνει ποτέ και τίποτα στη διαδρομή αποστολής δεν ελέγχει την κατάσταση παύσης. Το μόνο ορατό σήμα είναι το σήμα κύκλου ζωής στο οργανόγραμμα.

Σχετικοί οδηγοί

Σχετικές έννοιες

Κύκλος ζωής αποστολής πράκτορα