Όρος Γλωσσάρι AI

Τι είναι Χρέωση βάσει χρήσης?

Ορισμός

Τιμολόγηση όπου το κόστος κλιμακώνεται με κλήσεις API, διακριτικά, χρόνο συμπερασμάτων ή υπολογισμό που καταναλώνεται.

Σχετικοί όροι

Υπολογισμός Συμπερασματικού Χρόνου
Η ποσότητα της επεξεργαστικής ισχύος που καταναλώνεται κατά την παραγωγή κάθε απόκρισης.
Υπολογισμός δοκιμής-χρόνου
Πρόσθετος υπολογισμός συμπερασμάτων που χρησιμοποιείται κατά τη δημιουργία απόκρισης για τη βελτίωση της ποιότητας ή του συλλογισμού.
κερδοσκοπική αποκωδικοποίηση
Μια μέθοδος επιτάχυνσης συμπερασμάτων όπου ένα μικρό πρόχειρο μοντέλο προτείνει διακριτικά που ένα μεγαλύτερο μοντέλο επαληθεύει παράλληλα.
Συρόμενο παράθυρο Προσοχή
Ένα μοτίβο προσοχής όπου κάθε διακριτικό παρακολουθεί μόνο ένα παράθυρο σταθερού μεγέθους κοντινών κουπονιών για μείωση του υπολογισμού.
Συμπέρασμα
Η φάση χρόνου εκτέλεσης όπου ένα εκπαιδευμένο μοντέλο δημιουργεί προβλέψεις ή εξόδους.
RAG (Retrieval-Augmented Generation)
Μια μέθοδος που ανακτά την εξωτερική γνώση και την τροφοδοτεί σε παραγωγή κατά το χρόνο συμπερασμάτων.

Μάθετε περισσότερα στους δωρεάν οδηγούς μας

Δείτε επίσης