What is Inference? Definition | AI Understanding

Ορισμός

Η φάση χρόνου εκτέλεσης όπου ένα εκπαιδευμένο μοντέλο δημιουργεί προβλέψεις ή εξόδους.

Σχετικοί όροι

Τελικό σημείο συμπερασμάτων

Μια αναπτυγμένη διεπαφή API που λαμβάνει αιτήματα μοντέλων και επιστρέφει προβλέψεις στην παραγωγή.

Human-in-the-Loop

Μια ροή εργασίας όπου οι άνθρωποι εξετάζουν, καθοδηγούν ή παρακάμπτουν τις εξόδους AI.

Συνταγματική ΑΙ

Μια προσέγγιση εκπαίδευσης και διαμόρφωσης συμπεριφοράς όπου τα αποτελέσματα του μοντέλου καθοδηγούνται από ένα σταθερό σύνολο γραπτών αρχών.

Αποσταγμένο μοντέλο

Ένα μικρότερο μοντέλο εκπαιδευμένο να μιμείται τη συμπεριφορά ενός μεγαλύτερου μοντέλου ενώ χρησιμοποιεί λιγότερους υπολογισμούς στο συμπέρασμα.

Χρέωση βάσει χρήσης

Τιμολόγηση όπου το κόστος κλιμακώνεται με κλήσεις API, διακριτικά, χρόνο συμπερασμάτων ή υπολογισμό που καταναλώνεται.

κερδοσκοπική αποκωδικοποίηση

Μια μέθοδος επιτάχυνσης συμπερασμάτων όπου ένα μικρό πρόχειρο μοντέλο προτείνει διακριτικά που ένα μεγαλύτερο μοντέλο επαληθεύει παράλληλα.

Μάθετε περισσότερα στους δωρεάν οδηγούς μας

AI Inference AI Inference Optimization LLM Inference Routing and Load Balancing Seldon Core and Inference Graphs

Δείτε επίσης

In-Context Learning Inference-Time Compute Hyperparameter Instruction Tuning Intent Classification Hallucination Jailbreak Guardrails

Περιηγηθείτε στο πλήρες Γλωσσάρι AI Εξερευνήστε όλους τους δωρεάν οδηγούς AI