Όρος Γλωσσάρι AI

Τι είναι KV Cache (Προσωρινή μνήμη KV);

Ορισμός

Αποθηκευμένοι τανυστές κλειδιών και τιμών από προηγούμενα διακριτικά που επιτρέπουν στους μετασχηματιστές να δημιουργούν νέα διακριτικά χωρίς να υπολογίζουν εκ νέου την προσοχή του παρελθόντος.

Περιηγηθείτε στο πλήρες Γλωσσάρι AIΕξερευνήστε όλους τους δωρεάν οδηγούς AI

Σχετικοί όροι

Συνεχής ΜάθησηΠροσεγγίσεις εκπαίδευσης που επιτρέπουν σε ένα μοντέλο να συνεχίσει να μαθαίνει από νέα δεδομένα χωρίς να ξεχνά την προηγούμενη γνώση.Top-k ΔειγματοληψίαΜια στρατηγική αποκωδικοποίησης που λαμβάνει δείγματα μόνο από τα k πιο πιθανά επόμενα διακριτικά.Μάθηση χωρίς επίβλεψηΕκμάθηση μοτίβων από δεδομένα χωρίς ετικέτα χωρίς ρητές εξόδους στόχων.Συρόμενο παράθυρο ΠροσοχήΈνα μοτίβο προσοχής όπου κάθε διακριτικό παρακολουθεί μόνο ένα παράθυρο σταθερού μεγέθους κοντινών κουπονιών για μείωση του υπολογισμού._sentencepieceΈνας γλωσσικός-αγνωστικός tokenizer που μαθαίνει μονάδες υπολέξεων απευθείας από ακατέργαστο κείμενο χωρίς προκαταρκτικό διαχωρισμό σε κενό διάστημα.Ποινή παρουσίαςΜια ρύθμιση αποκωδικοποίησης που μειώνει την πιθανότητα εμφάνισης διακριτικών, ενθαρρύνοντας νέα θέματα.

Μάθετε περισσότερα στους δωρεάν οδηγούς μας

KV CacheKV Cache OptimizationCache-Augmented Generation (CAG)

Δείτε επίσης

Speculative DecodingMCP (Model Context Protocol)Zero Data RetentionAgentic LoopUsage-Based BillingReActTrust CalibrationTree of Thoughts