What is Quantization? Definition | AI Understanding

Ορισμός

Μετατροπή βαρών μοντέλου σε μορφές χαμηλότερης ακρίβειας, όπως 8-bit ή 4-bit.

Σχετικοί όροι

Κβαντοποίηση μοντέλου

Μείωση της αριθμητικής ακρίβειας των βαρών του μοντέλου για μείωση του κόστους μνήμης και συμπερασμάτων.

Μια τεχνική λεπτομέρειας που συνδυάζει κβαντισμό βάρους 4 bit με προσαρμογείς LoRA για μείωση των αναγκών μνήμης.

Ο πίσω πολλαπλασιασμός

Ο βασικός αλγόριθμος εκπαίδευσης που ενημερώνει τα βάρη των μοντέλων διαδίδοντας τα σφάλματα πρόβλεψης προς τα πίσω μέσω του δικτύου.

Συνελικτικό νευρωνικό δίκτυο (CNN)

Μια νευρωνική αρχιτεκτονική βελτιστοποιημένη για την επεξεργασία δεδομένων που μοιάζουν με πλέγμα, όπως εικόνες.

Εξαγωγή χαρακτηριστικών

Μετατροπή πρωτογενών δεδομένων σε ενημερωτικά χαρακτηριστικά που μπορεί να χρησιμοποιήσει ένα μοντέλο.

Παραγωγικό AI

Συστήματα AI που παράγουν νέο περιεχόμενο όπως κείμενο, εικόνες, ήχο, βίντεο ή κώδικα.

Μάθετε περισσότερα στους δωρεάν οδηγούς μας

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

Δείτε επίσης

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

Περιηγηθείτε στο πλήρες Γλωσσάρι AI Εξερευνήστε όλους τους δωρεάν οδηγούς AI