Όρος Γλωσσάρι AI

Τι είναι Κβαντοποίηση μοντέλου;

Ορισμός

Μείωση της αριθμητικής ακρίβειας των βαρών του μοντέλου για μείωση του κόστους μνήμης και συμπερασμάτων.

ΚβαντισμόςΜετατροπή βαρών μοντέλου σε μορφές χαμηλότερης ακρίβειας, όπως 8-bit ή 4-bit.QLoRAΜια τεχνική λεπτομέρειας που συνδυάζει κβαντισμό βάρους 4 bit με προσαρμογείς LoRA για μείωση των αναγκών μνήμης.Flash ΠροσοχήΈνας βελτιστοποιημένος αλγόριθμος προσοχής που μειώνει τη χρήση της μνήμης και επιταχύνει την εκπαίδευση του μετασχηματιστή και τα συμπεράσματα.Μνήμη (μνήμη πράκτορα)Το αποθηκευμένο πλαίσιο που χρησιμοποιεί ένας πράκτορας τεχνητής νοημοσύνης σε βήματα ή περιόδους σύνδεσης για να βελτιώσει τη συνέχεια.Πράκτορας AIΈνα σύστημα λογισμικού που μπορεί να παρατηρεί, να αιτιολογεί και να κάνει ενέργειες για την επίτευξη ενός στόχου, χρησιμοποιώντας συχνά εργαλεία και μνήμη.AI ΑσφάλειαΈνα πεδίο που επικεντρώνεται στη μείωση της επιβλαβούς συμπεριφοράς, των αστοχιών και των κινδύνων κακής χρήσης σε συστήματα τεχνητής νοημοσύνης.

Μάθετε περισσότερα στους δωρεάν οδηγούς μας

Δείτε επίσης