Όρος Γλωσσάρι AI

Τι είναι Flash Προσοχή?

Ορισμός

Ένας βελτιστοποιημένος αλγόριθμος προσοχής που μειώνει τη χρήση της μνήμης και επιταχύνει την εκπαίδευση του μετασχηματιστή και τα συμπεράσματα.

Σχετικοί όροι

Κατάστημα χαρακτηριστικών
Ένα διαχειριζόμενο σύστημα για την αποθήκευση και την εξυπηρέτηση επικυρωμένων χαρακτηριστικών ML με συνέπεια για εκπαίδευση και εξαγωγή συμπερασμάτων.
Ο πίσω πολλαπλασιασμός
Ο βασικός αλγόριθμος εκπαίδευσης που ενημερώνει τα βάρη των μοντέλων διαδίδοντας τα σφάλματα πρόβλεψης προς τα πίσω μέσω του δικτύου.
Κβαντοποίηση μοντέλου
Μείωση της αριθμητικής ακρίβειας των βαρών του μοντέλου για μείωση του κόστους μνήμης και συμπερασμάτων.
Μετασχηματιστής
Μια νευρωνική αρχιτεκτονική που χρησιμοποιεί την προσοχή για να μοντελοποιήσει τις σχέσεις μεταξύ των ακολουθιών παράλληλα.
Απώλεια προπόνησης
Η τιμή σφάλματος μοντέλου υπολογίστηκε κατά τη διάρκεια της εκπαίδευσης και βελτιστοποιήθηκε προς τα κάτω με την πάροδο του χρόνου.
Προσοχή πολλαπλών κεφαλών
Ένας μηχανισμός μετασχηματιστή που εκτελεί πολλές λειτουργίες προσοχής παράλληλα για να καταγράψει διαφορετικούς τύπους σχέσεων.

Μάθετε περισσότερα στους δωρεάν οδηγούς μας

Δείτε επίσης