Όρος Γλωσσάρι AI

Τι είναι Κωδικοποίηση θέσης;

Ορισμός

Οι πληροφορίες προστέθηκαν στις ενσωματώσεις διακριτικών, ώστε οι μετασχηματιστές να μπορούν να διακρίνουν τη σειρά ακολουθίας.

Περιηγηθείτε στο πλήρες Γλωσσάρι AIΕξερευνήστε όλους τους δωρεάν οδηγούς AI

Σχετικοί όροι

RoPE (Rotary Positional Embeddings) (Περιστροφικές θέσεις ενσωμάτωσης)Μια μέθοδος κωδικοποίησης θέσης που περιστρέφει τα διανύσματα ερωτήματος και κλειδιών για να κωδικοποιήσει σχετικές θέσεις διακριτικών.ΑλλοθιΜια μέθοδος μεροληψίας θέσης που τιμωρεί τις βαθμολογίες προσοχής με βάση την διακριτική απόσταση, βοηθώντας τα μοντέλα να επεκταθούν σε μεγαλύτερα περιβάλλοντα.Παράμετρος Αποτελεσματική Μικροσυντονισμός (PEFT)Μέθοδοι που προσαρμόζουν μοντέλα εκπαιδεύοντας ένα μικρό υποσύνολο πρόσθετων παραμέτρων.AGI (Τεχνητή Γενική Νοημοσύνη)Ένα υποθετικό σύστημα AI που μπορεί να εκτελέσει τις περισσότερες πνευματικές εργασίες σε ανθρώπινο επίπεδο σε πολλούς τομείς.Πράκτορας AIΈνα σύστημα λογισμικού που μπορεί να παρατηρεί, να αιτιολογεί και να κάνει ενέργειες για την επίτευξη ενός στόχου, χρησιμοποιώντας συχνά εργαλεία και μνήμη.ΣχολιασμόςΕτικέτες ή μεταδεδομένα που προστέθηκαν από τον άνθρωπο που χρησιμοποιούνται για την εκπαίδευση ή την αξιολόγηση μοντέλων μηχανικής μάθησης.

Μάθετε περισσότερα στους δωρεάν οδηγούς μας

Positional Interpolation for Long ContextInstant-NGP Hash EncodingByte-Pair EncodingTokenization and Byte Pair Encoding

Δείτε επίσης

Multi-Head AttentionFlash AttentionQLoRASliding Window AttentionDPO (Direct Preference Optimization)BPE (Byte Pair Encoding)Tree of ThoughtsSentencePiece