ELMo Contextual Embeddings
Το ELMo (Ενσωματώσεις από γλωσσικά μοντέλα) ήταν μια σημαντική ανακάλυψη του 2018 που έδωσε σε κάθε λέξη μια αναπαράσταση που διαμορφώθηκε από την πρόταση της, επομένως η λέξη «όχθης» στην «όχθη ποταμού» διαφέρει από την «όχθη» σε «ταμιευτήριο». Σηματοδότησε τη μετάβαση από στατικά διανύσματα λέξεων σε NLP με επίγνωση του περιβάλλοντος.
Βαθιά κατάδυση
Το ELMo, που εισήχθη από το Ινστιτούτο Allen για ερευνητές τεχνητής νοημοσύνης (Peters et al., 2018), παράγει αναπαραστάσεις λέξεων εκτελώντας μια πρόταση μέσα από ένα βαθύ αμφίδρομο μοντέλο γλώσσας LSTM εκπαιδευμένο σε ένα σώμα δισεκατομμυρίων λέξεων. Σε αντίθεση με το Word2Vec ή το GloVe, που εκχωρούν ένα σταθερό διάνυσμα ανά λέξη, το ELMo υπολογίζει ένα νέο διάνυσμα για κάθε εμφάνιση με βάση το περιβάλλον περιβάλλον. Κυρίως, το ELMo συνδυάζει όλα τα εσωτερικά επίπεδα LSTM μέσω μαθησμένων, ειδικών βαρών για εργασίες αντί να χρησιμοποιεί μόνο το ανώτερο στρώμα. Τα χαμηλότερα στρώματα τείνουν να συλλαμβάνουν τη σύνταξη (μέρος του λόγου, δομή) ενώ τα υψηλότερα επίπεδα συλλαμβάνουν τη σημασιολογία και την έννοια της λέξης. Η προσθήκη του ELMo σε υπάρχοντα μοντέλα παρήγαγε μεγάλα κέρδη σε έξι εργασίες αναφοράς, συμπεριλαμβανομένης της απάντησης σε ερωτήσεις, της ανάλυσης συναισθήματος και της αναγνώρισης επώνυμης οντότητας.
Τεχνική διορατικότητα
Το ELMo στοιβάζει δύο LSTM: ένα μοντέλο γλώσσας προς τα εμπρός που προβλέπει την επόμενη λέξη και ένα προς τα πίσω που προβλέπει την προηγούμενη λέξη, το καθένα πάνω από εισόδους CNN σε επίπεδο χαρακτήρων (έτσι χειρίζεται λέξεις που δεν εμφανίζονται). Για μια εργασία κατάντη, το ELMo συμπτύσσει τις αναπαραστάσεις του επιπέδου χρησιμοποιώντας κανονικοποιημένα βάρη softmax συν ένα βαθμωτό, που όλα μαθαίνονται κατά τη λεπτομέρεια. Αυτό σημαίνει ότι κάθε εργασία μπορεί να αποφασίσει πόσο συντακτικό έναντι σημασιολογικού σήματος θέλει από το παγωμένο προεκπαιδευμένο biLM.
Στρατηγικός αντίκτυπος
Ταχύτητα και κλίμακα
Οι ροές εργασίας της γλώσσας μπορούν να κινηθούν πιο γρήγορα χωρίς να θυσιάζεται η συνέπεια.
Πρόσβαση και προσέγγιση χρηστών
Επεκτείνει την πρόσβαση σε όλες τις γλώσσες και τα στυλ επικοινωνίας.
Σαφέστερες αποφάσεις
Οι ομάδες μπορούν να αφιερώσουν περισσότερο χρόνο στην κρίση, ενώ ο αυτοματισμός χειρίζεται την επανάληψη.
The Future of ELMo Contextual Embeddings
Η βασική ιδέα της ELMo, οι αναπαραστάσεις με βάση τα συμφραζόμενα από την προεκπαίδευση γλωσσικών μοντέλων, έγινε θεμελιώδης, αλλά η επαναλαμβανόμενη αρχιτεκτονική της LSTM επισκιάστηκε γρήγορα από μοντέλα που βασίζονται σε Transformer όπως το BERT στα τέλη του 2018, τα οποία διαβάζουν ολόκληρες προτάσεις παράλληλα και κλιμακώνονται πολύ καλύτερα. Σήμερα το ELMo έχει ως επί το πλείστον ιστορική και εκπαιδευτική σημασία, αν και οι ιδέες χειρισμού εισόδου χαρακτήρων CNN και στάθμισης επιπέδων εξακολουθούν να επηρεάζουν την εξειδικευμένη εργασία ενσωμάτωσης σε γλώσσες χαμηλών πόρων και μορφολογικά πλούσιες.
Υλοποίηση σε πραγματικό κόσμο
Βελτίωση συστημάτων αναγνώρισης επώνυμων οντοτήτων που πρέπει να προσδιορίζουν εάν η λέξη «Ουάσιγκτον» αναφέρεται σε ένα άτομο, μια πολιτεία ή μια πόλη με βάση τις γύρω λέξεις
Ενίσχυση της ανάλυσης συναισθημάτων καταγράφοντας ότι «άρρωστος» σημαίνει αρνητικό στο «αισθάνομαι άρρωστος» αλλά θετικό στην αργκό «αυτό είναι άρρωστο»
Ενίσχυση των συστημάτων απάντησης ερωτήσεων στο σημείο αναφοράς SQuAD τροφοδοτώντας διανύσματα διακριτικών που είναι ευαίσθητα στο περιβάλλον στον αναγνώστη
Αποσαφηνιστικές αισθήσεις λέξεων στην αυτόματη μετάφραση, τόσο πολύσημες λέξεις όπως «φυτό» μεταφράζουν σωστά το δεδομένο πλαίσιο
Κίνδυνοι & προστατευτικά κιγκλιδώματα
Τα παραισθησιακά γεγονότα μπορούν να εισάγουν αθόρυβα αναφορές, να υποστηρίζουν ροές ή αποτελέσματα έρευνας.
Η άμεση ευαισθησία μπορεί να δημιουργήσει ασυνεπή αποτελέσματα σε παρόμοια αιτήματα.
Τα ευαίσθητα δεδομένα κειμένου ενδέχεται να εκτεθούν εάν τα στοιχεία ελέγχου πρόσβασης είναι αδύναμα.
Οδικός Χάρτης Εφαρμογής
Καθορίστε τη μορφή εξόδου, τον τόνο και τα πρότυπα ποιότητας πριν από την κυκλοφορία.
Επίγειες απαντήσεις με αξιόπιστες πηγές όποτε έχει σημασία η ακρίβεια.
Διατηρήστε ένα σημείο ελέγχου ανθρώπινης αξιολόγησης για αποτελέσματα υψηλού πονταρίσματος.
Παρακολουθήστε τα μοτίβα αποτυχίας και επανεκπαιδεύστε τις προτροπές ή τις ροές εργασίας τακτικά.
Συνεχίστε την εξερεύνηση
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the ELMo Contextual Embeddings quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Επόμενος οδηγός
Ενσωματώσεις λέξεων
Συχνές ερωτήσεις
What is ELMo Contextual Embeddings?
Το ELMo (Ενσωματώσεις από γλωσσικά μοντέλα) ήταν μια σημαντική ανακάλυψη του 2018 που έδωσε σε κάθε λέξη μια αναπαράσταση που διαμορφώθηκε από την πρόταση της, επομένως η λέξη «όχθης» στην «όχθη ποταμού» διαφέρει από την «όχθη» σε «ταμιευτήριο». Σηματοδότησε τη μετάβαση από στατικά διανύσματα λέξεων σε NLP με επίγνωση του περιβάλλοντος.
Ποια είναι η βασική διαφορά μεταξύ του ELMo και των προηγούμενων ενσωματώσεων όπως το Word2Vec;
Το ELMo παράγει ενσωματώσεις με βάση τα συμφραζόμενα: το διάνυσμα για μια λέξη αλλάζει με βάση την περιβάλλουσα πρόταση, σε αντίθεση με το μοναδικό σταθερό διάνυσμα ανά λέξη του Word2Vec.
Ποια νευρωνική αρχιτεκτονική χρησιμοποιεί το ELMo για την ανάγνωση κειμένου;
Το ELMo είναι χτισμένο σε ένα βαθύ αμφίδρομο LSTM που εκπαιδεύεται ως μοντέλο γλώσσας, επεξεργάζοντας αλληλουχίες περιοδικά.
Πώς συνδυάζει το ELMo τα εσωτερικά του στρώματα για μια εργασία κατάντη;
Το ELMo μαθαίνει κανονικοποιημένα βάρη softmax για συγκεκριμένες εργασίες για να συνδυάζει όλα τα επίπεδα biLM, επιτρέποντας σε κάθε εργασία να δίνει έμφαση στη σύνταξη ή τη σημασιολογία, όπως απαιτείται.
Τι χρησιμοποιεί η ELMo ως μονάδες εισόδου για να χειριστεί αόρατες λέξεις;
Το ELMo δημιουργεί εισαγωγές λέξεων από ένα CNN σε επίπεδο χαρακτήρων, ώστε να μπορεί να αντιπροσωπεύει λέξεις που δεν είδε ποτέ κατά τη διάρκεια της εκπαίδευσης.
Πότε περίπου εισήχθη η ELMo και από ποιον;
Το ELMo εκδόθηκε το 2018 από τους Peters et al. στο Allen Institute for AI (AI2).