Κουίζ που συνδέεται με οδηγό · Μεσαίο Επίπεδο

Κουίζ ανάκτησης καθυστερημένης αλληλεπίδρασης ColBERT

Δοκιμάστε τα διανύσματα διακριτικών ColBERT, την ανεξάρτητη κωδικοποίηση, τη βαθμολογία MaxSim, την εργασία χρόνου ερωτήματος και το κόστος αποθήκευσης που αντιμετωπίζεται από τη συμπίεση ColBERTv2.

Σχετικές διαδρομές οδηγώνColbert Late Interaction Retrieval
Ερώτηση 1 του 8

Πώς αντιπροσωπεύει το ColBERT ένα ερώτημα ή ένα έγγραφο;

Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

  1. Πώς αντιπροσωπεύει το ColBERT ένα ερώτημα ή ένα έγγραφο;
    • Ως ένα μεμονωμένο μέσο διάνυσμα ενσωμάτωσης
    • Καθώς η ακατέργαστη λέξη-κλειδί μετράει μόνο
    • Όσα διανύσματα ενσωμάτωσης συμφραζομένων σε επίπεδο διακριτικού
    • Ως εικόνα
  2. Πώς ονομάζεται η συνάρτηση βαθμολόγησης που χρησιμοποιεί το ColBERT;
    • MaxSim
    • Συγκέντρωση συνημιτόνου
    • Διασταυρούμενη εντροπία Softmax
    • Αναζήτηση δέσμης
  3. What query-time work does ColBERT avoid by precomputing document token vectors?
    • All query encoding and all index access
    • Every comparison between a query token and document token
    • The need to store document representations
    • Joint transformer encoding of every query-document pair, while query encoding and similarity search still run
  4. Τι σημαίνει το «όψιμο» σε «όψιμη αλληλεπίδραση»;
    • Το μοντέλο εκπαιδεύεται αργά στην κυκλοφορία
    • Η αλληλεπίδραση μεταξύ των διακριτικών ερωτήματος και εγγράφου αναβάλλεται στο βήμα βαθμολόγησης μετά από ανεξάρτητη κωδικοποίηση
    • Τα ερωτήματα φτάνουν αργά το βράδυ
    • Τα έγγραφα προστίθενται μετά την ανάπτυξη
  5. Ποιο πρόβλημα με την πυκνή ανάκτηση ενός διανύσματος αντιμετωπίζει το ColBERT;
    • Είναι πολύ αργό στο ευρετήριο
    • Δεν μπορεί να τρέξει σε GPU
    • Απαιτεί δεδομένα με ετικέτα για κάθε ερώτημα
    • Η συμπίεση ενός ολόκληρου αποσπάσματος σε ένα διάνυσμα χάνει τη λεπτομέρεια
  6. Τι βελτίωσε σημαντικά το ColBERTv2 σε σχέση με το πρωτότυπο;
    • Αφαίρεσε την ανάγκη για τυχόν ενσωματώσεις
    • Μεταπήδησε από το BERT σε ένα σύστημα βασισμένο σε κανόνες
    • Προσέθεσε υπολειπόμενη συμπίεση για να συρρικνωθεί σημαντικά το μέγεθος του δείκτη
    • Κατάργησε το βήμα MaxSim
  7. A two-token ColBERT query has best document-token similarities of 0.8 and 0.3. What MaxSim score results?
    • 0.8, retaining only the single largest value across the whole query
    • 1.1, the sum of the two per-query-token maxima
    • 0.55, averaging instead of summing the maxima
    • 0.24, multiplying the two maxima
  8. Why can a ColBERT document index require more storage than a single-vector dense index?
    • It retains multiple token-level representations for each document
    • It never precomputes any document features
    • It must store all transformer gradients for each document
    • It removes every document token before indexing