Κουίζ που συνδέεται με οδηγό · Μεσαίο Επίπεδο
Κουίζ Υπολογιστικής Κλιμάκωσης Test-Time
Εξετάστε τον υπολογισμό χρόνου συμπερασμάτων, την αναζήτηση υποψηφίων, την προσαρμοστική κατανομή και τις ανταλλαγές κόστους-λανθάνοντος χρόνου που μετρήθηκαν σε μελέτες χρόνου δοκιμής.
Ερώτηση 1 του 8
Τι σημαίνει «υπολογισμός χρόνου δοκιμής»;
Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις
Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.
- Τι σημαίνει «υπολογισμός χρόνου δοκιμής»;
- Υπολογισμός που δαπανήθηκε για την εκπαίδευση του μοντέλου σε δεδομένα
- Ο χρόνος που χρειάζεται για να κατεβάσετε ένα μοντέλο
- Υπολογισμός που δαπανάται όταν το μοντέλο απαντά σε ένα ερώτημα στο συμπέρασμα
- Η ηλεκτρική ενέργεια που χρησιμοποιείται για την ψύξη των κέντρων δεδομένων
- In test-time scaling studies, what can extra inference compute be used for?
- Changing the model’s training data during the request
- Increasing the number of model parameters automatically
- Guaranteeing correctness without evaluation
- Searching or revising candidate solutions and checking their quality
- Ποια είναι η βασική αντιστάθμιση της κλίμακας υπολογισμού του χρόνου δοκιμής;
- Υψηλότερη ακρίβεια σε αντάλλαγμα για μεγαλύτερη καθυστέρηση και κόστος
- Λιγότερη μνήμη αλλά πιο αργή προπόνηση
- Περισσότερα δεδομένα αλλά μικρότερα μοντέλα
- Καλύτερα γραφικά για χαμηλότερη ανάλυση
- Τι είναι η δειγματοληψία «best-of-N»;
- Εκπαίδευση στα N μεγαλύτερα σύνολα δεδομένων
- Δημιουργία N υποψηφίων απαντήσεων και επιλογή της καλύτερης
- Χρησιμοποιώντας μόνο τις πρώτες N λέξεις μιας προτροπής
- Εκτέλεση του μοντέλου σε N διαφορετικούς υπολογιστές για ταχύτητα
- Γιατί ο υπολογισμός χρόνου δοκιμής θεωρείται νέος «άξονας κλιμάκωσης»;
- Αντικαθιστά την ανάγκη για οποιαδήποτε εκπαίδευση
- Λειτουργεί μόνο σε μικρά μοντέλα
- Βελτιώνει την απόδοση προσθέτοντας υπολογισμό συμπερασμάτων αντί να αυξάνει μόνο το μέγεθος του μοντέλου
- Μειώνει τον αριθμό των χρηστών που μπορεί να εξυπηρετήσει ένα μοντέλο
- Ποιο εκπληκτικό αποτέλεσμα επιτρέπει ο υπολογισμός χρόνου δοκιμής;
- Τα μοντέλα μπορούν να λειτουργούν χωρίς GPU
- Τα δεδομένα εκπαίδευσης γίνονται περιττά
- Τα μοντέλα απαντούν πάντα πιο γρήγορα
- Ένα μικρότερο μοντέλο που σκέφτεται περισσότερο μπορεί να ανταγωνιστεί ένα πολύ μεγαλύτερο μοντέλο που απαντά αμέσως
- What is one reason a fixed best-of-N strategy may waste inference compute?
- It spends the same candidate budget on easy and difficult prompts
- It modifies model weights on every query
- It cannot generate multiple candidates
- It eliminates the need for scoring
- What did the test-time compute paper compare with best-of-N sampling?
- A strategy that disables inference
- A compute-optimal strategy that allocates effort based on expected solution quality
- A larger tokenizer vocabulary
- A method that changes image resolution