Bài kiểm tra có liên kết hướng dẫn · Trung bình Cấp độ
Bài kiểm tra tỷ lệ tính toán thời gian thử nghiệm
Xem lại tính toán theo thời gian suy luận, tìm kiếm ứng viên, phân bổ thích ứng và sự cân bằng giữa chi phí và độ trễ được đo lường trong các nghiên cứu về thời gian thử nghiệm.
Câu hỏi 1 của 8
'Tính toán thời gian thử nghiệm' đề cập đến điều gì?
Xem trước mọi câu hỏi8 câu hỏi
Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.
- 'Tính toán thời gian thử nghiệm' đề cập đến điều gì?
- Tính toán dành cho việc đào tạo mô hình trên dữ liệu
- Thời gian tải xuống một mô hình
- Tính toán chi tiêu khi mô hình trả lời một truy vấn khi suy luận
- Điện dùng để làm mát trung tâm dữ liệu
- In test-time scaling studies, what can extra inference compute be used for?
- Changing the model’s training data during the request
- Increasing the number of model parameters automatically
- Guaranteeing correctness without evaluation
- Searching or revising candidate solutions and checking their quality
- Sự đánh đổi cốt lõi của việc mở rộng quy mô điện toán trong thời gian thử nghiệm là gì?
- Độ chính xác cao hơn để đổi lấy độ trễ và chi phí cao hơn
- Ít trí nhớ hơn nhưng luyện tập chậm hơn
- Nhiều dữ liệu hơn nhưng mô hình nhỏ hơn
- Đồ họa tốt hơn cho độ phân giải thấp hơn
- Lấy mẫu 'tốt nhất trong N' là gì?
- Đào tạo trên N bộ dữ liệu lớn nhất
- Tạo N câu trả lời ứng viên và chọn câu trả lời đúng nhất
- Chỉ sử dụng N từ đầu tiên của lời nhắc
- Chạy mô hình trên N máy tính khác nhau để đạt tốc độ
- Tại sao tính toán trong thời gian thử nghiệm được coi là một 'trục tỷ lệ' mới?
- Nó thay thế nhu cầu đào tạo
- Nó chỉ hoạt động trên các mô hình nhỏ
- Nó cải thiện hiệu suất bằng cách thêm tính toán suy luận thay vì chỉ tăng kích thước mô hình
- Nó làm giảm số lượng người dùng mà một mô hình có thể phục vụ
- Tính toán thời gian thử nghiệm mang lại kết quả đáng ngạc nhiên nào?
- Các mô hình có thể chạy mà không cần bất kỳ GPU nào
- Dữ liệu đào tạo trở nên không cần thiết
- Người mẫu luôn trả lời nhanh hơn
- Một mô hình nhỏ hơn suy nghĩ lâu hơn có thể cạnh tranh với một mô hình lớn hơn nhiều và trả lời ngay lập tức
- What is one reason a fixed best-of-N strategy may waste inference compute?
- It spends the same candidate budget on easy and difficult prompts
- It modifies model weights on every query
- It cannot generate multiple candidates
- It eliminates the need for scoring
- What did the test-time compute paper compare with best-of-N sampling?
- A strategy that disables inference
- A compute-optimal strategy that allocates effort based on expected solution quality
- A larger tokenizer vocabulary
- A method that changes image resolution