Bài kiểm tra có liên kết hướng dẫn · Trung bình Cấp độ

Bài kiểm tra kiểm soát giải mã và hình phạt lặp lại

So sánh các hình phạt về nhiệt độ, top-k, top-p và lặp lại, bao gồm cả cách nhật ký thay đổi trước khi lấy mẫu trong quy trình tạo LLM.

Đường dẫn hướng dẫn liên quanHình phạt lặp lại và kiểm soát giải mã
Câu hỏi 1 của 8

Việc tăng thông số 'nhiệt độ' có tác dụng gì đối với đầu ra của mô hình?

Xem trước mọi câu hỏi8 câu hỏi

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

  1. Việc tăng thông số 'nhiệt độ' có tác dụng gì đối với đầu ra của mô hình?
    • Làm cho nó ngẫu nhiên và đa dạng hơn
    • Làm cho nó quyết định và tập trung hơn
    • Thay đổi vĩnh viễn trọng lượng của mô hình
    • Tăng tốc thế hệ
  2. Việc lấy mẫu top-p (hạt nhân) quyết định nên xem xét mã thông báo nào?
    • Nó giữ một số lượng token cố định bất kể xác suất
    • Nó giữ tập hợp mã thông báo nhỏ nhất có tổng xác suất đạt đến ngưỡng
    • Nó chỉ giữ lại mã thông báo có khả năng nhất
    • Nó giữ các token có xác suất trên 50%
  3. Hình phạt tái phạm thường có hiệu lực ở giai đoạn nào?
    • Trên văn bản thô sau khi tạo
    • Về dữ liệu huấn luyện
    • Trên nhật ký trước softmax
    • Về từ vựng tokenizer
  4. In OpenAI’s text-generation API, how do presence and frequency penalties differ?
    • Hình phạt hiện diện được chia theo số lượng mã thông báo; hình phạt tần số là bằng phẳng
    • Chúng giống hệt nhau
    • Cả hai chỉ áp dụng cho token đầu tiên
    • Frequency penalty scales with how often a token appeared; presence penalty applies once if it appeared at all
  5. For code completion where deterministic sampling is desired, which setting best matches the guide?
    • Nhiệt độ gần bằng không
    • Nhiệt độ rất cao
    • Hình phạt lặp lại cao trên 2,0
    • Top-p 1.0 với nhiệt độ cao
  6. Lấy mẫu top-k làm gì?
    • Giữ tổng các token theo xác suất k
    • Chỉ giữ k mã thông báo có khả năng xảy ra cao nhất làm ứng cử viên
    • Nhân tất cả log với k
    • Loại bỏ k mã thông báo ít có khả năng nhất khỏi quá trình đào tạo
  7. With a repetition penalty above 1, how does a standard logits processor adjust a previously seen token?
    • It sets every repeated-token logit to zero
    • It adds the penalty to every token equally
    • It divides a positive logit by the penalty and multiplies a negative logit by it
    • It removes the token from the vocabulary permanently
  8. How does top-k differ from top-p sampling?
    • Top-k uses cumulative probability while top-p fixes a count
    • Top-k changes model weights while top-p changes the tokenizer
    • They are both deterministic decoding methods
    • Top-k keeps a fixed number of candidates; top-p keeps a probability-mass-based set