Thuật ngữ thuật ngữ AI

Giải mã được bảo vệ là gì?

Định nghĩa

Chiến lược tạo giới hạn mã thông báo đầu ra ở các cấu trúc hợp lệ hoặc các lựa chọn tuân thủ chính sách.

Duyệt qua Bảng thuật ngữ AI đầy đủKhám phá tất cả hướng dẫn AI miễn phí

Điều khoản liên quan

Lấy mẫu Top-kChiến lược giải mã chỉ lấy mẫu từ k mã thông báo tiếp theo có khả năng xảy ra nhất.Lấy mẫu Top-p (Hạt nhân)Chiến lược giải mã lấy mẫu từ tập mã thông báo nhỏ nhất có tổng xác suất là p.Trình phân tích cú pháp đầu raLogic xác nhận và chuyển đổi đầu ra của mô hình thành các cấu trúc được gõ mạnh, có thể sử dụng được bằng máy.Giải mã suy đoánMột phương pháp tăng tốc suy luận trong đó một mô hình dự thảo nhỏ đề xuất các mã thông báo mà một mô hình lớn hơn sẽ xác minh song song.Hình phạt lặp lạiCài đặt giải mã làm giảm xác suất của mã thông báo mà mô hình đã tạo để giảm vòng lặp.Hình phạt tần sốCài đặt giải mã giúp giảm xác suất của mã thông báo tương ứng với tần suất chúng xuất hiện cho đến nay.

Tìm hiểu thêm trong hướng dẫn miễn phí của chúng tôi

Contrastive DecodingMinimum Bayes Risk DecodingSelf-Consistency DecodingMedusa Decoding Heads

Xem thêm

GroundednessHuman Preference ModelFeature StoreInference EndpointEval HarnessKnowledge BaseEmbedding ModelLatent Space