cái gì là Lấy mẫu Top-p (Hạt nhân)?

Chiến lược giải mã chỉ lấy mẫu từ k mã thông báo tiếp theo có khả năng xảy ra nhất.

Chiến lược tạo giới hạn mã thông báo đầu ra ở các cấu trúc hợp lệ hoặc các lựa chọn tuân thủ chính sách.

Một mô hình sắp xếp lại tập hợp kết quả được truy xuất ban đầu để đặt các mục phù hợp nhất lên trên cùng.

Thuật toán giải mã giữ lại một số chuỗi ứng cử viên hàng đầu ở mỗi bước để tìm kết quả đầu ra có xác suất cao hơn.

Cài đặt lấy mẫu kiểm soát tính ngẫu nhiên trong kết quả đầu ra được tạo.

Một đoạn văn bản được xử lý bằng mô hình ngôn ngữ, chẳng hạn như một đoạn từ hoặc ký hiệu.