Bài kiểm tra có liên kết hướng dẫn · Trung bình Cấp độ
Bài kiểm tra về sự ép buộc của giáo viên trong mô hình trình tự
Kiểm tra cách các tiền tố thực tế huấn luyện bộ giải mã trình tự, cách mặt nạ nhân quả hỗ trợ huấn luyện song song và tại sao suy luận lại khác nhau.
Câu hỏi 1 của 8
Trong quá trình giáo viên ép buộc, đầu vào ở mỗi bước giải mã là gì?
Xem trước mọi câu hỏi8 câu hỏi
Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.
- Trong quá trình giáo viên ép buộc, đầu vào ở mỗi bước giải mã là gì?
- Mã thông báo thực tế trước đó
- Dự đoán trước đó của chính người mẫu
- Mã thông báo ngẫu nhiên
- Mã thông báo đầu ra cuối cùng
- Trong quá trình đào tạo do giáo viên bắt buộc, mục tiêu nào được ghép nối với đầu vào bộ giải mã y_(t−1)?
- Mã thông báo thực tế trước đó
- Mã thông báo mục tiêu tiếp theo y_t
- Mã thông báo được lấy mẫu từ bộ xác thực
- Đầu ra có xác suất tối đa từ lần huấn luyện trước đó
- Sự không phù hợp trong bài kiểm tra đào tạo do giáo viên ép buộc được gọi là:
- Độ dốc biến mất
- Thu gọn chế độ
- Xu hướng tiếp xúc
- Rò rỉ nhãn
- Trong bộ giải mã Transformer, cơ chế nào cho phép hoạt động đào tạo bắt buộc của giáo viên diễn ra song song giữa các vị trí?
- Bỏ học
- Chuẩn hóa hàng loạt
- Tìm kiếm tia
- Mặt nạ chú ý nhân quả (nhìn về phía trước)
- Tại thời điểm suy luận, tại sao giáo viên không thể ép buộc?
- Không có token tương lai thực tế nào để cung cấp
- Chức năng mất không có sẵn
- GPU quá chậm
- Mặt nạ chú ý bị vô hiệu hóa
- Sự mất mát nào thường được sử dụng ở mỗi bước trong quá trình đào tạo do giáo viên bắt buộc?
- Lỗi bình phương trung bình trên nhật ký thô
- Entropy chéo giữa phân phối được dự đoán và mã thông báo tiếp theo thực sự
- Mất bản lề trên phần nhúng
- Mất tương tự cosine
- Chuỗi mục tiêu là “đỏ, xanh lam, xanh lục”. Dưới sự ép buộc của giáo viên, mã thông báo nào được cung cấp khi huấn luyện dự đoán “xanh”?
- Dự đoán của mô hình về “xanh”
- Mã thông báo tương lai sau “xanh”
- Mã thông báo thực tế trước đó “màu xanh”
- Một mục từ vựng được lấy mẫu ngẫu nhiên
- Tại vị trí bộ giải mã t, mã thông báo nào phải chặn mặt nạ chú ý nhân quả?
- Trình tự nguồn
- Tất cả các mã thông báo mục tiêu trước đó
- Đầu vào riêng của vị trí hiện tại
- Nhắm mục tiêu mã thông báo tại các vị trí muộn hơn t