Câu đố về mô hình tuần tự

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

1. Hai thành phần chính của mô hình tuần tự là gì?
   • Một bộ mã hóa và một bộ giải mã
   • Trình mã thông báo và trình phân loại
   • Hai bộ mã hóa giống hệt nhau
   • Bộ lọc và trình xếp hạng
2. Cơ chế chú ý đã giải quyết được vấn đề chính nào trong các mô hình seq2seq?
   • Mã thông báo chậm
   • Nút cổ chai vectơ có độ dài cố định cho đầu vào dài
   • Thiếu vốn từ vựng
   • Dữ liệu đào tạo quá mức
3. Mô hình dịch seq2seq 2014 ban đầu đã sử dụng kiến trúc nào?
   • Mạng tích chập
   • Cây quyết định
   • LSTM xếp chồng
   • Các lớp chuyển tiếp nguồn cấp dữ liệu trần
4. Sự chú ý xây dựng bối cảnh cho từng bước giải mã như thế nào?
   • Bằng cách lấy trung bình tất cả các mã thông báo đầu vào như nhau
   • Bằng cách bỏ qua hoàn toàn bộ mã hóa
   • Bằng cách sao chép mã thông báo đầu vào cuối cùng
   • Bằng tổng trọng số của các trạng thái bộ mã hóa sử dụng điểm căn chỉnh
5. Tại sao đầu ra seq2seq có thể có độ dài khác với đầu vào?
   • Bộ giải mã tạo mã thông báo cho đến khi phát ra tín hiệu dừng
   • Đầu vào và đầu ra luôn có độ dài bằng nhau
   • Bộ mã hóa đệm mọi thứ
   • Chiều dài được cố định trước
6. Những mô hình hiện đại nào là kiến trúc seq2seq dựa trên Transformer phổ biến?
   • ResNet và VGG
   • T5 và BART
   • K-mean và PCA
   • Word2Vec và GloVe
7. In encoder-decoder attention, which representations are commonly used as keys and values?
   • Only the decoder’s future hidden states
   • The vocabulary file’s byte offsets
   • The encoder’s output representations
   • The optimizer’s learning-rate history
8. What does a bidirectional encoder provide to an attention-based decoder?
   • A fixed one-token output regardless of the input
   • A guarantee that output length equals input length
   • A causal mask over future target tokens
   • Contextual representations of source tokens that can use information from both directions