引导式测验 · 中等 等级

序列到序列模型测验

了解编码器-解码器模型如何使用注意力和交叉注意力机制将输入序列映射到不同长度的输出。

相关引导路径序列到序列模型
问题 1 的 8

序列到序列模型的两个主要组成部分是什么？

预览每个问题8 问题

当您参加测验时，就会出现答案和解释。

  1. 序列到序列模型的两个主要组成部分是什么？
    • 编码器和解码器
    • 分词器和分类器
    • 两个相同的编码器
    • 过滤器和排名器
  2. Attention机制在seq2seq模型中解决了什么关键问题？
    • 代币化缓慢
    • 长输入的固定长度向量瓶颈
    • 缺乏词汇量
    • 训练数据过多
  3. 2014 年最初的 seq2seq 翻译模型使用什么架构？
    • 卷积网络
    • 决策树
    • 堆叠 LSTM
    • 裸前馈层
  4. 注意力如何为每个解码步骤构建上下文？
    • 通过平均所有输入标记
    • 完全忽略编码器
    • 通过复制最后一个输入令牌
    • 通过使用对齐分数的编码器状态的加权和
  5. 为什么 seq2seq 输出的长度与输入的长度不同？
    • 解码器生成令牌，直到发出停止信号
    • 输入和输出的长度始终相等
    • 编码器填充一切
    • 长度预先确定
  6. 哪些现代模型是流行的基于 Transformer 的 seq2seq 架构？
    • ResNet 和 VGG
    • T5 和 BART
    • K 均值和 PCA
    • Word2Vec 和 GloVe
  7. In encoder-decoder attention, which representations are commonly used as keys and values?
    • Only the decoder’s future hidden states
    • The vocabulary file’s byte offsets
    • The encoder’s output representations
    • The optimizer’s learning-rate history
  8. What does a bidirectional encoder provide to an attention-based decoder?
    • A fixed one-token output regardless of the input
    • A guarantee that output length equals input length
    • A causal mask over future target tokens
    • Contextual representations of source tokens that can use information from both directions