引导式测验 · 中等 等级
猎鹰模型测验
检查 Falcon 的开发者、RefinedWeb、多查询注意力、Mamba 变体以及主权基础模型工作的作用。
问题 1 的 8
哪个组织开发了 Falcon 模型?
预览每个问题8 问题
当您参加测验时,就会出现答案和解释。
- 哪个组织开发了 Falcon 模型?
- 阿布扎比技术创新研究所 (TII)
- 一家硅谷初创公司
- 中国科学院
- 欧洲大学联盟
- 用于训练早期 Falcon 模型的 RefinedWeb 数据集有什么值得注意的地方?
- 它很小而且是手写的
- 它是通过积极过滤和删除重复的网络数据而构建的,而不是依赖于精选的源
- 它仅包含图像
- 它完全是合成的
- Falcon Transformer 模型使用什么注意力技术来节省推理内存?
- 完全没有关注
- 仅完全二次注意力
- 多查询注意力
- 随机关注
- Falcon Mamba 在架构上与标准 Falcon 模型有何不同?
- 它是一个更多层的变压器
- 它没有神经网络
- 它只做图像分类
- 它使用状态空间模型而不是变压器
- Falcon型号一般都是在什么条件下发布的?
- 鼓励商业和研究使用的许可条款
- 严格封闭且私密
- 仅适用于阿联酋公民
- 仅作为付费 API
- 猎鹰经常被引用作为哪种更广泛趋势的例子?
- 开源人工智能的终结
- 各国建立主权、本土基础模型
- 只能离线工作的模型
- 将所有 GPU 替换为 CPU
- In multi-query attention, what do multiple query heads share?
- One shared query and separate keys for every token
- The same final vocabulary logits
- A single set of key and value projections
- A single attention score for all layers
- What does Falcon’s RefinedWeb training data illustrate?
- A state-space model needs no training text
- All web pages are equally reliable without filtering
- Synthetic data must always replace real text
- A large web corpus can be filtered and deduplicated rather than relying only on curated sources