Викторина, связанная с руководством · Средний Уровень

BigScience и викторина по модели BLOOM

Ознакомьтесь с многоязычным корпусом ROOTS BLOOM, версией с открытым доступом, архитектурой только для декодера и языками, представленными в обучении.

Связанные направляющие путиБольшая наука и модель Блума

Вопрос 1 из 8

Какова была основная отличительная цель модели BLOOM по сравнению с моделями аналогичного размера того времени?

Предварительный просмотр каждого вопроса8 вопросы

Ответы и пояснения появляются по мере прохождения теста.

Какова была основная отличительная цель модели BLOOM по сравнению с моделями аналогичного размера того времени?
- Быть многоязычным и открыто выпущенным
- Быть самым быстрым в умозаключении
- Самая маленькая из возможных моделей
- Обучение только программному коду
Сколько примерно параметров у BLOOM?
- 7 миллиардов
- 176 миллиардов
- 70 миллиардов
- 540 миллиардов
На скольких естественных языках был обучен BLOOM?
- 1
- 100
- 46
- 600
Какая организация координировала сотрудничество BigScience?
- DeepMind
- Stability AI
- Anthropic
- Hugging Face
Где проходил обучение BLOOM?
- О финансируемом государством суперкомпьютере Жана Зэя во Франции.
- На графических процессорах частного облака, арендованных у стартапа
- На кластере университетских ноутбуков
- На модулях TPU Google
How does BLOOM’s ALiBi mechanism encode relative position?
- It removes attention and uses a convolutional decoder
- It adds distance-dependent biases to attention scores
- It inserts learned position vectors into every token embedding
- It stores position as a separate image channel
How many programming languages were represented in BLOOM’s ROOTS corpus?
- 3 programming languages
- 46 programming languages
- 13 programming languages
- 130 programming languages
What model architecture does the BLOOM paper describe?
- Классификатор сверточных изображений
- A recurrent speech recognizer
- A diffusion model for audio
- A decoder-only Transformer