Quiz collegato alla guida · Medio Livello
BigScience e il quiz sul modello BLOOM
Esamina il corpus ROOTS multilingue di BLOOM, la versione ad accesso aperto, l'architettura basata solo sul decodificatore e le lingue rappresentate nella formazione.
Domanda 1 di 8
Qual era l'obiettivo principale che distingueva il modello BLOOM rispetto ai modelli di dimensioni simili del suo tempo?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Qual era l'obiettivo principale che distingueva il modello BLOOM rispetto ai modelli di dimensioni simili del suo tempo?
- Essere multilingue e liberarsi apertamente
- Essere il più veloce nell'inferenza
- Essendo il modello più piccolo possibile
- Essere addestrato solo sul codice di programmazione
- Quanti parametri ha approssimativamente BLOOM?
- 7 miliardi
- 176 miliardi
- 70 miliardi
- 540 miliardi
- Quanti linguaggi naturali è stato addestrato a gestire BLOOM?
- 1
- 100
- 46
- 600
- Quale organizzazione ha coordinato la collaborazione con BigScience?
- DeepMind
- Stability AI
- Anthropic
- Hugging Face
- Dove si è formato BLOOM?
- Sul supercomputer Jean Zay finanziato con fondi pubblici in Francia
- Sul cloud privato GPU noleggiate da una startup
- Su un cluster di laptop universitari
- Sui pod in TPU di Google
- How does BLOOM’s ALiBi mechanism encode relative position?
- It removes attention and uses a convolutional decoder
- It adds distance-dependent biases to attention scores
- It inserts learned position vectors into every token embedding
- It stores position as a separate image channel
- How many programming languages were represented in BLOOM’s ROOTS corpus?
- 3 programming languages
- 46 programming languages
- 13 programming languages
- 130 programming languages
- What model architecture does the BLOOM paper describe?
- Un classificatore di immagini convoluzionale
- A recurrent speech recognizer
- A diffusion model for audio
- A decoder-only Transformer