แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ
BigScience และแบบทดสอบโมเดล BLOOM
ตรวจสอบคอร์ปัส ROOTS หลายภาษาของ BLOOM, การปล่อยให้เข้าถึงแบบโอเพนซอร์ส, สถาปัตยกรรมแบบ decoder-only และภาษาที่มีอยู่ในชุดข้อมูลการฝึก
คำถาม 1 ของ 8
อะไรคือเป้าหมายหลักที่โดดเด่นของโมเดล BLOOM เมื่อเปรียบเทียบกับโมเดลที่มีขนาดใกล้เคียงกันในยุคนั้น
ดูตัวอย่างทุกคำถาม8 คำถาม
คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ
- อะไรคือเป้าหมายหลักที่โดดเด่นของโมเดล BLOOM เมื่อเปรียบเทียบกับโมเดลที่มีขนาดใกล้เคียงกันในยุคนั้น
- มีหลายภาษาและเผยแพร่อย่างเปิดเผย
- เป็นคนที่เร็วที่สุดในการอนุมาน
- เป็นรุ่นที่เล็กที่สุดเท่าที่จะเป็นไปได้
- ได้รับการฝึกอบรมเกี่ยวกับโค้ดโปรแกรมเท่านั้น
- BLOOM มีพารามิเตอร์ประมาณกี่ตัว
- 7 พันล้าน
- 176 พันล้าน
- 70 พันล้าน
- 540 พันล้าน
- BLOOM ได้รับการฝึกภาษาธรรมชาติกี่ภาษา?
- 1
- 100
- 46
- 600
- องค์กรใดเป็นผู้ประสานงานความร่วมมือ BigScience
- DeepMind
- Stability AI
- Anthropic
- Hugging Face
- BLOOM ได้รับการฝึกอบรมที่ไหน?
- บนซูเปอร์คอมพิวเตอร์ Jean Zay ที่ได้รับทุนสนับสนุนจากสาธารณะในฝรั่งเศส
- บน GPU บนคลาวด์ส่วนตัวที่เช่าตั้งแต่เริ่มต้น
- บนคลัสเตอร์แล็ปท็อปของมหาวิทยาลัย
- บนพ็อด TPU ของ Google
- How does BLOOM’s ALiBi mechanism encode relative position?
- It removes attention and uses a convolutional decoder
- It adds distance-dependent biases to attention scores
- It inserts learned position vectors into every token embedding
- It stores position as a separate image channel
- How many programming languages were represented in BLOOM’s ROOTS corpus?
- 3 programming languages
- 46 programming languages
- 13 programming languages
- 130 programming languages
- What model architecture does the BLOOM paper describe?
- ตัวแยกประเภทภาพแบบหมุนวน
- A recurrent speech recognizer
- A diffusion model for audio
- A decoder-only Transformer