แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ

BigScience และแบบทดสอบโมเดล BLOOM

ตรวจสอบคอร์ปัส ROOTS หลายภาษาของ BLOOM, การปล่อยให้เข้าถึงแบบโอเพนซอร์ส, สถาปัตยกรรมแบบ decoder-only และภาษาที่มีอยู่ในชุดข้อมูลการฝึก

เส้นทางแนะนำที่เกี่ยวข้องบิ๊กไซแอนซ์และเดอะบลูมโมเดล
คำถาม 1 ของ 8

อะไรคือเป้าหมายหลักที่โดดเด่นของโมเดล BLOOM เมื่อเปรียบเทียบกับโมเดลที่มีขนาดใกล้เคียงกันในยุคนั้น

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. อะไรคือเป้าหมายหลักที่โดดเด่นของโมเดล BLOOM เมื่อเปรียบเทียบกับโมเดลที่มีขนาดใกล้เคียงกันในยุคนั้น
    • มีหลายภาษาและเผยแพร่อย่างเปิดเผย
    • เป็นคนที่เร็วที่สุดในการอนุมาน
    • เป็นรุ่นที่เล็กที่สุดเท่าที่จะเป็นไปได้
    • ได้รับการฝึกอบรมเกี่ยวกับโค้ดโปรแกรมเท่านั้น
  2. BLOOM มีพารามิเตอร์ประมาณกี่ตัว
    • 7 พันล้าน
    • 176 พันล้าน
    • 70 พันล้าน
    • 540 พันล้าน
  3. BLOOM ได้รับการฝึกภาษาธรรมชาติกี่ภาษา?
    • 1
    • 100
    • 46
    • 600
  4. องค์กรใดเป็นผู้ประสานงานความร่วมมือ BigScience
    • DeepMind
    • Stability AI
    • Anthropic
    • Hugging Face
  5. BLOOM ได้รับการฝึกอบรมที่ไหน?
    • บนซูเปอร์คอมพิวเตอร์ Jean Zay ที่ได้รับทุนสนับสนุนจากสาธารณะในฝรั่งเศส
    • บน GPU บนคลาวด์ส่วนตัวที่เช่าตั้งแต่เริ่มต้น
    • บนคลัสเตอร์แล็ปท็อปของมหาวิทยาลัย
    • บนพ็อด TPU ของ Google
  6. How does BLOOM’s ALiBi mechanism encode relative position?
    • It removes attention and uses a convolutional decoder
    • It adds distance-dependent biases to attention scores
    • It inserts learned position vectors into every token embedding
    • It stores position as a separate image channel
  7. How many programming languages were represented in BLOOM’s ROOTS corpus?
    • 3 programming languages
    • 46 programming languages
    • 13 programming languages
    • 130 programming languages
  8. What model architecture does the BLOOM paper describe?
    • ตัวแยกประเภทภาพแบบหมุนวน
    • A recurrent speech recognizer
    • A diffusion model for audio
    • A decoder-only Transformer