แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ยาก ระดับ

แบบทดสอบวัตถุประสงค์ InfoNCE และ SimCLR

ตรวจสอบวัตถุประสงค์เชิงบวกและเชิงลบของ InfoNCE มุมมอง SimCLR และหัวฉายภาพ และบทบาทของอุณหภูมิและขนาดชุดงาน

เส้นทางแนะนำที่เกี่ยวข้องวัตถุประสงค์ของ Infonce และ Simclr
คำถาม 1 ของ 8

วัตถุประสงค์ของ InfoNCE สนับสนุนให้แบบจำลองทำอะไร

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. วัตถุประสงค์ของ InfoNCE สนับสนุนให้แบบจำลองทำอะไร
    • สร้างข้อความค้นหาที่คล้ายกับเชิงบวกที่แท้จริงมากกว่าเชิงลบหลายๆ รายการ
    • จดจำค่าพิกเซลที่แน่นอนของแต่ละภาพ
    • ลดจำนวนพารามิเตอร์โมเดลให้เหลือน้อยที่สุด
    • ทำนายคำถัดไปในประโยค
  2. ใน SimCLR คู่ที่เป็นบวกถูกสร้างขึ้นอย่างไร
    • โดยการจับคู่รูปภาพกับป้ายกำกับของมนุษย์
    • โดยการใช้การเสริมแบบสุ่มสองแบบที่แตกต่างกันกับภาพเดียวกัน
    • โดยการเลือกสองภาพที่แตกต่างกันโดยสิ้นเชิง
    • โดยการหมุนชุดข้อมูลทั้งหมด
  3. อุณหภูมิ τ มีบทบาทอย่างไรใน NT-Xent / InfoNCE
    • มันกำหนดอัตราการเรียนรู้
    • มันควบคุมขนาดแบทช์โดยอัตโนมัติ
    • มันปรับขนาดคะแนนความคล้ายคลึงกัน ต่ำกว่า τ ทำให้การกระจายคมชัดขึ้นและเน้นเชิงลบอย่างหนัก
    • กำหนดจำนวนเลเยอร์ในตัวเข้ารหัส
  4. จะเกิดอะไรขึ้นกับหัวฉายของ SimCLR หลังจากการฝึกล่วงหน้า
    • มันจะกลายเป็นตัวแยกประเภทสุดท้าย
    • มันถูกแช่แข็งและใช้เป็นเครื่องเข้ารหัส
    • มันถูกทำซ้ำเพื่อการอนุมาน
    • มันถูกทิ้ง; การแสดงก่อนที่ส่วนหัวจะใช้สำหรับงานดาวน์สตรีม
  5. เหตุใด SimCLR จึงพึ่งพาขนาดแบทช์ขนาดใหญ่
    • เพื่อให้มีตัวอย่างเชิงลบมากมายในแต่ละขั้นตอนการฝึกอบรม
    • เพื่อลดการใช้หน่วยความจำ
    • เพื่อหลีกเลี่ยงการใช้การเสริม
    • เพื่อลดความจำเป็นในการใช้พารามิเตอร์อุณหภูมิ
  6. In SimCLR, which examples usually act as negatives for one anchor view?
    • The matching view of the same image
    • The other augmented views in the batch that come from different images
    • Only examples with the same class label
    • Views produced by a second encoder trained on labels
  7. Why does SimCLR use a nonlinear projection head before computing its contrastive loss?
    • It replaces the image encoder
    • It supplies class labels during pretraining
    • The learned projection helps the contrastive objective while the representation before the head can transfer downstream
    • It removes the need for data augmentation
  8. For an InfoNCE anchor, what should happen to the positive similarity relative to sampled negatives?
    • Every negative should have a higher score than the positive
    • All scores must be identical
    • The positive is excluded from the objective
    • The positive should receive a higher score than the negatives