แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ยาก ระดับ
แบบทดสอบวัตถุประสงค์ InfoNCE และ SimCLR
ตรวจสอบวัตถุประสงค์เชิงบวกและเชิงลบของ InfoNCE มุมมอง SimCLR และหัวฉายภาพ และบทบาทของอุณหภูมิและขนาดชุดงาน
คำถาม 1 ของ 8
วัตถุประสงค์ของ InfoNCE สนับสนุนให้แบบจำลองทำอะไร
ดูตัวอย่างทุกคำถาม8 คำถาม
คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ
- วัตถุประสงค์ของ InfoNCE สนับสนุนให้แบบจำลองทำอะไร
- สร้างข้อความค้นหาที่คล้ายกับเชิงบวกที่แท้จริงมากกว่าเชิงลบหลายๆ รายการ
- จดจำค่าพิกเซลที่แน่นอนของแต่ละภาพ
- ลดจำนวนพารามิเตอร์โมเดลให้เหลือน้อยที่สุด
- ทำนายคำถัดไปในประโยค
- ใน SimCLR คู่ที่เป็นบวกถูกสร้างขึ้นอย่างไร
- โดยการจับคู่รูปภาพกับป้ายกำกับของมนุษย์
- โดยการใช้การเสริมแบบสุ่มสองแบบที่แตกต่างกันกับภาพเดียวกัน
- โดยการเลือกสองภาพที่แตกต่างกันโดยสิ้นเชิง
- โดยการหมุนชุดข้อมูลทั้งหมด
- อุณหภูมิ τ มีบทบาทอย่างไรใน NT-Xent / InfoNCE
- มันกำหนดอัตราการเรียนรู้
- มันควบคุมขนาดแบทช์โดยอัตโนมัติ
- มันปรับขนาดคะแนนความคล้ายคลึงกัน ต่ำกว่า τ ทำให้การกระจายคมชัดขึ้นและเน้นเชิงลบอย่างหนัก
- กำหนดจำนวนเลเยอร์ในตัวเข้ารหัส
- จะเกิดอะไรขึ้นกับหัวฉายของ SimCLR หลังจากการฝึกล่วงหน้า
- มันจะกลายเป็นตัวแยกประเภทสุดท้าย
- มันถูกแช่แข็งและใช้เป็นเครื่องเข้ารหัส
- มันถูกทำซ้ำเพื่อการอนุมาน
- มันถูกทิ้ง; การแสดงก่อนที่ส่วนหัวจะใช้สำหรับงานดาวน์สตรีม
- เหตุใด SimCLR จึงพึ่งพาขนาดแบทช์ขนาดใหญ่
- เพื่อให้มีตัวอย่างเชิงลบมากมายในแต่ละขั้นตอนการฝึกอบรม
- เพื่อลดการใช้หน่วยความจำ
- เพื่อหลีกเลี่ยงการใช้การเสริม
- เพื่อลดความจำเป็นในการใช้พารามิเตอร์อุณหภูมิ
- In SimCLR, which examples usually act as negatives for one anchor view?
- The matching view of the same image
- The other augmented views in the batch that come from different images
- Only examples with the same class label
- Views produced by a second encoder trained on labels
- Why does SimCLR use a nonlinear projection head before computing its contrastive loss?
- It replaces the image encoder
- It supplies class labels during pretraining
- The learned projection helps the contrastive objective while the representation before the head can transfer downstream
- It removes the need for data augmentation
- For an InfoNCE anchor, what should happen to the positive similarity relative to sampled negatives?
- Every negative should have a higher score than the positive
- All scores must be identical
- The positive is excluded from the objective
- The positive should receive a higher score than the negatives