Bài kiểm tra có liên kết hướng dẫn · Cứng Cấp độ

VQ-VAE và bài kiểm tra tiềm ẩn rời rạc

Xem lại cách VQ-VAE ánh xạ các đầu ra của bộ mã hóa liên tục tới các mục nhập sổ mã rời rạc để tạo mô hình tổng quát và tái thiết.

Đường dẫn hướng dẫn liên quanVq Vae và tiềm ẩn rời rạc
Câu hỏi 1 của 8

Điều gì làm cho không gian tiềm ẩn của VQ-VAE khác với VAE tiêu chuẩn?

Xem trước mọi câu hỏi8 câu hỏi

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

  1. Điều gì làm cho không gian tiềm ẩn của VQ-VAE khác với VAE tiêu chuẩn?
    • Nó rời rạc, sử dụng sách mã đã học về các phần nhúng
    • Nó liên tục và Gaussian
    • Nó không có không gian tiềm ẩn nào cả
    • Nó lưu trữ các pixel thô
  2. Làm thế nào để VQ-VAE chuyển gradient qua bước lượng tử hóa không phân biệt?
    • Nó bỏ qua lan truyền ngược hoàn toàn
    • Với công cụ ước tính xuyên suốt sao chép độ dốc qua bộ lượng tử hóa
    • Bằng cách chỉ sử dụng học tăng cường
    • Bằng cách làm tròn gradient thành số nguyên
  3. 'Sụp đổ sổ mã' là gì?
    • Bộ giải mã bỏ qua tiềm ẩn
    • Đầu ra của bộ mã hóa trở nên vô hạn
    • Chỉ một phần nhỏ các mục trong sổ mã được sử dụng
    • Độ phân giải hình ảnh giảm xuống 0
  4. Tại sao các giá trị tiềm ẩn rời rạc lại hữu ích cho việc tạo mô hình tổng quát với Transformers?
    • Họ chỉ làm cho hình ảnh nhỏ hơn trên đĩa
    • Họ loại bỏ sự cần thiết của một bộ giải mã
    • Họ loại bỏ tất cả sự ngẫu nhiên khỏi thế hệ
    • Họ biến phương tiện truyền thông thành các chuỗi mã thông báo mà Transformer có thể mô hình hóa giống như ngôn ngữ
  5. VQGAN đã thêm gì vào công thức VQ-VAE cơ bản?
    • Những mất mát về mặt đối nghịch và nhận thức để tái thiết sắc nét hơn
    • Máy lấy mẫu khuếch tán
    • Loại bỏ sổ mã
    • Bộ mã hóa định kỳ
  6. Thuật ngữ mất mát nào giữ cho bộ mã hóa 'cam kết' với các mục trong sổ mã mà nó chọn?
    • Sự phân kỳ KL
    • Sự mất mát cam kết
    • Sự mất mát entropy chéo
    • Bộ ba mất mát
  7. What kind of prior does the original VQ-VAE paper learn over its discrete codes?
    • A fixed prior that is never learned
    • A prior over camera locations only
    • A learned prior over the discrete code sequence
    • No prior or decoder distribution
  8. Which text-to-image paper used a discrete VAE to tokenize images before autoregressive generation?
    • The original Whisper speech-recognition paper
    • A paper on Kalman-filter vehicle tracking
    • The original BERT masked-language-model paper
    • The original DALL·E paper