Bài kiểm tra có liên kết hướng dẫn · Trung bình Cấp độ

Lớp bộ điều hợp cho bài kiểm tra chuyển giao

Kiểm tra cách bộ điều hợp thắt cổ chai bảo tồn mô hình cơ sở cố định, kích hoạt tác vụ mô-đun hoặc chuyển miền và so sánh với LoRA.

Đường dẫn hướng dẫn liên quanLớp bộ điều hợp để chuyển
Câu hỏi 1 của 8

Điều gì xảy ra với mức tạ đã được huấn luyện trước ban đầu khi tập luyện với bộ chuyển đổi?

Xem trước mọi câu hỏi8 câu hỏi

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

  1. Điều gì xảy ra với mức tạ đã được huấn luyện trước ban đầu khi tập luyện với bộ chuyển đổi?
    • Chúng bị đóng băng trong khi chỉ huấn luyện các tham số của bộ điều hợp
    • Chúng bị xóa
    • Chúng được khởi tạo lại một cách ngẫu nhiên
    • Chúng có kích thước gấp đôi
  2. Cấu trúc bên trong điển hình của bộ chuyển đổi nút cổ chai là gì?
    • Một lớp dày đặc khổng lồ
    • Phép chiếu xuống, phép chiếu phi tuyến, rồi phép chiếu lên, có kết nối dư
    • Chỉ có một cái đầu chú ý
    • Bộ lọc hình ảnh tích chập
  3. Bộ điều hợp thường huấn luyện khoảng bao nhiêu phần tham số?
    • 100%
    • Chính xác là 50%
    • Thường dưới 5%
    • Không có gì cả
  4. Tại sao bộ điều hợp thuận tiện cho việc phục vụ nhiều tác vụ?
    • Họ yêu cầu một bản sao mô hình đầy đủ riêng biệt cho mỗi nhiệm vụ
    • Chúng không thể kết hợp được
    • Họ xóa mô hình cơ sở sau mỗi nhiệm vụ
    • Bạn giữ lại một mô hình cơ sở và trao đổi các bộ điều hợp nhỏ cho mỗi tác vụ
  5. Bộ điều hợp thuộc về nhóm kỹ thuật nào?
    • Tinh chỉnh tham số hiệu quả (PEFT)
    • Tăng cường dữ liệu
    • Nén hình ảnh
    • Đề án mã thông báo
  6. LoRA mang lại lợi thế gì so với bộ chuyển đổi được chèn cổ điển tại thời điểm suy luận?
    • Nó không thể được đào tạo
    • Các trọng số đã học của nó có thể được hợp nhất vào các ma trận cơ sở, tránh độ trễ tăng thêm trên mỗi lớp
    • Nó đòi hỏi phải đào tạo lại toàn bộ mô hình
    • Nó loại bỏ kết nối còn lại vĩnh viễn
  7. What does a residual connection contribute to a classic bottleneck adapter?
    • A second full pretrained model copy for each task
    • A mandatory external retrieval database
    • A path that adds the adapter’s transformed representation back to the original hidden state
    • A guarantee that no added computation occurs
  8. What is one benefit of stacking a domain adapter with a task adapter?
    • Merge all user data into the frozen base weights automatically
    • Avoid using any adapter modules
    • Convert a language model into a vision encoder
    • Reuse a domain specialization together with a separate task specialization