Câu đố về khả năng diễn giải cơ học

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

1. Mục tiêu chính của khả năng diễn giải cơ học là gì?
   • Để đảo ngược các tính toán nội bộ của mạng thành các thuật toán mà con người có thể hiểu được
   • Để làm cho mô hình đào tạo nhanh hơn
   • Để nén mô hình cho thiết bị di động
   • Để xếp hạng các tính năng đầu vào chỉ theo tầm quan trọng
2. 'Chồng chất' đề cập đến điều gì trong mạng lưới thần kinh?
   • Xếp chồng nhiều mô hình lại với nhau
   • Thể hiện nhiều tính năng hơn số thứ nguyên bằng cách sử dụng các hướng chồng chéo
   • Chạy một mô hình trên nhiều GPU
   • Dự đoán trung bình từ các lần chạy khác nhau
3. Bộ mã hóa tự động thưa thớt được sử dụng trong khả năng diễn giải cơ học chủ yếu để...
   • Tạo dữ liệu đào tạo
   • Tăng tốc độ suy luận
   • Tách các hoạt động đa ngữ nghĩa thành các tính năng rõ ràng hơn, dễ hiểu hơn
   • Mã hóa trọng số mô hình
4. "đầu cảm ứng" là gì?
   • Bộ tăng tốc phần cứng cho máy biến áp
   • Các lớp đầu ra tạo ra văn bản
   • Một loại hàm mất mát
   • Đầu chú ý sao chép và tiếp tục các mẫu mã thông báo lặp lại, hỗ trợ việc học theo ngữ cảnh
5. Làm thế nào để các nhà nghiên cứu xác nhận rằng mạch được phát hiện thực sự thực hiện một phép tính giả định?
   • Thông qua các biện pháp can thiệp mang tính nhân quả như loại bỏ hoặc vá các kích hoạt cụ thể
   • Bằng cách kiểm tra độ chính xác huấn luyện của mô hình
   • Bằng cách đếm số tham số
   • Bằng cách đo độ trễ suy luận
6. What is a cautious safety-related reason to study mechanistic interpretability?
   • It proves every hidden behavior can already be found
   • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
   • It guarantees a model will follow any requested correction
   • It replaces evaluations of model behavior in deployment
7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
   • The entire model’s computation is now explained
   • The feature is guaranteed to be a single neuron
   • A candidate feature correlates with those examples and needs further testing to establish its role
   • The feature causes every bridge-related output
8. Why test a candidate feature across varied prompts and examples?
   • Proof that the model has no other relevant circuits
   • A guarantee that the explanation generalizes to every prompt
   • A replacement for inspecting model behavior
   • To check whether the observed activation pattern generalizes beyond selected examples