Hàm ảnh hưởng cho Bài kiểm tra phân bổ dữ liệu đào tạo

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

1. Hàm ảnh hưởng gần đúng với câu hỏi phản thực tế nào?
   • Việc mất điểm kiểm tra sẽ thay đổi như thế nào nếu mẫu huấn luyện bị loại bỏ hoặc tăng trọng số
   • Độ chính xác trung bình của mô hình là bao nhiêu
   • Mô hình chạy nhanh như thế nào
   • Mô hình có bao nhiêu tham số
2. Đối tượng toán học nào làm cho việc tính toán ảnh hưởng chính xác trở nên khó khăn đối với các mô hình lớn?
   • Chức năng softmax
   • Hessian nghịch đảo của tổn thất
   • Bảng tỷ lệ học tập
   • Kích thước lô
3. Ai đã điều chỉnh các hàm ảnh hưởng cho việc học sâu hiện đại trong một bài báo nổi tiếng năm 2017?
   • Goodfellow và Bengio
   • Vaswani và cộng sự.
   • Koh và Liang
   • Hinton và LeCun
4. Under Koh and Liang’s standard I_up,loss convention, what does a negative value indicate?
   • The point was not in the training data
   • Upweighting the point is estimated to increase test loss
   • The point has no relationship to the test example
   • Upweighting the point is estimated to lower test loss, so it is helpful
5. Anthropic đã sử dụng phép tính gần đúng nào để chia tỷ lệ các hàm ảnh hưởng cho các mô hình ngôn ngữ lớn?
   • EK-FAC (Độ cong theo hệ số Kronecker)
   • Bỏ học
   • Tìm kiếm tia
   • Hỗn hợp
6. Nghiên cứu quy mô của Anthropic đã tìm thấy điều gì về các ví dụ có sức ảnh hưởng?
   • Chúng luôn là bản sao chính xác của đầu ra
   • Họ thường chia sẻ các mẫu trừu tượng hơn là cách diễn đạt giống hệt nhau
   • Chúng được phân phối ngẫu nhiên
   • Chỉ có ví dụ đào tạo đầu tiên là quan trọng
7. In the influence-function approximation, what connects a training-example gradient to the effect on a test loss?
   • The test set’s token count
   • A random forest over training labels
   • The inverse Hessian of the training loss
   • The model’s output vocabulary size
8. If removing one training example is estimated to increase a test point’s loss, what does that suggest about the example?
   • It was guaranteed to be a duplicate
   • It had no relationship to the model
   • It necessarily caused the model to overfit
   • It had a helpful influence on that test point under the approximation