Bài kiểm tra về sự chồng chất và tính đa nghĩa

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

1. 'Chồng chất' đề cập đến điều gì trong mạng lưới thần kinh?
   • Đại diện cho nhiều tính năng hơn số nơ-ron bằng cách chồng chéo các hướng của chúng
   • Xếp chồng nhiều mô hình lên nhau
   • Chạy mô hình hai lần và lấy trung bình
   • Thêm tiếng ồn vào đầu vào trong quá trình đào tạo
2. Điều kiện nào làm cho sự chồng chất hoạt động tốt bất chấp sự can thiệp của tính năng?
   • Các tính năng luôn hoạt động dày đặc
   • Các tính năng còn thưa thớt nên rất ít tính năng hoạt động đồng thời
   • Chỉ sử dụng kích hoạt tích cực
   • Có nhiều tế bào thần kinh hơn các tính năng
3. Tế bào thần kinh 'đa nghĩa' là gì?
   • Một tế bào thần kinh không bao giờ kích hoạt
   • Một nơ-ron chỉ được sử dụng ở lớp đầu ra
   • Một nơ-ron phản ứng với nhiều khái niệm không liên quan
   • Một nơ-ron không có kết nối
4. Bài báo Anthropic nào đã giới thiệu nghiên cứu có kiểm soát về hiện tượng này vào năm 2022?
   • Sự chú ý là tất cả những gì bạn cần
   • Phân loại ImageNet với Deep CNN
   • Chơi Atari với Deep RL
   • Mô hình đồ chơi xếp chồng
5. Nếu một lớp phải lưu trữ nhiều tính năng hơn kích thước của nó thì điều gì không thể tránh khỏi về mặt hình học?
   • Một số tính năng phải chia sẻ các hướng chồng chéo, không trực giao
   • Tất cả các tính năng có thể trực giao hoàn hảo
   • Mạng phải sập
   • Tất cả các tính năng trở nên giống hệt nhau
6. Tại sao sự chồng chất làm cho việc giải thích trở nên khó khăn hơn?
   • Nó làm cho mô hình chạy chậm hơn
   • Các nơ-ron đơn lẻ không còn ánh xạ rõ ràng tới các khái niệm đơn lẻ
   • Nó loại bỏ tất cả các tính năng khỏi mô hình
   • Nó chỉ ảnh hưởng đến lớp đầu vào
7. Why does sparse feature activity reduce interference when more features than dimensions are represented?
   • Sparse activity makes all feature directions orthogonal
   • It increases the number of neurons automatically
   • Fewer features are active at the same time, so overlapping directions collide less often
   • It removes the need for nonlinear computation
8. What does an antipodal pair of feature directions look like geometrically?
   • Two vectors at a right angle in separate dimensions
   • Two vectors with identical directions and magnitudes
   • A vector with no coordinates
   • Two directions that point opposite ways along the same line