HƯỚNG DẪN cơ bản

Grokking và khái quát hóa bị trì hoãn

Grokking describes studied cases where held-out generalization improves well after a network has fit its training examples.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyĐọc trong 3 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của Grokking và sự khái quát hóa bị trì hoãn
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Small algorithmic tasks provide clear experiments, but neither a validation plateau nor longer training guarantees that this transition will occur.

Lặn sâu

The original grokking paper, publicly submitted in January 2022, studies small algorithmically generated datasets. In some experiments, a network fits the training data while held-out performance remains poor, then generalizes after substantially more optimization. This separates fitting observed examples from learning behavior that transfers to unseen examples of the underlying task. It does not mean that every model has near-zero validation accuracy during an initial plateau or that memorization must always disappear completely. The original study varies dataset sizes and optimization choices, including weight decay. Its findings concern those setups rather than a unique universal explanation of generalization. Progress Measures for Grokking via Mechanistic Interpretability investigates small transformers trained on modular addition. The studied algorithm uses Fourier structure and trigonometric identities to represent addition through circular relationships. The researchers examine activations and weights and use Fourier-space ablations to test their account. They describe memorization, circuit formation, and cleanup phases, with generalizing structure emerging before the visible jump in test accuracy. Weight decay removes memorization components during the studied cleanup process. This is more specific than a story in which the entire algorithm appears suddenly at the accuracy jump. Modular tasks offer exact labels: for example, adding six and five modulo seven gives four because eleven leaves remainder four after division by seven. The original paper also reports increasing optimization requirements as training datasets become smaller. Such controlled experiments motivate further research, but do not establish that a large deployed model will eventually improve if trained indefinitely.

Triển khai trong thế giới thực

Plotting training and held-out accuracy on a modular-arithmetic experiment.

Comparing regularization settings on a defined small algorithmic dataset.

Inspecting the Fourier-based circuit studied in a small transformer.

Varying training-set size while recording the optimization needed for held-out performance.

Tương lai của Grokking và sự khái quát hóa bị trì hoãn

Controlled experiments can test how dataset size, architecture, regularization, and optimization affect delayed generalization. Progress measures based on a verified circuit may reveal behavior hidden by an overall accuracy curve, though scaling such analysis to larger models remains an open question. Researchers should distinguish a measured mechanism in a small task from a proposed explanation for every model. Practical stopping decisions still need evaluation, resource constraints, and evidence of progress; the existence of grokking provides a reason to investigate some plateaus rather than a rule to continue all training indefinitely.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Quyết định rõ ràng hơn. Nó giúp bạn tách biệt các tuyên bố kỹ thuật rõ ràng khỏi ngôn ngữ tiếp thị.
  • Chi phí và ngân sách. Bạn có thể đặt các câu hỏi triển khai tốt hơn trước khi chi tiền hoặc thời gian.
  • Nhóm và quy trình làm việc. Các nhóm có sự hiểu biết chung sẽ đưa ra các quyết định về sản phẩm, chính sách và học tập tốt hơn.

coi chừng

  • Các nhóm khác nhau có thể sử dụng cùng một thuật ngữ một cách khác nhau, vì vậy hãy sớm xác định phạm vi.
  • Điểm chuẩn có thể trông mạnh mẽ trong khi hiệu suất trong thế giới thực không đồng đều.
  • Việc bỏ qua các kế hoạch đánh giá và chất lượng dữ liệu thường tạo ra những kết quả mong manh.

Các bước tiếp theo

  1. Bắt đầu với một định nghĩa đơn giản về kết quả bạn cần.
  2. Chọn một số liệu thành công và một điều kiện thất bại trước khi thử nghiệm.
  3. Chạy một thử nghiệm nhỏ với dữ liệu đại diện chứ không phải một bản demo bóng bẩy.
  4. Tài liệu nơi Grokking và Delayed Generalization hữu ích cũng như nơi các phương pháp đơn giản hơn sẽ tốt hơn.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the Grokking and Delayed Generalization quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

What is Grokking and Delayed Generalization?

Grokking describes studied cases where held-out generalization improves well after a network has fit its training examples. Small algorithmic tasks provide clear experiments, but neither a validation plateau nor longer training guarantees that this transition will occur.

Which performance pattern characterizes the studied grokking phenomenon?

The delay concerns generalization beyond observed examples under the studied setup.

Which tasks did the original grokking paper use as a controlled setting?

The public paper was submitted in January 2022 and studies small algorithmic datasets.

Which regularization intervention was among those examined in the original grokking experiments?

The original study investigates weight decay and other optimization choices; no single universal cause is established.

What computation did the cited modular-addition mechanistic study identify in its trained small transformers?

Analysis and Fourier ablations support the particular studied algorithm.

Which phase ordering does Progress Measures for Grokking describe in the studied training dynamics?

The generalizing circuit forms before the later cleanup associated with the visible test-accuracy transition.