Tiếp theoHướng dẫn tiếp theo
Chuẩn hóa phần thưởng được nhóm trong RLHF
Nguyên tắc cơ bản
HƯỚNG DẪN cơ bản
Chuẩn hóa nhóm
Chuẩn hóa nhóm là một kỹ thuật giúp ổn định việc đào tạo mạng lưới thần kinh bằng cách chuẩn hóa các tính năng trong các nhóm kênh nhỏ, độc lập cho từng ví dụ.
Nghe hướng dẫn nàyAI thuật lại · ~2 min
Trên trang nàyĐọc trong 2 phút
Tổng quan
It matters because, unlike Batch Normalization, it works well even when batches are tiny.
Lặn sâu
Các lớp chuẩn hóa giữ cho các số lượng truyền qua mạng được chia tỷ lệ phù hợp, giúp tăng tốc và ổn định quá trình đào tạo. Chuẩn hóa hàng loạt thực hiện điều này bằng cách tính toán giá trị trung bình và phương sai của từng tính năng trên toàn bộ lô nhỏ, nhưng điều đó khiến nó dễ bị hỏng khi các lô nhỏ, vì số liệu thống kê trở nên nhiễu và không đáng tin cậy. Chuẩn hóa nhóm, được Wu và He giới thiệu vào năm 2018, loại bỏ hoàn toàn lô khỏi phương trình. Đối với mỗi ví dụ riêng lẻ, nó chia các kênh thành một số nhóm cố định, sau đó chuẩn hóa từng nhóm chỉ bằng cách sử dụng các giá trị riêng của ví dụ đó. Bởi vì việc tính toán không bao giờ phụ thuộc vào các mẫu khác trong lô nên hiệu suất vẫn ổn định cho dù lô chứa 32 hình ảnh hay chỉ một hình ảnh, khiến nó trở nên phổ biến trong các nhiệm vụ phát hiện, phân đoạn và thị giác nặng về bộ nhớ.
Triển khai trong thế giới thực
Phát hiện đối tượng và phân đoạn phiên bản (ví dụ: mô hình kiểu Mặt nạ R-CNN) được đào tạo với các lô rất nhỏ trên mỗi GPU.
Các xương sống U-Net bên trong các bộ tạo hình ảnh khuếch tán, trong đó Group Norm ổn định các thang đo đặc điểm.
Mạng 3D và video nơi sử dụng bộ nhớ cao sẽ buộc kích thước lô giảm xuống còn một hoặc hai.
Tinh chỉnh các mô hình tầm nhìn lớn trên phần cứng hạn chế trong đó các lô nhỏ khiến số liệu thống kê Batch Norm không đáng tin cậy.
Tương lai của việc bình thường hóa nhóm
Chuẩn hóa nhóm vẫn là lựa chọn phù hợp khi các lô phải nhỏ, chẳng hạn như phát hiện và phân đoạn có độ phân giải cao, mô hình 3D và video cũng như đào tạo có giới hạn về bộ nhớ. Nó cũng được nhúng vào các kiến trúc tổng quát được sử dụng rộng rãi như U-Nets bên trong các mô hình khuếch tán. Khi các mô hình phát triển và áp lực bộ nhớ đẩy kích thước lô xuống, các bộ chuẩn hóa độc lập theo lô, trong đó có Nhóm Định mức cùng với Định mức Lớp, có thể vẫn là các khối xây dựng mặc định, với việc tiếp tục nghiên cứu về các kết hợp và các lựa chọn thay thế không cần chuẩn hóa.
Đưa nó vào thực tế
Tại sao nó quan trọng
- Quyết định rõ ràng hơn. Nó giúp bạn tách biệt các tuyên bố kỹ thuật rõ ràng khỏi ngôn ngữ tiếp thị.
- Chi phí và ngân sách. Bạn có thể đặt các câu hỏi triển khai tốt hơn trước khi chi tiền hoặc thời gian.
- Nhóm và quy trình làm việc. Các nhóm có sự hiểu biết chung sẽ đưa ra các quyết định về sản phẩm, chính sách và học tập tốt hơn.
coi chừng
- Các nhóm khác nhau có thể sử dụng cùng một thuật ngữ một cách khác nhau, vì vậy hãy sớm xác định phạm vi.
- Điểm chuẩn có thể trông mạnh mẽ trong khi hiệu suất trong thế giới thực không đồng đều.
- Việc bỏ qua các kế hoạch đánh giá và chất lượng dữ liệu thường tạo ra những kết quả mong manh.
Các bước tiếp theo
- Bắt đầu với một định nghĩa đơn giản về kết quả bạn cần.
- Chọn một số liệu thành công và một điều kiện thất bại trước khi thử nghiệm.
- Chạy một thử nghiệm nhỏ với dữ liệu đại diện chứ không phải một bản demo bóng bẩy.
- Tài liệu nơi Chuẩn hóa nhóm hữu ích và nơi các phương pháp đơn giản hơn sẽ tốt hơn.
Tiếp tục khám phá
Bản tin miễn phí
Nhận bản tóm tắt AI hàng ngày
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Take the Group Normalization quiz
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Câu hỏi thường gặp
What is Group Normalization?
Chuẩn hóa nhóm là một kỹ thuật giúp ổn định việc đào tạo mạng lưới thần kinh bằng cách chuẩn hóa các tính năng trong các nhóm kênh nhỏ, độc lập cho từng ví dụ. Điều này quan trọng bởi vì, không giống như Chuẩn hóa hàng loạt, nó hoạt động tốt ngay cả khi các lô rất nhỏ.
Across what dimensions does Group Normalization compute statistics?
The guide says GN normalizes groups of channels within each example.
Why can GroupNorm be preferable to BatchNorm for very small batches?
The paper emphasizes stable behavior at small batch sizes because computation does not rely on batch statistics.
What does GroupNorm’s independence from batch size mean?
The paper’s computation uses within-example group statistics, independent of batch size.
Which GroupNorm setting corresponds to one group containing all channels?
The guide states that one group reduces the scheme to LayerNorm.
Which GroupNorm setting corresponds to one channel per group?
The guide says one channel per group corresponds to InstanceNorm.
Tiếp tục học hỏi
Hướng dẫn liên quan
Đã chọn thêm hướng dẫn cho chủ đề này