Tăng cường Mixup và CutMix

Mixup linearly interpolates whole images and labels, while CutMix pastes a rectangular patch from one image onto another and mixes labels by patch area — both reduce overfitting and improve robustness.

Mixup (Zhang và cộng sự, 2017) tạo thành một mẫu mới dưới dạng x̃ = λ·x_a + (1−λ)·x_b với nhãn kỹ thuật được trộn bởi cùng một λ, trong đó λ được rút ra từ phân phối Beta. Điều này khuyến khích mô hình hoạt động tuyến tính giữa các ví dụ, làm mịn ranh giới quyết định và cải thiện hiệu chuẩn. Thay vào đó, CutMix (Yun và cộng sự, 2019) cắt một vùng hình chữ nhật từ hình ảnh B và dán nó vào hình ảnh A; trọng số nhãn được đặt theo tỷ lệ pixel mà mỗi hình ảnh đóng góp. Bởi vì CutMix giữ các vùng hình ảnh nhất quán cục bộ (chứ không phải sự pha trộn ma quái), nên nó bảo tồn cấu trúc không gian hữu ích trong khi vẫn buộc mô hình phải chú ý đến nhiều đối tượng và bộ phận. Cả hai kỹ thuật đều hoạt động như những công cụ điều chỉnh mạnh mẽ, nâng cao độ chính xác trên các điểm chuẩn ở quy mô ImageNet và cải thiện đáng kể tính mạnh mẽ đối với các lỗi và đầu vào đối nghịch.