āļāđāļāđāļāļāļģāđāļāļ°āļāļģāļāđāļāđāļ
āļāļēāļĢāļĨāļāļāļ§āļēāļĄāđāļŠāļĩāđāļĒāļāđāļāļīāļāļāļĢāļ°āļāļąāļāļĐāđ
āļāļ§āļēāļĄāļĢāļđāđāļāļ·āđāļāļāļēāļ
āļāļđāđāļĄāļ·āļāļāļēāļāđāļāļāļāļīāļ
Sharpness-Aware Minimization (SAM) āđāļāđāļāļ§āļīāļāļĩāļāļēāļĢāļāļĢāļąāļāđāļŦāđāđāļŦāļĄāļēāļ°āļŠāļĄāļāļĩāđāđāļĄāđāđāļāļĩāļĒāļāđāļāđāđāļŠāļ§āļāļŦāļēāļāļēāļĢāļŠāļđāļāđāļŠāļĩāļĒāļāļĩāđāļāđāļģ āđāļāđāļĒāļąāļāļŠāļđāļāđāļŠāļĩāļĒāļāļĩāđāļāđāļģāļāļąāđāļ§āļāļąāđāļāļāļĨāļļāđāļĄāļāđāļģāļŦāļāļąāļāļāļąāđāļāļŦāļĄāļ āļāļķāđāļāđāļāđāļāļāđāļēāļāđāļģāļŠāļļāļāļāļāļāļĩāđ
āļāļąāļāļāļģāđāļāļ°āļāļģāļāļĩāđāļāļĢāļĢāļĒāļēāļĒāđāļāļĒ AI · ~2 min
Flatter minima tend to generalize better, so SAM often improves test accuracy and robustness without changing the model architecture.
āļāļēāļĢāļāļķāļāđāļāļāļĄāļēāļāļĢāļāļēāļāļāļ°āļĨāļāļāļēāļĢāļŠāļđāļāđāļŠāļĩāļĒāđāļŦāđāđāļŦāļĨāļ·āļāļāđāļāļĒāļāļĩāđāļŠāļļāļāļāļĩāđāļāļļāļāđāļāļĩāļĒāļ§āđāļāļāļ·āđāļāļāļĩāđāļāđāļģāļŦāļāļąāļ āđāļāđāļ§āļīāļāļĩāđāļāđāļāļąāļāļŦāļēāļŠāļāļāļ§āļīāļāļĩāļāļĩāđāļĄāļĩāļāļēāļĢāļŠāļđāļāđāļŠāļĩāļĒāļāļēāļĢāļāļķāļāđāļāđāļēāļāļąāļāļāļēāļāļĄāļĩāļāļĪāļāļīāļāļĢāļĢāļĄāđāļāļāļāđāļēāļāļāļāļāđāļāļĄāļēāļ: āļāđāļēāļāļąāđāļāļāđāļģāļāļĩāđ 'āļāļĄāļāļąāļ' āļāļąāđāļāļāļĒāļđāđāđāļāļŦāļļāļāđāļāļēāđāļāļ āđ āļāļķāđāļāļāļēāļĢāļāđāļāļāļ§āļāļāļāļāļāđāļģāļŦāļāļąāļāđāļāļĩāļĒāļāđāļĨāđāļāļāđāļāļĒāļāļ°āļāļģāđāļŦāđāļŠāļđāļāđāļŠāļĩāļĒ āđāļāļāļāļ°āļāļĩāđāļāđāļēāļāļąāđāļāļāđāļģāļāļĩāđ 'āļāļāļāļĩāđ' āļāļ°āļāļāļāđāļāļāļēāļĢāļāđāļāļāļ§āļ āđāļĨāļ°āļĄāļąāļāļāļ°āļŠāļĢāļļāļāļāđāļāļĄāļđāļĨāđāļāđāļāļĩāļāļ§āđāļēāļāļąāļāļāđāļāļĄāļđāļĨāļāļĩāđāļĄāļāļāđāļĄāđāđāļŦāđāļ SAM āļāļķāđāļāđāļāļ°āļāļģāđāļāļĒāļāļąāļāļ§āļīāļāļąāļĒ Google āđāļāļāļĩ 2020 āļāļģāđāļŦāđāļŠāļīāđāļāļāļĩāđāļāļąāļāđāļāļ āđāļāđāļāđāļĨāļ°āļāļąāđāļāļāļāļ āļāļąāđāļāđāļĢāļāļāļ°āļāđāļāļŦāļēāļāļēāļĢāļāđāļāļāļ§āļāļāļāļāļāđāļģāļŦāļāļąāļāđāļāļĨāđāđāļāļĩāļĒāļ (āļ āļēāļĒāđāļāļĢāļąāļĻāļĄāļĩ rho āđāļĨāđāļāđ) āļāļķāđāļāļāļ°āļāļģāđāļŦāđāļāļēāļĢāļŠāļđāļāđāļŠāļĩāļĒāļŠāļđāļāļŠāļļāļ āļāļķāđāļāđāļāđāļāđāļāļ·āđāļāļāļāđāļēāļāļāļĩāđāđāļĒāđāļāļĩāđāļŠāļļāļ āļāļēāļāļāļąāđāļāļāļķāļāļāļąāļāđāļāļāļāđāļģāļŦāļāļąāļāđāļāļīāļĄāđāļāļ·āđāļāļĨāļāļāļēāļĢāļŠāļđāļāđāļŠāļĩāļĒāļāļĩāđāļāļļāļāļāļĩāđāļĢāļāļāļ§āļāļāļąāđāļ āļ§āļąāļāļāļļāļāļĢāļ°āļŠāļāļāđāļāļąāđāļāļāđāļģ-āļŠāļđāļāļŠāļļāļāļāļĩāđāļāļĨāļąāļāļāļąāļāļāļēāļĢāļāļĢāļąāļāđāļŦāđāđāļŦāļĄāļēāļ°āļŠāļĄāđāļāļĒāļąāļāļ āļđāļĄāļīāļ āļēāļāļāļĩāđāļĄāļĩāļĢāļ°āļāļąāļāļāđāļģāļŠāļĄāđāļģāđāļŠāļĄāļ āļāļģāđāļŦāđāļĄāļĩāļ āļēāļāļĢāļ§āļĄāļāļĩāđāļāļĩāļāļķāđāļāļāļĒāđāļēāļāđāļŦāđāļāđāļāđāļāļąāļāđāļāļāļēāļĢāļāļģāđāļāļāļāļĢāļ°āđāļ āļāļ āļēāļāđāļĨāļ°āļāļ·āđāļāđ
āđāļāļīāđāļĄāļāļ§āļēāļĄāđāļĄāđāļāļĒāļģāļāļāļ Vision Transformer āđāļĨāļ° ResNet āļāļ ImageNet āđāļāļĒāļāļēāļĢāļāļķāļāļāļāļĢāļĄāļāļąāļ SAM āđāļāļ SGD āļāļĢāļĢāļĄāļāļē
āļāļēāļĢāļāļĢāļąāļāļāļĢāļļāļāļāļ§āļēāļĄāļāļāļāļēāļāļāđāļāļŠāļąāļāļāļēāļāļĢāļāļāļ§āļāļāļāļāļāļĨāļēāļ āđāļāļ·āđāļāļāļāļēāļāļāđāļēāļāđāļģāļŠāļļāļāđāļāļāđāļāļāļĄāļĩāđāļāļāļēāļŠāļāđāļāļĒāļāļĩāđāļāļ°āļāļāļāļģāļāļĨāļēāļāļāļĩāđāđāļŠāļĩāļĒāļŦāļēāļĒ
āļāļĢāļąāļāđāļāđāļāđāļĄāđāļāļĨāļ āļēāļĐāļēāļāļĩāđāđāļāđāļĢāļąāļāļāļēāļĢāļāļķāļāļĨāđāļ§āļāļŦāļāđāļēāļāļĒāđāļēāļāļĨāļ°āđāļāļĩāļĒāļāļāđāļ§āļĒ SAM āđāļāļ·āđāļāđāļŦāđāļĄāļĩāļĨāļąāļāļĐāļāļ°āļāļąāđāļ§āđāļāļāļĩāđāļāļĩāļāļķāđāļāļāļąāļāļāļļāļāļāđāļāļĄāļđāļĨāļāļēāļ§āļāđāļŠāļāļĢāļĩāļĄāļāļāļēāļāđāļĨāđāļ
āļāļēāļĢāđāļāđāļāļąāļ§āđāļāļĢ ESAM āļŦāļĢāļ·āļ LookSAM āđāļĄāļ·āđāļāļ§āļēāļāļīāļĨāļĨāļē SAM āļāđāļāļāļļāļāļāļēāļĢāļāļĢāļ°āļĄāļ§āļĨāļāļĨāļāļĩāđāđāļāļīāđāļĄāļāļķāđāļāļŠāļāļāđāļāđāļēāļāļąāđāļāđāļāļāđāļāļīāļāđāļ
SAM āđāļāđāļŠāļĢāđāļēāļāļāļĨāļļāđāļĄāļāļēāļĢāļāļīāļāļāļēāļĄāļāļĨāđāļāļĒāļĄāļļāđāļāđāļāđāļēāđāļāļāļĩāđāļāļļāļāļāđāļāļāļāļĩāđāđāļŦāļāđāļāļĩāđāļŠāļļāļ āļāļąāđāļāļāļ·āļāļāļēāļĢāļāļģāļāļ§āļāļŠāļāļāđāļāđāļē: āļāļąāļ§āđāļāļĢāļāļĩāđāļĄāļĩāļāļĢāļ°āļŠāļīāļāļāļīāļ āļēāļ āđāļāđāļ ESAM, LookSAM āđāļĨāļ°āļ§āļīāļāļĩāļāļēāļĢāļāļĩāđāļĢāļāļāļ§āļāļāđāļģāļŦāļāļąāļāđāļāļĩāļĒāļāļāļļāļāļĒāđāļāļĒāļŦāļĢāļ·āļāđāļāđ SAM āļāļļāļāļŠāļāļāļŠāļēāļĄāļāļąāđāļāļāļāļ Adaptive SAM (ASAM) āļāļ°āļāļģāļŦāļāļāļāļēāļĢāļēāļĄāļīāđāļāļāļĢāđāļĢāļąāļĻāļĄāļĩāđāļŦāļĄāđāđāļŦāđāđāļĄāđāđāļāļĢāļāļąāļāļāļēāļĄāļāļāļēāļ āļāļąāļāļ§āļīāļāļąāļĒāļĒāļąāļāļāļāļāļāđāļāļĩāļĒāļāļāļąāļāļāļĒāđāļēāļāđāļāđāļāļąāļāļ§āđāļēāđāļŦāļāļļāđāļāļāļ§āļēāļĄāđāļĢāļĩāļĒāļāļāļķāļāļāđāļ§āļĒāđāļāđ āđāļĨāļ°āļāļ°āļ§āļąāļāđāļāđāļāļĒāđāļēāļāđāļĢ āđāļĨāļ°āđāļāļ§āļāļīāļāļāļĩāđāļāļģāļāļķāļāļāļķāļāļāļ§āļēāļĄāļāļĄāļāļąāļāļāļģāļĨāļąāļāđāļāļĢāđāļāļĢāļ°āļāļēāļĒāđāļāļŠāļđāđāļāļēāļĢāļāļĢāļąāļāđāļāđāļāđāļĄāđāļāļĨāļ āļēāļĐāļēāļāļāļēāļāđāļŦāļāđāļāļĒāđāļēāļāļĨāļ°āđāļāļĩāļĒāļ āđāļĨāļ°āļāļĢāļąāļāļāļĢāļļāļāļāļ§āļēāļĄāļāļāļāļēāļāļāđāļāļāļēāļĢāđāļāļĨāļĩāđāļĒāļāđāļāļĨāļāļāļēāļĢāļāļĢāļ°āļāļēāļĒ
āļāļāļŦāļĄāļēāļĒāļāđāļēāļ§āļāļĢāļĩ
āđāļĢāļ·āđāļāļāļĢāļēāļ§ AI āļāļĩāđāļāļĢāļ§āļāļŠāļāļāđāļĨāđāļ§ 3 āđāļĢāļ·āđāļāļāļāļļāļāļ§āļąāļāļāļģāļāļēāļ āđāļāđāļē, āđāļāļĩāļĒāļāđāļāđāļāļ āļēāļĐāļēāļāļąāļāļāļĪāļĐāļāļĢāļĢāļĄāļāļē āļāļĢāļĩāļāļĨāļāļāđāļ āđāļĄāđāļĄāļĩāđāļāļĐāļāļē
āļāļĩāđāļĄāļĨāļŦāļāļķāđāļāļāļāļąāļāļāļļāļāļ§āļąāļāļāļģāļāļēāļ āļĒāļāđāļĨāļīāļāļāļēāļĢāļŠāļĄāļąāļāļĢāđāļāļāļĨāļīāļāđāļāļĩāļĒāļ§ āđāļĢāļēāđāļĄāđāđāļāļĒāļāļēāļĒāļŦāļĢāļ·āļāđāļāļĢāđāļāļĩāđāļāļĒāļđāđāļāļĩāđāļĄāļĨāļāļāļāļāļļāļ
āļāļāļŠāļāļāļāļąāļ§āđāļāļ
āļāđāļāđāļŠāļāļāđāļāļ°āļāļąāļāļāļĩāļŠāļģāļŦāļĢāļąāļāļāļļāļāļāļģāļāļāļ āđāļĨāļ°āđāļāļĢāļąāļāļĢāļāļāļāļĩāđāļŠāļēāļĄāļēāļĢāļāđāļāļĢāđāđāļāđāļāļĢāđāļāļĄ ID āļāļĩāđāļāļĢāļ§āļāļŠāļāļāđāļāđāđāļĄāļ·āđāļāļāļļāļāļāđāļēāļāļŦāļĨāļąāļāļŠāļđāļāļĢ
āļŠāļāļąāļāļŠāļāļļāļāļāļēāļĢāļĻāļķāļāļĐāļē AI āļāļĢāļĩ AI Understanding āđāļāđāļāļāļāļāđāļāļĢāđāļĄāđāđāļŠāļ§āļāļŦāļēāļāļĨāļāļģāđāļĢ 501(c)(3) â āđāļĄāđāļĄāļĩāđāļāļĐāļāļē āđāļĄāđāļĄāļĩāļāļģāđāļāļāđāļāļīāļ, āļāļĨāļāļāđāļ āļāļĢāļīāļāļēāļ
Sharpness-Aware Minimization (SAM) āđāļāđāļāļ§āļīāļāļĩāļāļēāļĢāļāļĢāļąāļāđāļŦāđāđāļŦāļĄāļēāļ°āļŠāļĄāļāļĩāđāđāļĄāđāđāļāļĩāļĒāļāđāļāđāđāļŠāļ§āļāļŦāļēāļāļēāļĢāļŠāļđāļāđāļŠāļĩāļĒāļāļĩāđāļāđāļģ āđāļāđāļĒāļąāļāļŠāļđāļāđāļŠāļĩāļĒāļāļĩāđāļāđāļģāļāļąāđāļ§āļāļąāđāļāļāļĨāļļāđāļĄāļāđāļģāļŦāļāļąāļāļāļąāđāļāļŦāļĄāļ āļāļķāđāļāđāļāđāļāļāđāļēāļāđāļģāļŠāļļāļāļāļāļāļĩāđ Flatter Minima āļĄāļĩāđāļāļ§āđāļāđāļĄāļāļĩāđāļāļ°āļŠāļĢāļļāļāđāļāđāļāļĩāļāļ§āđāļē āļāļąāļāļāļąāđāļ SAM āļāļķāļāļĄāļąāļāļāļ°āļāļĢāļąāļāļāļĢāļļāļāļāļ§āļēāļĄāđāļĄāđāļāļĒāļģāđāļĨāļ°āļāļ§āļēāļĄāļāļāļāļēāļāđāļāļāļēāļĢāļāļāļŠāļāļāđāļāļĒāđāļĄāđāļāđāļāļāđāļāļĨāļĩāđāļĒāļāļŠāļāļēāļāļąāļāļĒāļāļĢāļĢāļĄāđāļāļāļāļģāļĨāļāļ
SAM āļāļģāļŦāļāļāđāļāđāļēāļŦāļĄāļēāļĒāļāļąāđāļāļāđāļģāđāļāļāļāļāļāļĩāđāđāļāļ·āđāļāļāļāļēāļāļāļēāļĢāļŠāļđāļāđāļŠāļĩāļĒāļāļĩāđāļĒāļąāļāļāļāļāđāļģāļ āļēāļĒāđāļāđāļāļēāļĢāļāđāļāļāļ§āļāđāļĨāđāļāļāđāļāļĒāļĄāļĩāđāļāļ§āđāļāđāļĄāļāļĩāđāļāļ°āļŠāļĢāļļāļāļāđāļāļĄāļđāļĨāļāļąāđāļ§āđāļāđāļāđāļāļĩāļāļ§āđāļēāļāđāļāļĄāļđāļĨāļāļĩāđāļĄāļāļāđāļĄāđāđāļŦāđāļ
SAM āļāļģāļāļ§āļāļāļēāļĢāđāļĨāđāļĢāļ°āļāļąāļāļŠāļĩāđāļāļ·āđāļāļāđāļāļŦāļēāļāļļāļāđāļāļĨāđāđāļāļĩāļĒāļāļāļĩāđāļĄāļĩāļāļĢāļāļĩāļāļĩāđāđāļĒāđāļāļĩāđāļŠāļļāļ āļāļēāļāļāļąāđāļāđāļĨāđāļĢāļ°āļāļąāļāļŠāļĩāļāļĩāļāļāļļāļāļāļĩāđāļāļąāđāļāđāļāļ·āđāļāļāļąāļāđāļāļ â āļāļĢāļ°āļĄāļēāļāļŠāļāļāđāļāđāļēāļāļāļāļāđāļāļāļļāļāļāļāļāļī
Rho āļāļģāļŦāļāļāļ§āđāļēāļāļąāđāļāļāļāļ 'āļāļēāļĢāļāļķāđāļ' āđāļāļĨāļ·āđāļāļāļāļĩāđāđāļāđāļāļĨāđāļāđāđāļŦāļāđāļāļ·āđāļāļāđāļāļŦāļēāđāļāļ·āđāļāļāļāđāļēāļāļāļĩāđāđāļĨāļ§āļĢāđāļēāļĒāļāļĩāđāļŠāļļāļ āđāļāļĒāļāļģāļŦāļāļāļ§āđāļē SAM āđāļāļāļ·āđāļāļāļĩāđāļĢāļēāļāļāļ°āļāđāļāļŦāļēāļāļāļēāļāđāļŦāļāđāđāļāļĩāļĒāļāđāļ
āļāļąāđāļāđāļĢāļ SAM āļāļ°āļĢāļāļāļ§āļāļāđāļģāļŦāļāļąāļāļ āļēāļĒāđāļāļĢāļąāļĻāļĄāļĩ rho āđāļāļāļīāļĻāļāļēāļāļāļĩāđāļāļģāđāļŦāđāđāļāļīāļāļāļēāļĢāļŠāļđāļāđāļŠāļĩāļĒāļŠāļđāļāļŠāļļāļ āļāļēāļāļāļąāđāļāļāļķāļāđāļāļĨāļ·āđāļāļāļĨāļāļĄāļēāļāļēāļāļāļļāļāđāļāļīāļĄāđāļāļĒāđāļāđāļāļēāļĢāđāļĨāđāļĢāļ°āļāļąāļāļŠāļĩāļāļĩāđāļāļģāļāļ§āļ āļ āļāļļāļāļāļąāđāļ
āļāļēāļĢāļāļāļāļģāļāļĨāļēāļāļāļĩāđāļĄāļĩāđāļŠāļĩāļĒāļāļāļąāļāļĄāļąāļāļāđāļāļāđāļāđāļāđāļēāļāļąāđāļāļāđāļģāļāļĩāđāļāļĄāļāļąāļāđāļĨāļ°āđāļāļ āđāļāļĒāļāļēāļĢāđāļĨāļ·āļāļāļāļ·āđāļāļāļĩāđāļĢāļēāļ SAM āļāļ°āļāđāļāļāđāļēāļāļāļēāļĢāļāļĢāļąāļāļĄāļēāļāđāļāļīāļāđāļ
āđāļĢāļĩāļĒāļāļĢāļđāđāļāđāļāđāļ
āļāļģāđāļāļ°āļāļģāđāļāļīāđāļĄāđāļāļīāļĄāļāļĩāđāđāļĨāļ·āļāļāļŠāļģāļŦāļĢāļąāļāļŦāļąāļ§āļāđāļāļāļĩāđ
āļāđāļāđāļāļāļģāđāļāļ°āļāļģāļāđāļāđāļ
āļāļēāļĢāļĨāļāļāļ§āļēāļĄāđāļŠāļĩāđāļĒāļāđāļāļīāļāļāļĢāļ°āļāļąāļāļĐāđ
āļāļ§āļēāļĄāļĢāļđāđāļāļ·āđāļāļāļēāļ