āļāđāļāđāļāļāļģāđāļāļ°āļāļģāļāđāļāđāļ
āļāļąāļ§āđāļāđāļēāļĢāļŦāļąāļŠāļāļąāļāđāļāļĄāļąāļāļīāđāļāļāļāļĢāļ°āļāļąāļāļāļĢāļ°āļāļēāļĒāļŠāļģāļŦāļĢāļąāļāļāļēāļĢāđāļĒāļāļāļļāļāļŠāļĄāļāļąāļāļī
āļ āļēāļĐāļēāđāļāđāļ
āļāļđāđāļĄāļ·āļāļāļēāļāđāļāļāļāļīāļ
āđāļāļĢāđāļāļĢāļĄāđāļāđāļēāļĢāļŦāļąāļŠāļāļąāļāđāļāļĄāļąāļāļīāđāļāļāļāļĢāļ°āļāļēāļĒ (SAE) āđāļāđāļāđāļāļĢāļ·āđāļāļāļĄāļ·āļāļāļĩāđāđāļĒāļāļāļēāļĢāđāļāļīāļāđāļāđāļāļēāļāļ āļēāļĒāđāļāļāļĩāđāļāļąāļāļāļąāļāļāļāļāđāļāļĢāļāļāđāļēāļĒāļāļĢāļ°āļŠāļēāļāđāļāļĩāļĒāļĄāđāļŦāđāļāļĨāļēāļĒāđāļāđāļāļāļļāļāļāļĩāđāļāļāļĢāđāļāļĩāđāļŠāļ°āļāļēāļāļāļ§āđāļēāđāļĨāļ°āļĄāļāļļāļĐāļĒāđāļāļĩāļāļ§āļēāļĄāđāļāđ
āļāļąāļāļāļģāđāļāļ°āļāļģāļāļĩāđāļāļĢāļĢāļĒāļēāļĒāđāļāļĒ AI · ~2 min
āļāļ§āļāđāļāļēāđāļāđāļāļŦāļāļķāđāļāđāļāđāļāļāļāļīāļāļāļąāđāļāļāļģāđāļāļāļēāļĢāđāļāļīāļ 'āļāļĨāđāļāļāļāļģ' āđāļĨāļ°āļāļđāļ§āđāļēāđāļāļāļāļģāļĨāļāļāļāļąāđāļāđāļŠāļāļāļāļķāļāđāļāļ§āļāļīāļāđāļ
āļ āļēāļĒāđāļāļŦāļĄāđāļāđāļāļĨāļāđāļāļāđāļē āđāļ§āļāđāļāļāļĢāđāļāļēāļĢāđāļāļīāļāđāļāđāļāļēāļāđāļāļĩāļĒāļāļāļąāļ§āđāļāļĩāļĒāļ§āļāļ°āļāļŠāļĄāļāļŠāļēāļāđāļāļ§āļāļīāļāļŦāļĨāļēāļĒāļāļąāļāļĢāļēāļĒāļāļēāļĢāđāļāđāļēāļāđāļ§āļĒāļāļąāļāđāļāļāļĢāļēāļ§āđāļāļĩāļĒāļ§ āļāļķāđāļāļāļģāđāļŦāđāļāđāļēāļāđāļāđāļĒāļēāļ āļāļąāļ§āđāļāđāļēāļĢāļŦāļąāļŠāļāļąāļāđāļāļĄāļąāļāļīāđāļāļāļāļĢāļ°āļāļąāļāļāļĢāļ°āļāļēāļĒāđāļāđāļāđāļāļĢāļ·āļāļāđāļēāļĒāļŠāļāļāļāļąāđāļāļāļāļēāļāđāļĨāđāļāļāļĩāđāđāļāđāļĢāļąāļāļāļēāļĢāļāļķāļāļāļāđāļāļ·āđāļāļŠāļĢāđāļēāļāļāļēāļĢāđāļāļīāļāđāļāđāļāļēāļāđāļŦāļĨāđāļēāļāļąāđāļāļāļķāđāļāļĄāļēāđāļŦāļĄāđāļāđāļēāļāđāļĨāđāļĒāļāļĢāđāļāļĩāđāļāđāļāļāļāļĒāļđāđāđāļāļ§āļāļāļ§āđāļēāļ āđāļāđāļāđāļ§āļĒāļāļēāļĢāļĨāļāđāļāļĐāđāļāļāļāļĢāļ°āļāļąāļāļāļĢāļ°āļāļēāļĒāļāļģāđāļŦāđāđāļāļĨāļĨāđāļāļĢāļ°āļŠāļēāļāđāļāļĩāļĒāļāđāļĄāđāļāļĩāđāļāļąāļ§āļāļēāļāļāļģāļāļ§āļāļĄāļēāļāļāđāļāļāđāļĢāļīāđāļĄāļāļģāļāļēāļāđāļāđāļāđāļĨāļ°āļāļĢāļąāđāļ āđāļāļ·āđāļāļāļāļēāļāļāļ§āļēāļĄāļāļāļāļąāļāļāļąāđāļ āđāļāđāļĨāļ°āļĒāļđāļāļīāļāļāļĩāđāļāđāļāļāļāļĒāļđāđāļāļķāļāļĄāļĩāđāļāļ§āđāļāđāļĄāļāļĩāđāļāļ°āđāļāļĩāđāļĒāļ§āļāļēāļāđāļāđāļāļ§āļāļīāļāđāļāļĩāļĒāļ§ āđāļāđāļ 'āļāļēāļĢāļāļĨāđāļēāļ§āļāļķāļāļŠāļ°āļāļēāļāđāļāļĨāđāļāļāđāļāļ' āļŦāļĢāļ·āļ 'āļĢāļŦāļąāļŠāđāļāļāļāļ' āđāļāļāļĩ 2024 Anthropic āļāļĢāļąāļāļāļāļēāļāļāļĩāđāđāļāđāļ Claude 3 Sonnet āđāļāļĒāđāļĒāļāļāļļāļāļĨāļąāļāļĐāļāļ°āļāļĢāļ°āļĄāļēāļ 34 āļĨāđāļēāļāļĢāļēāļĒāļāļēāļĢ āđāļĨāļ° OpenAI āđāļĨāļ° DeepMind āđāļāļĒāđāļāļĢāđāļāļēāļ SAE āđāļāļāļāļđāđāļāļāļēāļ āļāļēāļāļāļąāđāļāļāļąāļāļ§āļīāļāļąāļĒāļŠāļēāļĄāļēāļĢāļāļĒāļķāļāļāļļāļāļĨāļąāļāļĐāļāļ°āļāļķāđāļāļŦāļĢāļ·āļāļĨāļāđāļāļ·āđāļāļāļāļŠāļāļāđāļāļīāļāļŠāļēāđāļŦāļāļļāļ§āđāļēāļāļģāļāļ°āđāļĢāđāļāđāļāđāļēāļ
āļāļēāļĢāļŠāļēāļāļīāļ 'Golden Gate Claude' āļāļāļ Anthropic āļāļķāđāļāļāļēāļĢāļāļĒāļēāļĒāļāļļāļāļŠāļĄāļāļąāļāļī SAE āđāļāļĩāļĒāļ§āļāļģāđāļŦāđāđāļĄāđāļāļĨāļĄāļĩāļāļēāļĢāļāđāļēāļāļāļīāļāļŠāļ°āļāļēāļāļāļĒāđāļēāļāļāļĢāļāļāļāļģāđāļāļāļļāļāļāļēāļĢāļāļāļāļāļĨāļąāļ
āđāļĒāļāđāļĨāļ°āļāļīāļāļāđāļēāļĒāļāļģāļāļąāļāļāļĩāđāļāļāļĢāđāļāļĢāļ°āļĄāļēāļ 34 āļĨāđāļēāļāļĢāļēāļĒāļāļēāļĢāļāļēāļ Claude 3 Sonnet āđāļāļ·āđāļāđāļĄāļāđāļāļ§āļāļīāļ āđāļāđāļ āļāļ§āļēāļĄāđāļĄāđāļŠāļāļāļāļĨāđāļāļāļāļąāļ āļāđāļāļāļīāļāļāļĨāļēāļāļāļāļāđāļāđāļ āđāļĨāļ°āļāļĪāļāļīāļāļĢāļĢāļĄāļāļĩāđāđāļĄāđāļāļĨāļāļāļ āļąāļĒ
āļāļēāļĢāļāđāļāļŦāļēāļāļļāļāļŠāļĄāļāļąāļāļīāļāļĩāđāđāļāļĩāđāļĒāļ§āļāđāļāļāļāļąāļāļāļ§āļēāļĄāļāļĨāļāļāļ āļąāļĒ āđāļāđāļ āļāļēāļĢāļŦāļĨāļāļāļĨāļ§āļ āļāļāļāļī āļŦāļĢāļ·āļāđāļāļ·āđāļāļŦāļēāļāļĩāđāđāļāđāļāļāļąāļāļāļĢāļēāļĒāļāļĩāđāļŠāļēāļĄāļēāļĢāļāļāļĢāļ§āļāļŠāļāļāļŦāļĢāļ·āļāļāļģāļāļēāļāđāļāđāđāļāļĢāļ°āļŦāļ§āđāļēāļāļāļēāļĢāļāļĢāļąāļāđāļāđ
āļāļēāļĢāđāļāđāđāļāļāļļāļāļāļāļāļĢāđāļāļāļ§āđāļēāđāļŦāļāļļāđāļāđāļĄāđāļāļĨāļāļķāļāļāļąāļāļāļĢāļ°āđāļ āļāļāļīāļāļāļļāļāļāļīāļāđāļāļĒāļāļēāļĢāļāļĢāļ§āļāļŠāļāļāļāļļāļāļĨāļąāļāļĐāļāļ°āļāļĩāđāļŠāļēāļĄāļēāļĢāļāļāļĩāļāļ§āļēāļĄāđāļāđāļāļķāđāļāđāļāļīāļāđāļāđāļāļēāļāļāļāļāļĢāļāļĄāļāđāļāļĩāđāļāļģāļŦāļāļ
āļāļēāļāļŦāļ§āļąāļāļ§āđāļē SAE āļāļ°āđāļāļĨāļĩāđāļĒāļāļāļēāļāļāļ§āļēāļĄāļāļĒāļēāļāļĢāļđāđāļāļĒāļēāļāđāļŦāđāļāđāļāļāļēāļĢāļ§āļīāļāļąāļĒāđāļāļŠāļđāđāļāļēāļĢāļāļĢāļ§āļāļŠāļāļāđāļāļīāļāļāļāļīāļāļąāļāļīāđāļĨāļ°āđāļāļĢāļ·āđāļāļāļĄāļ·āļāļāđāļēāļāļāļ§āļēāļĄāļāļĨāļāļāļ āļąāļĒ āļĢāļ§āļĄāļāļķāļāđāļāļāļāļāļĢāđāļāļāļĩāđāļāļīāļāļāđāļēāļĒāļāļģāļāļąāļāļāļļāļāļĨāļąāļāļĐāļāļ°āđāļĨāļ°āļāļĢāļ§āļāļāļąāļāļ§āļāļāļĢāļŦāļĨāļāļāļĨāļ§āļāļŦāļĢāļ·āļāđāļĄāđāļāļĨāļāļāļ āļąāļĒ āļāļąāļāļŦāļēāļāļĩāđāđāļāļīāļāļāļ§āđāļēāļ āđāļāđāđāļāđ 'āļāļēāļĢāđāļĒāļāļāļļāļāļŠāļĄāļāļąāļāļī' (āđāļāļ§āļāļīāļāđāļāļĩāļĒāļ§āļāļĩāđāđāļāļāļāļāļāđāļāđāļāļŦāļĨāļēāļĒ āđ āđāļāļ§āļāļīāļ) āļāļļāļāļŠāļĄāļāļąāļāļīāļāļĩāđāļāļēāļāļŦāļēāļĒāđāļ āđāļĨāļ°āļāđāļēāđāļāđāļāđāļēāļĒāđāļāļāļēāļĢāļāļķāļāļāļāļĢāļĄ SAE āļāļāđāļĄāđāļāļĨāļāļēāļĒāđāļāļāļāļļāļāđāļĨāđāļĒāļāļĢāđ āļāļīāļĻāļāļēāļāļāļĩāđāđāļŦāļĄāđāļāļ§āđāļē āđāļāđāļ āļāļĢāļāļŠāđāļāđāļāđāļāļāļĢāđ āļāļĢāļēāļāļŠāđāđāļāđāļāđāļāļāļĢāđ āđāļĨāļ° Matryoshka SAE āļĄāļĩāļāļļāļāļĄāļļāđāļāļŦāļĄāļēāļĒāđāļāļ·āđāļāļāļąāļāļāļķāļāļāļēāļĢāļāļĢāļ°āļĄāļ§āļĨāļāļĨāļāđāļēāļĄāđāļĨāđāļĒāļāļĢāđāđāļĨāļ°āļŦāļĨāļēāļĒāļĢāļēāļĒāļĨāļ°āđāļāļĩāļĒāļāļāļĢāđāļāļĄāļāļąāļ
āļāļāļŦāļĄāļēāļĒāļāđāļēāļ§āļāļĢāļĩ
āđāļĢāļ·āđāļāļāļĢāļēāļ§ AI āļāļĩāđāļāļĢāļ§āļāļŠāļāļāđāļĨāđāļ§ 3 āđāļĢāļ·āđāļāļāļāļļāļāļ§āļąāļāļāļģāļāļēāļ āđāļāđāļē, āđāļāļĩāļĒāļāđāļāđāļāļ āļēāļĐāļēāļāļąāļāļāļĪāļĐāļāļĢāļĢāļĄāļāļē āļāļĢāļĩāļāļĨāļāļāđāļ āđāļĄāđāļĄāļĩāđāļāļĐāļāļē
āļāļĩāđāļĄāļĨāļŦāļāļķāđāļāļāļāļąāļāļāļļāļāļ§āļąāļāļāļģāļāļēāļ āļĒāļāđāļĨāļīāļāļāļēāļĢāļŠāļĄāļąāļāļĢāđāļāļāļĨāļīāļāđāļāļĩāļĒāļ§ āđāļĢāļēāđāļĄāđāđāļāļĒāļāļēāļĒāļŦāļĢāļ·āļāđāļāļĢāđāļāļĩāđāļāļĒāļđāđāļāļĩāđāļĄāļĨāļāļāļāļāļļāļ
āļāļāļŠāļāļāļāļąāļ§āđāļāļ
āļāđāļāđāļŠāļāļāđāļāļ°āļāļąāļāļāļĩāļŠāļģāļŦāļĢāļąāļāļāļļāļāļāļģāļāļāļ āđāļĨāļ°āđāļāļĢāļąāļāļĢāļāļāļāļĩāđāļŠāļēāļĄāļēāļĢāļāđāļāļĢāđāđāļāđāļāļĢāđāļāļĄ ID āļāļĩāđāļāļĢāļ§āļāļŠāļāļāđāļāđāđāļĄāļ·āđāļāļāļļāļāļāđāļēāļāļŦāļĨāļąāļāļŠāļđāļāļĢ
āļŠāļāļąāļāļŠāļāļļāļāļāļēāļĢāļĻāļķāļāļĐāļē AI āļāļĢāļĩ AI Understanding āđāļāđāļāļāļāļāđāļāļĢāđāļĄāđāđāļŠāļ§āļāļŦāļēāļāļĨāļāļģāđāļĢ 501(c)(3) â āđāļĄāđāļĄāļĩāđāļāļĐāļāļē āđāļĄāđāļĄāļĩāļāļģāđāļāļāđāļāļīāļ, āļāļĨāļāļāđāļ āļāļĢāļīāļāļēāļ
āđāļāļĢāđāļāļĢāļĄāđāļāđāļēāļĢāļŦāļąāļŠāļāļąāļāđāļāļĄāļąāļāļīāđāļāļāļāļĢāļ°āļāļēāļĒ (SAE) āđāļāđāļāđāļāļĢāļ·āđāļāļāļĄāļ·āļāļāļĩāđāđāļĒāļāļāļēāļĢāđāļāļīāļāđāļāđāļāļēāļāļ āļēāļĒāđāļāļāļĩāđāļāļąāļāļāļąāļāļāļāļāđāļāļĢāļāļāđāļēāļĒāļāļĢāļ°āļŠāļēāļāđāļāļĩāļĒāļĄāđāļŦāđāļāļĨāļēāļĒāđāļāđāļāļāļļāļāļāļĩāđāļāļāļĢāđāļāļĩāđāļŠāļ°āļāļēāļāļāļ§āđāļēāđāļĨāļ°āļĄāļāļļāļĐāļĒāđāļāļĩāļāļ§āļēāļĄāđāļāđ āļāļ§āļāđāļāļēāđāļāđāļāļŦāļāļķāđāļāđāļāđāļāļāļāļīāļāļāļąāđāļāļāļģāđāļāļāļēāļĢāđāļāļīāļ 'āļāļĨāđāļāļāļāļģ' āđāļĨāļ°āļāļđāļ§āđāļēāđāļāļāļāļģāļĨāļāļāļāļąāđāļāđāļŠāļāļāļāļķāļāđāļāļ§āļāļīāļāđāļ
SAE āļŠāļĢāđāļēāļāļāļēāļĢāđāļāļīāļāđāļāđāļāļēāļāļāļķāđāļāđāļŦāļĄāđāļāđāļēāļāļāļąāđāļāļāđāļāļāļāļĩāđāļāļ§āđāļēāļāđāļĨāļ°āļāļĢāļ°āļāļąāļāļāļĢāļ°āļāļēāļĒ āđāļāļ·āđāļāđāļŦāđāđāļāđāļĨāļ°āļŦāļāđāļ§āļĒāļĄāļĩāđāļāļ§āđāļāđāļĄāļāļĩāđāļāļ°āļŠāļāļāļāļĨāđāļāļāļāļąāļāđāļāļ§āļāļīāļāđāļāļĩāļĒāļ§āļāļĩāđāļĄāļāļļāļĐāļĒāđāđāļāđāļēāđāļāđāļāđ
Sparsity encourages feature-selective activity but does not guarantee perfect one-neuron-per-concept representations.
āļāļēāļ "Scaling Monosemanticity" āļāļāļ Anthropic āļāļĩ 2024 āđāļāđāļĢāļąāļāļāļēāļĢāļāļķāļāļāļāļāļĄāļēāļāļēāļĄāļĨāļģāļāļąāļāļāļĩāđāļāļāļĢāđ 34 āļĨāđāļēāļāļĢāļēāļĒāļāļēāļĢāļāļēāļāđāļĄāđāļāļĨāļāļĩāđāđāļāđāļāļēāļāļāļĢāļīāļ
āļāđāļ§āļĒāļāļēāļĢāļāļĒāļēāļĒāļāļļāļāļĨāļąāļāļĐāļāļ°āļāļāļāļŠāļ°āļāļēāļāđāļāļĨāđāļāļāđāļāļ āļāļąāļāļ§āļīāļāļąāļĒāđāļāđāļŠāļĢāđāļēāļāđāļāļāļāļģāļĨāļāļāļāļēāļĢāļāļĢāļķāļāļāļāļŠāļ°āļāļēāļ āđāļāļĒāđāļŠāļāļāđāļŦāđāđāļŦāđāļāļ§āđāļēāļāļļāļāļĨāļąāļāļĐāļāļ°āļāđāļēāļāđ āđāļāđāļāđāļāļĩāļĒāļāļāļĨāđāļāļāļĩāđāđāļāđāļāļŠāļēāđāļŦāļāļļ āđāļĄāđāđāļāđāđāļāđāļāđāļēāļĒāļāļģāļāļąāļāđāļāđāļēāļāļąāđāļ
āđāļĄāđāļāļĨāļāļĢāļĢāļāļļāđāļāļ§āļāļīāļāļĄāļēāļāļĄāļēāļĒāđāļ§āđāđāļāļĄāļīāļāļīāļāļĩāđāļāļģāļāļąāļ (āļāļēāļĢāļāđāļāļāļāļąāļ) SAE āļāļĩāđāļāļ§āđāļēāļāđāļĨāļ°āļŠāļĄāļāļđāļĢāļāđāļĄāļēāļāđāļāļīāļāđāļāļāļ°āļāļģāđāļŦāđāļŦāđāļāļāđāļāļ§āļāļīāļāđāļāđāļĨāļ°āļŦāđāļāļāļŠāļēāļĄāļēāļĢāļāļāļĢāļāļāļāļĢāļāļāļĒāļđāļāļīāļāļāļāļāļāļąāļ§āđāļāļāđāļāđ
āđāļĢāļĩāļĒāļāļĢāļđāđāļāđāļāđāļ
āļāļģāđāļāļ°āļāļģāđāļāļīāđāļĄāđāļāļīāļĄāļāļĩāđāđāļĨāļ·āļāļāļŠāļģāļŦāļĢāļąāļāļŦāļąāļ§āļāđāļāļāļĩāđ
āļāđāļāđāļāļāļģāđāļāļ°āļāļģāļāđāļāđāļ
āļāļąāļ§āđāļāđāļēāļĢāļŦāļąāļŠāļāļąāļāđāļāļĄāļąāļāļīāđāļāļāļāļĢāļ°āļāļąāļāļāļĢāļ°āļāļēāļĒāļŠāļģāļŦāļĢāļąāļāļāļēāļĢāđāļĒāļāļāļļāļāļŠāļĄāļāļąāļāļī
āļ āļēāļĐāļēāđāļāđāļ