āļ„āļđāđˆāļĄāļ·āļ­āļ—āļēāļ‡āđ€āļ—āļ„āļ™āļīāļ„

āļ•āļąāļ§āđ€āļ‚āđ‰āļēāļĢāļŦāļąāļŠāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļīāđāļšāļšāļāļĢāļ°āļˆāļąāļ”āļāļĢāļ°āļˆāļēāļĒāđ€āļžāļ·āđˆāļ­āļāļēāļĢāļ•āļĩāļ„āļ§āļēāļĄ

āđ‚āļ›āļĢāđāļāļĢāļĄāđ€āļ‚āđ‰āļēāļĢāļŦāļąāļŠāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļīāđāļšāļšāļāļĢāļ°āļˆāļēāļĒ (SAE) āđ€āļ›āđ‡āļ™āđ€āļ„āļĢāļ·āđˆāļ­āļ‡āļĄāļ·āļ­āļ—āļĩāđˆāđāļĒāļāļāļēāļĢāđ€āļ›āļīāļ”āđƒāļŠāđ‰āļ‡āļēāļ™āļ āļēāļĒāđƒāļ™āļ—āļĩāđˆāļžāļąāļ™āļāļąāļ™āļ‚āļ­āļ‡āđ‚āļ„āļĢāļ‡āļ‚āđˆāļēāļĒāļ›āļĢāļ°āļŠāļēāļ—āđ€āļ—āļĩāļĒāļĄāđƒāļŦāđ‰āļāļĨāļēāļĒāđ€āļ›āđ‡āļ™āļŠāļļāļ”āļŸāļĩāđ€āļˆāļ­āļĢāđŒāļ—āļĩāđˆāļŠāļ°āļ­āļēāļ”āļāļ§āđˆāļēāđāļĨāļ°āļĄāļ™āļļāļĐāļĒāđŒāļ•āļĩāļ„āļ§āļēāļĄāđ„āļ”āđ‰

āļŸāļąāļ‡āļ„āļģāđāļ™āļ°āļ™āļģāļ™āļĩāđ‰āļšāļĢāļĢāļĒāļēāļĒāđ‚āļ”āļĒ AI · ~2 min

āļšāļ™āļŦāļ™āđ‰āļēāļ™āļĩāđ‰āļ­āđˆāļēāļ™ 2 āļ™āļēāļ—āļĩ
  1. āļ āļēāļžāļĢāļ§āļĄ
  2. āđ€āļˆāļēāļ°āļĨāļķāļ
  3. āļāļēāļĢāđƒāļŠāđ‰āļ‡āļēāļ™āļˆāļĢāļīāļ‡āđƒāļ™āđ‚āļĨāļāđāļŦāđˆāļ‡āļ„āļ§āļēāļĄāđ€āļ›āđ‡āļ™āļˆāļĢāļīāļ‡
  4. āļ­āļ™āļēāļ„āļ•āļ‚āļ­āļ‡āļ•āļąāļ§āđ€āļ‚āđ‰āļēāļĢāļŦāļąāļŠāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļīāđāļšāļšāļāļĢāļ°āļˆāļąāļ”āļāļĢāļ°āļˆāļēāļĒāļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļ•āļĩāļ„āļ§āļēāļĄ
  5. āļāļēāļĢāļ™āļģāđ„āļ›āļ›āļāļīāļšāļąāļ•āļī
  6. āļŠāļģāļĢāļ§āļˆāļ•āđˆāļ­āđ„āļ›
  7. āļ„āļģāļ–āļēāļĄāļ—āļĩāđˆāļžāļšāļšāđˆāļ­āļĒ

āļ āļēāļžāļĢāļ§āļĄ

āļžāļ§āļāđ€āļ‚āļēāđ€āļ›āđ‡āļ™āļŦāļ™āļķāđˆāļ‡āđƒāļ™āđ€āļ—āļ„āļ™āļīāļ„āļŠāļąāđ‰āļ™āļ™āļģāđƒāļ™āļāļēāļĢāđ€āļ›āļīāļ” 'āļāļĨāđˆāļ­āļ‡āļ”āļģ' āđāļĨāļ°āļ”āļđāļ§āđˆāļēāđāļšāļšāļˆāļģāļĨāļ­āļ‡āļ™āļąāđ‰āļ™āđāļŠāļ”āļ‡āļ–āļķāļ‡āđāļ™āļ§āļ„āļīāļ”āđƒāļ”

āđ€āļˆāļēāļ°āļĨāļķāļ

āļ āļēāļĒāđƒāļ™āļŦāļĄāđ‰āļ­āđāļ›āļĨāļ‡āđ„āļŸāļŸāđ‰āļē āđ€āļ§āļāđ€āļ•āļ­āļĢāđŒāļāļēāļĢāđ€āļ›āļīāļ”āđƒāļŠāđ‰āļ‡āļēāļ™āđ€āļžāļĩāļĒāļ‡āļ•āļąāļ§āđ€āļ”āļĩāļĒāļ§āļˆāļ°āļœāļŠāļĄāļœāļŠāļēāļ™āđāļ™āļ§āļ„āļīāļ”āļŦāļĨāļēāļĒāļžāļąāļ™āļĢāļēāļĒāļāļēāļĢāđ€āļ‚āđ‰āļēāļ”āđ‰āļ§āļĒāļāļąāļ™āđƒāļ™āļ„āļĢāļēāļ§āđ€āļ”āļĩāļĒāļ§ āļ‹āļķāđˆāļ‡āļ—āļģāđƒāļŦāđ‰āļ­āđˆāļēāļ™āđ„āļ”āđ‰āļĒāļēāļ āļ•āļąāļ§āđ€āļ‚āđ‰āļēāļĢāļŦāļąāļŠāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļīāđāļšāļšāļāļĢāļ°āļˆāļąāļ”āļāļĢāļ°āļˆāļēāļĒāđ€āļ›āđ‡āļ™āđ€āļ„āļĢāļ·āļ­āļ‚āđˆāļēāļĒāļŠāļ­āļ‡āļŠāļąāđ‰āļ™āļ‚āļ™āļēāļ”āđ€āļĨāđ‡āļāļ—āļĩāđˆāđ„āļ”āđ‰āļĢāļąāļšāļāļēāļĢāļāļķāļāļāļ™āđ€āļžāļ·āđˆāļ­āļŠāļĢāđ‰āļēāļ‡āļāļēāļĢāđ€āļ›āļīāļ”āđƒāļŠāđ‰āļ‡āļēāļ™āđ€āļŦāļĨāđˆāļēāļ™āļąāđ‰āļ™āļ‚āļķāđ‰āļ™āļĄāļēāđƒāļŦāļĄāđˆāļœāđˆāļēāļ™āđ€āļĨāđ€āļĒāļ­āļĢāđŒāļ—āļĩāđˆāļ‹āđˆāļ­āļ™āļ­āļĒāļđāđˆāđƒāļ™āļ§āļ‡āļāļ§āđ‰āļēāļ‡ āđāļ•āđˆāļ”āđ‰āļ§āļĒāļāļēāļĢāļĨāļ‡āđ‚āļ—āļĐāđāļšāļšāļāļĢāļ°āļˆāļąāļ”āļāļĢāļ°āļˆāļēāļĒāļ—āļģāđƒāļŦāđ‰āđ€āļ‹āļĨāļĨāđŒāļ›āļĢāļ°āļŠāļēāļ—āđ€āļžāļĩāļĒāļ‡āđ„āļĄāđˆāļāļĩāđˆāļ•āļąāļ§āļˆāļēāļāļˆāļģāļ™āļ§āļ™āļĄāļēāļāļ•āđ‰āļ­āļ‡āđ€āļĢāļīāđˆāļĄāļ—āļģāļ‡āļēāļ™āđƒāļ™āđāļ•āđˆāļĨāļ°āļ„āļĢāļąāđ‰āļ‡ āđ€āļ™āļ·āđˆāļ­āļ‡āļˆāļēāļāļ„āļ§āļēāļĄāļāļ”āļ”āļąāļ™āļ™āļąāđ‰āļ™ āđāļ•āđˆāļĨāļ°āļĒāļđāļ™āļīāļ•āļ—āļĩāđˆāļ‹āđˆāļ­āļ™āļ­āļĒāļđāđˆāļˆāļķāļ‡āļĄāļĩāđāļ™āļ§āđ‚āļ™āđ‰āļĄāļ—āļĩāđˆāļˆāļ°āđ€āļŠāļĩāđˆāļĒāļ§āļŠāļēāļāđƒāļ™āđāļ™āļ§āļ„āļīāļ”āđ€āļ”āļĩāļĒāļ§ āđ€āļŠāđˆāļ™ 'āļāļēāļĢāļāļĨāđˆāļēāļ§āļ–āļķāļ‡āļŠāļ°āļžāļēāļ™āđ‚āļāļĨāđ€āļ”āļ™āđ€āļāļ•' āļŦāļĢāļ·āļ­ 'āļĢāļŦāļąāļŠāđ„āļžāļ˜āļ­āļ™' āđƒāļ™āļ›āļĩ 2024 Anthropic āļ›āļĢāļąāļšāļ‚āļ™āļēāļ”āļ™āļĩāđ‰āđ€āļ›āđ‡āļ™ Claude 3 Sonnet āđ‚āļ”āļĒāđāļĒāļāļ„āļļāļ“āļĨāļąāļāļĐāļ“āļ°āļ›āļĢāļ°āļĄāļēāļ“ 34 āļĨāđ‰āļēāļ™āļĢāļēāļĒāļāļēāļĢ āđāļĨāļ° OpenAI āđāļĨāļ° DeepMind āđ€āļœāļĒāđāļžāļĢāđˆāļ‡āļēāļ™ SAE āđāļšāļšāļ„āļđāđˆāļ‚āļ™āļēāļ™ āļˆāļēāļāļ™āļąāđ‰āļ™āļ™āļąāļāļ§āļīāļˆāļąāļĒāļŠāļēāļĄāļēāļĢāļ–āļĒāļķāļ”āļ„āļļāļ“āļĨāļąāļāļĐāļ“āļ°āļ‚āļķāđ‰āļ™āļŦāļĢāļ·āļ­āļĨāļ‡āđ€āļžāļ·āđˆāļ­āļ—āļ”āļŠāļ­āļšāđ€āļŠāļīāļ‡āļŠāļēāđ€āļŦāļ•āļļāļ§āđˆāļēāļ—āļģāļ­āļ°āđ„āļĢāđ„āļ”āđ‰āļšāđ‰āļēāļ‡

āļāļēāļĢāđƒāļŠāđ‰āļ‡āļēāļ™āļˆāļĢāļīāļ‡āđƒāļ™āđ‚āļĨāļāđāļŦāđˆāļ‡āļ„āļ§āļēāļĄāđ€āļ›āđ‡āļ™āļˆāļĢāļīāļ‡

āļāļēāļĢāļŠāļēāļ˜āļīāļ• 'Golden Gate Claude' āļ‚āļ­āļ‡ Anthropic āļ‹āļķāđˆāļ‡āļāļēāļĢāļ‚āļĒāļēāļĒāļ„āļļāļ“āļŠāļĄāļšāļąāļ•āļī SAE āđ€āļ”āļĩāļĒāļ§āļ—āļģāđƒāļŦāđ‰āđ‚āļĄāđ€āļ”āļĨāļĄāļĩāļāļēāļĢāļ­āđ‰āļēāļ‡āļ­āļīāļ‡āļŠāļ°āļžāļēāļ™āļ­āļĒāđˆāļēāļ‡āļ„āļĢāļ­āļšāļ‡āļģāđƒāļ™āļ—āļļāļāļāļēāļĢāļ•āļ­āļšāļāļĨāļąāļš

āđāļĒāļāđāļĨāļ°āļ•āļīāļ”āļ›āđ‰āļēāļĒāļāļģāļāļąāļšāļŸāļĩāđ€āļˆāļ­āļĢāđŒāļ›āļĢāļ°āļĄāļēāļ“ 34 āļĨāđ‰āļēāļ™āļĢāļēāļĒāļāļēāļĢāļˆāļēāļ Claude 3 Sonnet āđ€āļžāļ·āđˆāļ­āđāļĄāļ›āđāļ™āļ§āļ„āļīāļ” āđ€āļŠāđˆāļ™ āļ„āļ§āļēāļĄāđ„āļĄāđˆāļŠāļ­āļ”āļ„āļĨāđ‰āļ­āļ‡āļāļąāļ™ āļ‚āđ‰āļ­āļœāļīāļ”āļžāļĨāļēāļ”āļ‚āļ­āļ‡āđ‚āļ„āđ‰āļ” āđāļĨāļ°āļžāļĪāļ•āļīāļāļĢāļĢāļĄāļ—āļĩāđˆāđ„āļĄāđˆāļ›āļĨāļ­āļ”āļ āļąāļĒ

āļāļēāļĢāļ„āđ‰āļ™āļŦāļēāļ„āļļāļ“āļŠāļĄāļšāļąāļ•āļīāļ—āļĩāđˆāđ€āļāļĩāđˆāļĒāļ§āļ‚āđ‰āļ­āļ‡āļāļąāļšāļ„āļ§āļēāļĄāļ›āļĨāļ­āļ”āļ āļąāļĒ āđ€āļŠāđˆāļ™ āļāļēāļĢāļŦāļĨāļ­āļāļĨāļ§āļ‡ āļ­āļ„āļ•āļī āļŦāļĢāļ·āļ­āđ€āļ™āļ·āđ‰āļ­āļŦāļēāļ—āļĩāđˆāđ€āļ›āđ‡āļ™āļ­āļąāļ™āļ•āļĢāļēāļĒāļ—āļĩāđˆāļŠāļēāļĄāļēāļĢāļ–āļ•āļĢāļ§āļˆāļŠāļ­āļšāļŦāļĢāļ·āļ­āļ™āļģāļ—āļēāļ‡āđ„āļ”āđ‰āđƒāļ™āļĢāļ°āļŦāļ§āđˆāļēāļ‡āļāļēāļĢāļ›āļĢāļąāļšāđƒāļŠāđ‰

āļāļēāļĢāđāļāđ‰āđ„āļ‚āļˆāļļāļ”āļšāļāļžāļĢāđˆāļ­āļ‡āļ§āđˆāļēāđ€āļŦāļ•āļļāđƒāļ”āđ‚āļĄāđ€āļ”āļĨāļˆāļķāļ‡āļˆāļąāļ”āļ›āļĢāļ°āđ€āļ āļ—āļ­āļīāļ™āļžāļļāļ•āļœāļīāļ”āđ‚āļ”āļĒāļāļēāļĢāļ•āļĢāļ§āļˆāļŠāļ­āļšāļ„āļļāļ“āļĨāļąāļāļĐāļ“āļ°āļ—āļĩāđˆāļŠāļēāļĄāļēāļĢāļ–āļ•āļĩāļ„āļ§āļēāļĄāđ„āļ”āđ‰āļ‹āļķāđˆāļ‡āđ€āļ›āļīāļ”āđƒāļŠāđ‰āļ‡āļēāļ™āļšāļ™āļžāļĢāļ­āļĄāļ•āđŒāļ—āļĩāđˆāļāļģāļŦāļ™āļ”

āļ­āļ™āļēāļ„āļ•āļ‚āļ­āļ‡āļ•āļąāļ§āđ€āļ‚āđ‰āļēāļĢāļŦāļąāļŠāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļīāđāļšāļšāļāļĢāļ°āļˆāļąāļ”āļāļĢāļ°āļˆāļēāļĒāļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļ•āļĩāļ„āļ§āļēāļĄ

āļ„āļēāļ”āļŦāļ§āļąāļ‡āļ§āđˆāļē SAE āļˆāļ°āđ€āļ›āļĨāļĩāđˆāļĒāļ™āļˆāļēāļāļ„āļ§āļēāļĄāļ­āļĒāļēāļāļĢāļđāđ‰āļ­āļĒāļēāļāđ€āļŦāđ‡āļ™āđƒāļ™āļāļēāļĢāļ§āļīāļˆāļąāļĒāđ„āļ›āļŠāļđāđˆāļāļēāļĢāļ•āļĢāļ§āļˆāļŠāļ­āļšāđ€āļŠāļīāļ‡āļ›āļāļīāļšāļąāļ•āļīāđāļĨāļ°āđ€āļ„āļĢāļ·āđˆāļ­āļ‡āļĄāļ·āļ­āļ”āđ‰āļēāļ™āļ„āļ§āļēāļĄāļ›āļĨāļ­āļ”āļ āļąāļĒ āļĢāļ§āļĄāļ–āļķāļ‡āđāļ”āļŠāļšāļ­āļĢāđŒāļ”āļ—āļĩāđˆāļ•āļīāļ”āļ›āđ‰āļēāļĒāļāļģāļāļąāļšāļ„āļļāļ“āļĨāļąāļāļĐāļ“āļ°āđāļĨāļ°āļ•āļĢāļ§āļˆāļˆāļąāļšāļ§āļ‡āļˆāļĢāļŦāļĨāļ­āļāļĨāļ§āļ‡āļŦāļĢāļ·āļ­āđ„āļĄāđˆāļ›āļĨāļ­āļ”āļ āļąāļĒ āļ›āļąāļāļŦāļēāļ—āļĩāđˆāđ€āļ›āļīāļ”āļāļ§āđ‰āļēāļ‡ āđ„āļ”āđ‰āđāļāđˆ 'āļāļēāļĢāđāļĒāļāļ„āļļāļ“āļŠāļĄāļšāļąāļ•āļī' (āđāļ™āļ§āļ„āļīāļ”āđ€āļ”āļĩāļĒāļ§āļ—āļĩāđˆāđāļ•āļāļ­āļ­āļāđ€āļ›āđ‡āļ™āļŦāļĨāļēāļĒ āđ† āđāļ™āļ§āļ„āļīāļ”) āļ„āļļāļ“āļŠāļĄāļšāļąāļ•āļīāļ—āļĩāđˆāļ‚āļēāļ”āļŦāļēāļĒāđ„āļ› āđāļĨāļ°āļ„āđˆāļēāđƒāļŠāđ‰āļˆāđˆāļēāļĒāđƒāļ™āļāļēāļĢāļāļķāļāļ­āļšāļĢāļĄ SAE āļšāļ™āđ‚āļĄāđ€āļ”āļĨāļŠāļēāļĒāđāļ”āļ™āļ—āļļāļāđ€āļĨāđ€āļĒāļ­āļĢāđŒ āļ—āļīāļĻāļ—āļēāļ‡āļ—āļĩāđˆāđƒāļŦāļĄāđˆāļāļ§āđˆāļē āđ€āļŠāđˆāļ™ āļ„āļĢāļ­āļŠāđ‚āļ„āđ‰āļ”āđ€āļ”āļ­āļĢāđŒ āļ—āļĢāļēāļ™āļŠāđŒāđ‚āļ„āđ‰āļ”āđ€āļ”āļ­āļĢāđŒ āđāļĨāļ° Matryoshka SAE āļĄāļĩāļˆāļļāļ”āļĄāļļāđˆāļ‡āļŦāļĄāļēāļĒāđ€āļžāļ·āđˆāļ­āļšāļąāļ™āļ—āļķāļāļāļēāļĢāļ›āļĢāļ°āļĄāļ§āļĨāļœāļĨāļ‚āđ‰āļēāļĄāđ€āļĨāđ€āļĒāļ­āļĢāđŒāđāļĨāļ°āļŦāļĨāļēāļĒāļĢāļēāļĒāļĨāļ°āđ€āļ­āļĩāļĒāļ”āļžāļĢāđ‰āļ­āļĄāļāļąāļ™

āļāļēāļĢāļ™āļģāđ„āļ›āļ›āļāļīāļšāļąāļ•āļī

āļ—āļģāđ„āļĄāļĄāļąāļ™āļ–āļķāļ‡āļŠāļģāļ„āļąāļ

  • āļ•āđ‰āļ™āļ—āļļāļ™āđāļĨāļ°āļ‡āļšāļ›āļĢāļ°āļĄāļēāļ“. āļāļēāļĢāļ•āļąāļ”āļŠāļīāļ™āđƒāļˆāļ”āđ‰āļēāļ™āļŠāļ–āļēāļ›āļąāļ•āļĒāļāļĢāļĢāļĄāļ‚āļąāļšāđ€āļ„āļĨāļ·āđˆāļ­āļ™āļ›āļĢāļ°āļŠāļīāļ—āļ˜āļīāļ āļēāļžāđāļĨāļ°āļ•āđ‰āļ™āļ—āļļāļ™āļāļēāļĢāļ”āļģāđ€āļ™āļīāļ™āļ‡āļēāļ™āđ€āļ›āđ‡āļ™āđ€āļ§āļĨāļēāļŦāļĨāļēāļĒāļ›āļĩ
  • āļāļēāļĢāļ•āļąāļ”āļŠāļīāļ™āđƒāļˆāļ—āļĩāđˆāļŠāļąāļ”āđ€āļˆāļ™āļĒāļīāđˆāļ‡āļ‚āļķāđ‰āļ™. āļāļēāļĢāļĻāļķāļāļĐāļēāļ”āđ‰āļēāļ™āđ€āļ—āļ„āļ™āļīāļ„āļŠāđˆāļ§āļĒāđƒāļŦāđ‰āļ—āļĩāļĄāđ€āļĨāļ·āļ­āļāļāļĨāļļāđˆāļĄāļ—āļĩāđˆāđ€āļŦāļĄāļēāļ°āļŠāļĄ āđ„āļĄāđˆāđƒāļŠāđˆāđāļ„āđˆāļāļĨāļļāđˆāļĄāđƒāļŦāļĄāđˆāļĨāđˆāļēāļŠāļļāļ”
  • āļāļēāļĢāļ„āļ§āļšāļ„āļļāļĄāļ„āļļāļ“āļ āļēāļž. āļ•āļąāļ§āđ€āļĨāļ·āļ­āļāļ—āļēāļ‡āļ§āļīāļĻāļ§āļāļĢāļĢāļĄāļ—āļĩāđˆāļ”āļĩāļāļ§āđˆāļēāļˆāļ°āļŠāđˆāļ§āļĒāļĨāļ”āđ€āļŦāļ•āļļāļāļēāļĢāļ“āđŒāļ”āđ‰āļēāļ™āļ„āļ§āļēāļĄāļ™āđˆāļēāđ€āļŠāļ·āđˆāļ­āļ–āļ·āļ­āđƒāļ™āļāļēāļĢāļœāļĨāļīāļ•

āļĢāļ°āļ§āļąāļ‡

  • āļāļēāļĢāđ€āļžāļīāđˆāļĄāļ›āļĢāļ°āļŠāļīāļ—āļ˜āļīāļ āļēāļžāđ€āļāļ“āļ‘āđŒāļĄāļēāļ•āļĢāļāļēāļ™āļŦāļ™āļķāđˆāļ‡āļĢāļēāļĒāļāļēāļĢāļŠāļēāļĄāļēāļĢāļ–āļ‹āđˆāļ­āļ™āļˆāļļāļ”āļ­āđˆāļ­āļ™āļ‚āļ­āļ‡āļĢāļ°āļšāļšāđƒāļ™āļ§āļ‡āļāļ§āđ‰āļēāļ‡āđ„āļ”āđ‰
  • āļ•āđ‰āļ™āļ—āļļāļ™āđ‚āļ„āļĢāļ‡āļŠāļĢāđ‰āļēāļ‡āļžāļ·āđ‰āļ™āļāļēāļ™āđāļĨāļ°āļāļēāļĢāļšāļģāļĢāļļāļ‡āļĢāļąāļāļĐāļēāļĄāļąāļāļ–āļđāļāļ›āļĢāļ°āđ€āļĄāļīāļ™āļ•āđˆāļģāđ„āļ›
  • āļŠāđˆāļ­āļ‡āļ§āđˆāļēāļ‡āļ”āđ‰āļēāļ™āļ„āļ§āļēāļĄāļ›āļĨāļ­āļ”āļ āļąāļĒāđāļĨāļ°āļ„āļ§āļēāļĄāļŠāļēāļĄāļēāļĢāļ–āđƒāļ™āļāļēāļĢāļŠāļąāļ‡āđ€āļāļ•āļŠāļēāļĄāļēāļĢāļ–āđ€āļžāļīāđˆāļĄāļ‚āļķāđ‰āļ™āđ„āļ”āđ‰āđ€āļĄāļ·āđˆāļ­āļĢāļ°āļšāļšāļĄāļĩāļ„āļ§āļēāļĄāļ‹āļąāļšāļ‹āđ‰āļ­āļ™āļĄāļēāļāļ‚āļķāđ‰āļ™

āļ‚āļąāđ‰āļ™āļ•āļ­āļ™āļ•āđˆāļ­āđ„āļ›

  1. āļāļģāļŦāļ™āļ”āđ€āļ›āđ‰āļēāļŦāļĄāļēāļĒāđ€āļ§āļĨāļēāđāļāļ‡ āļ„āļļāļ“āļ āļēāļž āđāļĨāļ°āļ•āđ‰āļ™āļ—āļļāļ™āļāđˆāļ­āļ™āļ™āļģāđ„āļ›āđƒāļŠāđ‰āļ‡āļēāļ™
  2. āđ€āļāļ“āļ‘āđŒāļĄāļēāļ•āļĢāļāļēāļ™āļ āļēāļĒāđƒāļ•āđ‰āļŠāļ āļēāļ§āļ°āđ‚āļŦāļĨāļ”āđāļĨāļ°āļ‚āđ‰āļ­āļĄāļđāļĨāļˆāļĢāļīāļ‡
  3. āļāļēāļĢāļ•āļĢāļ§āļˆāļŠāļ­āļšāđ€āļ„āļĢāļ·āđˆāļ­āļ‡āļĄāļ·āļ­āđ€āļžāļ·āđˆāļ­āļŦāļēāļ‚āđ‰āļ­āļœāļīāļ”āļžāļĨāļēāļ” āļāļēāļĢāđ€āļšāļĩāđˆāļĒāļ‡āđ€āļšāļ™ āđāļĨāļ°āļœāļĨāļāļĢāļ°āļ—āļšāļ•āđˆāļ­āļœāļđāđ‰āđƒāļŠāđ‰
  4. āđ€āļ•āļĢāļĩāļĒāļĄāđ€āļŠāđ‰āļ™āļ—āļēāļ‡āļāļēāļĢāļĒāđ‰āļ­āļ™āļāļĨāļąāļšāđāļĨāļ°āļāļēāļĢāļ•āļ­āļšāļŠāļ™āļ­āļ‡āļ•āđˆāļ­āđ€āļŦāļ•āļļāļāļēāļĢāļ“āđŒāļāđˆāļ­āļ™āļ›āļĢāļąāļšāļ‚āļ™āļēāļ”

āļŠāļģāļĢāļ§āļˆāļ•āđˆāļ­āđ„āļ›

āļˆāļ”āļŦāļĄāļēāļĒāļ‚āđˆāļēāļ§āļŸāļĢāļĩ

āļĢāļąāļšāļŠāļĢāļļāļ› AI āļĢāļēāļĒāļ§āļąāļ™

āđ€āļĢāļ·āđˆāļ­āļ‡āļĢāļēāļ§ AI āļ—āļĩāđˆāļ•āļĢāļ§āļˆāļŠāļ­āļšāđāļĨāđ‰āļ§ 3 āđ€āļĢāļ·āđˆāļ­āļ‡āļ—āļļāļāļ§āļąāļ™āļ—āļģāļ‡āļēāļ™ āđ€āļŠāđ‰āļē, āđ€āļ‚āļĩāļĒāļ™āđ€āļ›āđ‡āļ™āļ āļēāļĐāļēāļ­āļąāļ‡āļāļĪāļĐāļ˜āļĢāļĢāļĄāļ”āļē āļŸāļĢāļĩāļ•āļĨāļ­āļ”āđ„āļ› āđ„āļĄāđˆāļĄāļĩāđ‚āļ†āļĐāļ“āļē

āļ­āļĩāđ€āļĄāļĨāļŦāļ™āļķāđˆāļ‡āļ‰āļšāļąāļšāļ—āļļāļāļ§āļąāļ™āļ—āļģāļ‡āļēāļ™ āļĒāļāđ€āļĨāļīāļāļāļēāļĢāļŠāļĄāļąāļ„āļĢāđƒāļ™āļ„āļĨāļīāļāđ€āļ”āļĩāļĒāļ§ āđ€āļĢāļēāđ„āļĄāđˆāđ€āļ„āļĒāļ‚āļēāļĒāļŦāļĢāļ·āļ­āđāļŠāļĢāđŒāļ—āļĩāđˆāļ­āļĒāļđāđˆāļ­āļĩāđ€āļĄāļĨāļ‚āļ­āļ‡āļ„āļļāļ“

āļ—āļ”āļŠāļ­āļšāļ•āļąāļ§āđ€āļ­āļ‡

Take the Sparse Autoencoders for Interpretability quiz

āļ‚āđ‰āļ­āđ€āļŠāļ™āļ­āđāļ™āļ°āļ—āļąāļ™āļ—āļĩāļŠāļģāļŦāļĢāļąāļšāļ—āļļāļāļ„āļģāļ•āļ­āļš āđāļĨāļ°āđƒāļšāļĢāļąāļšāļĢāļ­āļ‡āļ—āļĩāđˆāļŠāļēāļĄāļēāļĢāļ–āđāļŠāļĢāđŒāđ„āļ”āđ‰āļžāļĢāđ‰āļ­āļĄ ID āļ—āļĩāđˆāļ•āļĢāļ§āļˆāļŠāļ­āļšāđ„āļ”āđ‰āđ€āļĄāļ·āđˆāļ­āļ„āļļāļ“āļœāđˆāļēāļ™āļŦāļĨāļąāļāļŠāļđāļ•āļĢ

āđ€āļĢāļīāđˆāļĄāđāļšāļšāļ—āļ”āļŠāļ­āļš

āļŠāļ™āļąāļšāļŠāļ™āļļāļ™āļāļēāļĢāļĻāļķāļāļĐāļē AI āļŸāļĢāļĩ AI Understanding āđ€āļ›āđ‡āļ™āļ­āļ‡āļ„āđŒāļāļĢāđ„āļĄāđˆāđāļŠāļ§āļ‡āļŦāļēāļœāļĨāļāļģāđ„āļĢ 501(c)(3) — āđ„āļĄāđˆāļĄāļĩāđ‚āļ†āļĐāļ“āļē āđ„āļĄāđˆāļĄāļĩāļāļģāđāļžāļ‡āđ€āļ‡āļīāļ™, āļ•āļĨāļ­āļ”āđ„āļ› āļšāļĢāļīāļˆāļēāļ„

āļ„āļģāļ–āļēāļĄāļ—āļĩāđˆāļžāļšāļšāđˆāļ­āļĒ

Sparse Autoencoders āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļ•āļĩāļ„āļ§āļēāļĄāļ„āļ·āļ­āļ­āļ°āđ„āļĢ

āđ‚āļ›āļĢāđāļāļĢāļĄāđ€āļ‚āđ‰āļēāļĢāļŦāļąāļŠāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļīāđāļšāļšāļāļĢāļ°āļˆāļēāļĒ (SAE) āđ€āļ›āđ‡āļ™āđ€āļ„āļĢāļ·āđˆāļ­āļ‡āļĄāļ·āļ­āļ—āļĩāđˆāđāļĒāļāļāļēāļĢāđ€āļ›āļīāļ”āđƒāļŠāđ‰āļ‡āļēāļ™āļ āļēāļĒāđƒāļ™āļ—āļĩāđˆāļžāļąāļ™āļāļąāļ™āļ‚āļ­āļ‡āđ‚āļ„āļĢāļ‡āļ‚āđˆāļēāļĒāļ›āļĢāļ°āļŠāļēāļ—āđ€āļ—āļĩāļĒāļĄāđƒāļŦāđ‰āļāļĨāļēāļĒāđ€āļ›āđ‡āļ™āļŠāļļāļ”āļŸāļĩāđ€āļˆāļ­āļĢāđŒāļ—āļĩāđˆāļŠāļ°āļ­āļēāļ”āļāļ§āđˆāļēāđāļĨāļ°āļĄāļ™āļļāļĐāļĒāđŒāļ•āļĩāļ„āļ§āļēāļĄāđ„āļ”āđ‰ āļžāļ§āļāđ€āļ‚āļēāđ€āļ›āđ‡āļ™āļŦāļ™āļķāđˆāļ‡āđƒāļ™āđ€āļ—āļ„āļ™āļīāļ„āļŠāļąāđ‰āļ™āļ™āļģāđƒāļ™āļāļēāļĢāđ€āļ›āļīāļ” 'āļāļĨāđˆāļ­āļ‡āļ”āļģ' āđāļĨāļ°āļ”āļđāļ§āđˆāļēāđāļšāļšāļˆāļģāļĨāļ­āļ‡āļ™āļąāđ‰āļ™āđāļŠāļ”āļ‡āļ–āļķāļ‡āđāļ™āļ§āļ„āļīāļ”āđƒāļ”

āļˆāļļāļ”āļ›āļĢāļ°āļŠāļ‡āļ„āđŒāļŦāļĨāļąāļāļ‚āļ­āļ‡āļāļēāļĢāļāļķāļāļ•āļąāļ§āđ€āļ‚āđ‰āļēāļĢāļŦāļąāļŠāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļīāđāļšāļšāļāļĢāļ°āļˆāļąāļ”āļāļĢāļ°āļˆāļēāļĒāđƒāļ™āļāļēāļĢāđ€āļ›āļīāļ”āđƒāļŠāđ‰āļ‡āļēāļ™āđ‚āļĄāđ€āļ”āļĨāļ„āļ·āļ­āļ­āļ°āđ„āļĢ

SAE āļŠāļĢāđ‰āļēāļ‡āļāļēāļĢāđ€āļ›āļīāļ”āđƒāļŠāđ‰āļ‡āļēāļ™āļ‚āļķāđ‰āļ™āđƒāļŦāļĄāđˆāļœāđˆāļēāļ™āļŠāļąāđ‰āļ™āļ‹āđˆāļ­āļ™āļ—āļĩāđˆāļāļ§āđ‰āļēāļ‡āđāļĨāļ°āļāļĢāļ°āļˆāļąāļ”āļāļĢāļ°āļˆāļēāļĒ āđ€āļžāļ·āđˆāļ­āđƒāļŦāđ‰āđāļ•āđˆāļĨāļ°āļŦāļ™āđˆāļ§āļĒāļĄāļĩāđāļ™āļ§āđ‚āļ™āđ‰āļĄāļ—āļĩāđˆāļˆāļ°āļŠāļ­āļ”āļ„āļĨāđ‰āļ­āļ‡āļāļąāļšāđāļ™āļ§āļ„āļīāļ”āđ€āļ”āļĩāļĒāļ§āļ—āļĩāđˆāļĄāļ™āļļāļĐāļĒāđŒāđ€āļ‚āđ‰āļēāđƒāļˆāđ„āļ”āđ‰

How does an SAE’s sparsity penalty affect hidden-unit activations?

Sparsity encourages feature-selective activity but does not guarantee perfect one-neuron-per-concept representations.

Anthropic āđāļĒāļāļŸāļĩāđ€āļˆāļ­āļĢāđŒāđ‚āļ”āļĒāļ›āļĢāļ°āļĄāļēāļ“āļāļĩāđˆāļĢāļēāļĒāļāļēāļĢāđ€āļĄāļ·āđˆāļ­āļ›āļĢāļąāļšāļ‚āļ™āļēāļ” SAE āđ€āļ›āđ‡āļ™ Claude 3 Sonnet āđƒāļ™āļ›āļĩ 2024

āļ‡āļēāļ™ "Scaling Monosemanticity" āļ‚āļ­āļ‡ Anthropic āļ›āļĩ 2024 āđ„āļ”āđ‰āļĢāļąāļšāļāļēāļĢāļ”āļķāļ‡āļ­āļ­āļāļĄāļēāļ•āļēāļĄāļĨāļģāļ”āļąāļšāļŸāļĩāđ€āļˆāļ­āļĢāđŒ 34 āļĨāđ‰āļēāļ™āļĢāļēāļĒāļāļēāļĢāļˆāļēāļāđ‚āļĄāđ€āļ”āļĨāļ—āļĩāđˆāđƒāļŠāđ‰āļ‡āļēāļ™āļˆāļĢāļīāļ‡

āļāļēāļĢāļŠāļēāļ˜āļīāļ• 'Golden Gate Claude' āđāļŠāļ”āļ‡āđƒāļŦāđ‰āđ€āļŦāđ‡āļ™āļ­āļ°āđ„āļĢāļšāđ‰āļēāļ‡

āļ”āđ‰āļ§āļĒāļāļēāļĢāļ‚āļĒāļēāļĒāļ„āļļāļ“āļĨāļąāļāļĐāļ“āļ°āļ‚āļ­āļ‡āļŠāļ°āļžāļēāļ™āđ‚āļāļĨāđ€āļ”āļ™āđ€āļāļ• āļ™āļąāļāļ§āļīāļˆāļąāļĒāđ„āļ”āđ‰āļŠāļĢāđ‰āļēāļ‡āđāļšāļšāļˆāļģāļĨāļ­āļ‡āļāļēāļĢāļ•āļĢāļķāļ‡āļšāļ™āļŠāļ°āļžāļēāļ™ āđ‚āļ”āļĒāđāļŠāļ”āļ‡āđƒāļŦāđ‰āđ€āļŦāđ‡āļ™āļ§āđˆāļēāļ„āļļāļ“āļĨāļąāļāļĐāļ“āļ°āļ•āđˆāļēāļ‡āđ† āđ€āļ›āđ‡āļ™āđ€āļžāļĩāļĒāļ‡āļāļĨāđ„āļāļ—āļĩāđˆāđ€āļ›āđ‡āļ™āļŠāļēāđ€āļŦāļ•āļļ āđ„āļĄāđˆāđƒāļŠāđˆāđāļ„āđˆāļ›āđ‰āļēāļĒāļāļģāļāļąāļšāđ€āļ—āđˆāļēāļ™āļąāđ‰āļ™

āđ€āļŦāļ•āļļāđƒāļ”āđ€āļĨāđ€āļĒāļ­āļĢāđŒāļ—āļĩāđˆāļ‹āđˆāļ­āļ™āļ­āļĒāļđāđˆāđƒāļ™ SAE āļˆāļķāļ‡āļāļ§āđ‰āļēāļ‡āļāļ§āđˆāļēāļāļēāļĢāđ€āļ›āļīāļ”āđƒāļŠāđ‰āļ‡āļēāļ™āļ—āļĩāđˆāļŠāļĢāđ‰āļēāļ‡āļ‚āļķāđ‰āļ™āđƒāļŦāļĄāđˆāļĄāļēāļ

āđ‚āļĄāđ€āļ”āļĨāļšāļĢāļĢāļˆāļļāđāļ™āļ§āļ„āļīāļ”āļĄāļēāļāļĄāļēāļĒāđ„āļ§āđ‰āđƒāļ™āļĄāļīāļ•āļīāļ—āļĩāđˆāļˆāļģāļāļąāļ” (āļāļēāļĢāļ‹āđ‰āļ­āļ™āļ—āļąāļš) SAE āļ—āļĩāđˆāļāļ§āđ‰āļēāļ‡āđāļĨāļ°āļŠāļĄāļšāļđāļĢāļ“āđŒāļĄāļēāļāđ€āļāļīāļ™āđ„āļ›āļˆāļ°āļ—āļģāđƒāļŦāđ‰āļŦāđ‰āļ­āļ‡āđāļ™āļ§āļ„āļīāļ”āđāļ•āđˆāļĨāļ°āļŦāđ‰āļ­āļ‡āļŠāļēāļĄāļēāļĢāļ–āļ„āļĢāļ­āļšāļ„āļĢāļ­āļ‡āļĒāļđāļ™āļīāļ•āļ‚āļ­āļ‡āļ•āļąāļ§āđ€āļ­āļ‡āđ„āļ”āđ‰

āđ€āļĢāļĩāļĒāļ™āļĢāļđāđ‰āļ•āđˆāļ­āđ„āļ›

āļ„āļģāđāļ™āļ°āļ™āļģāļ—āļĩāđˆāđ€āļāļĩāđˆāļĒāļ§āļ‚āđ‰āļ­āļ‡

āļ„āļģāđāļ™āļ°āļ™āļģāđ€āļžāļīāđˆāļĄāđ€āļ•āļīāļĄāļ—āļĩāđˆāđ€āļĨāļ·āļ­āļāļŠāļģāļŦāļĢāļąāļšāļŦāļąāļ§āļ‚āđ‰āļ­āļ™āļĩāđ‰

āļ•āđˆāļ­āđ„āļ›āļ„āļģāđāļ™āļ°āļ™āļģāļ•āđˆāļ­āđ„āļ›

āļ•āļąāļ§āđ€āļ‚āđ‰āļēāļĢāļŦāļąāļŠāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļīāđāļšāļšāļāļĢāļ°āļˆāļąāļ”āļāļĢāļ°āļˆāļēāļĒāļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāđāļĒāļāļ„āļļāļ“āļŠāļĄāļšāļąāļ•āļī

āļ āļēāļĐāļēāđ€āļ­āđ„āļ­

āļĢāļąāļšāđƒāļšāļĢāļąāļšāļĢāļ­āļ‡ AI āļŸāļĢāļĩāļŦāļĨāļąāļāļŠāļđāļ•āļĢāđāļĨāļ°āļāļēāļĢāļŠāļ­āļšāļŠāļąāđ‰āļ™ āđ† āļŸāļĢāļĩ āđ„āļĄāđˆāļĄāļĩāļ„āđˆāļēāđƒāļŠāđ‰āļˆāđˆāļēāļĒ āđ„āļĄāđˆāļĄāļĩāļšāļąāļ•āļĢāđ€āļ„āļĢāļ”āļīāļ• āļ›āļĢāļ°āļĄāļēāļ“ 2.5 āļŠāļąāđˆāļ§āđ‚āļĄāļ‡āđ€āļĢāļīāđˆāļĄāļ•āđ‰āļ™āļŸāļĢāļĩ →