āļāđāļāđāļāļāļģāđāļāļ°āļāļģāļāđāļāđāļ
āļāļēāļĢāđāļāđāļāđāļāļ·āļāļāđāļāļāđāļŠāļāļĢāļēāļāļĩāļŠāļāļĩāđāļāļģāđāļŦāđ AI āļŠāļāļāļāļļāļ
āļ āļēāļĐāļēāđāļāđāļ
āļāļđāđāļĄāļ·āļ AI āļ āļēāļĐāļē
āļāļēāļĢāļāļēāļĄāļāđāļāļĒāļāļĩāđāļŠāļļāļāđāļāļĄāļēāļāļāļĩāđāļŠāļļāļāļāļ°āđāļāđāļāļāļąāļāļŦāļēāļāļĩāđāļĒāļēāļāļāļāļāđāļāđāļāļĨāļģāļāļąāļāļāļāļāļāļąāļāļŦāļēāļĒāđāļāļĒāļāļĩāđāļāđāļēāļĒāļāļ§āđāļē āđāļāļĒāđāļāđāđāļāļāļēāļĄāļĨāļģāļāļąāļāđāļāļ·āđāļāđāļŦāđāđāļāđāļĨāļ°āļāļģāļāļāļāļāđāļāļāļāļģāļāļāļāļāļąāļāđāļ
āļāļąāļāļāļģāđāļāļ°āļāļģāļāļĩāđāļāļĢāļĢāļĒāļēāļĒāđāļāļĒ AI · ~2 min
It matters because it lets models tackle questions far harder than the examples they were shown.
Least-to-Most prompting, introduced by Zhou and colleagues at Google in 2022, has two stages. First, the model is prompted to decompose a complex question into an ordered list of easier subquestions. Second, it solves those subquestions one at a time, appending each solved answer to the context so later steps can build on earlier ones. This differs from chain-of-thought, which reasons in a single pass without explicit decomposition. The authors evaluated symbolic manipulation, math reasoning, and SCAN, a compositional-generalization benchmark built from natural-language commands. For the specific SCAN setup using GPT-3 code-davinci-002 and 14 exemplars, Least-to-Most reached at least 99% accuracy across the tested splits, including the length split, compared with 16% for chain-of-thought prompting. This is a result for that model, prompt setup, and benchmark, not a general accuracy guarantee.
āļāļēāļĢāđāļāđāļāļąāļāļŦāļēāļāļģāļĻāļąāļāļāđāļāļĩāđāļĄāļĩāļŦāļĨāļēāļĒāļāļąāđāļāļāļāļāđāļāļĒāđāļŠāļāļāļĢāļēāļĒāļāļēāļĢāļāļĢāļīāļĄāļēāļāļāļĩāđāļāļ°āļāļģāļāļ§āļāļāđāļāļ āļāļēāļāļāļąāđāļāļāļķāļāļāļģāļāļ§āļāļāļēāļĄāļĨāļģāļāļąāļ
āļāļēāļāļ āļēāļĐāļēāđāļāļīāļāđāļĢāļĩāļĒāļāđāļĢāļĩāļĒāļ āđāļāđāļ āļāļēāļĢāđāļāļĨāļāļģāļŠāļąāđāļāļĒāļēāļ§āđ āđāļāđāļāļĨāļģāļāļąāļāļāļēāļĢāļāļĢāļ°āļāļģāļāļēāļāļāļąāļ§āļāļĒāđāļēāļāļŠāļąāđāļāđ
āļāļāļāļāļģāļāļēāļĄāļ§āļīāļāļąāļĒāļāļĩāđāļāļąāļāļāđāļāļāđāļāļĒāđāļāđāļāđāļāđāļāļāļģāļāļēāļĄāļĒāđāļāļĒāļāļķāđāļāļāļģāļāļāļāļāļ°āļĢāļ§āļĄāļāļąāļāđāļāđāļāļāļģāļāļāļāļŠāļļāļāļāđāļēāļĒ
āļāļēāļĢāđāļāļĩāļĒāļāđāļāļĢāđāļāļĢāļĄāđāļāļĒāđāļĒāļāļĒāđāļāļĒāđāļāđāļāļāļąāļāļāđāļāļąāļāļāļąāļ§āļāđāļ§āļĒāļāļ°āļāļđāļāđāļāđāđāļāļāļĩāļĨāļ°āļĢāļēāļĒāļāļēāļĢ āđāļāļĒāđāļāđāļĨāļ°āļāļąāļāļāđāļāļąāļāļāļ°āđāļāđāļāđāļģāđāļāļāļąāđāļāļāļāļāļāđāļāđ āđāļ
āđāļāļ§āļāļīāļāļāļĩāđāļāđāļāļĒāļāļĩāđāļŠāļļāļāļāļķāļāļĄāļēāļāļāļĩāđāļŠāļļāļāđāļāļāļāļ°āļāļĩāđāļŠāļāļąāļāļŠāļāļļāļāļŠāļāļēāļāļąāļāļĒāļāļĢāļĢāļĄāļāļāļāļāļąāļ§āđāļāļāđāļĨāļ°āļāļđāđāļ§āļēāļāđāļāļāļāļģāļāļ§āļāļĄāļēāļ āļāļķāđāļāđāļāđāļāđāļāđāļēāļŦāļĄāļēāļĒāļāļāļāđāļāđāļāļāļēāļāļĒāđāļāļĒāļāļĩāđāđāļāđāļĢāļąāļāļāļģāļŠāļąāđāļāļāđāļāļāļāļģāđāļāļīāļāļāļēāļĢ āļāļēāļāļ§āđāļēāļāļ°āđāļāđāļāđāļāļāļāļŠāļĄāļāļĩāđāļĄāļĩāļāļēāļĢāđāļāđāđāļāļĢāļ·āđāļāļāļĄāļ·āļ āđāļāļĒāđāļāđāļĨāļ°āļāļģāļāļēāļĄāļĒāđāļāļĒāļŠāļēāļĄāļēāļĢāļāđāļĢāļĩāļĒāļāđāļāđāđāļāļĢāļ·āđāļāļāļāļīāļāđāļĨāļ āļāļēāļĢāļāđāļāļŦāļē āļŦāļĢāļ·āļāļāļēāļĢāđāļĢāļĩāļĒāļāđāļāđāđāļāđāļ āđāļĨāļ°āļĄāļĩāļāļ§āļēāļĄāļŠāļāļāļāļĨāđāļāļāđāļāļāļąāļ§āđāļāļāđāļāļ·āđāļāđāļŦāđāđāļāđāļāļģāļāļāļāļĒāđāļāļĒāļāļĩāđāļĄāļĩāļāļĢāļ°āļŠāļīāļāļāļīāļ āļēāļāļĄāļēāļāļāļķāđāļ āļāļāļāļāļēāļāļāļĩāđ āļāļēāļĢāļ§āļīāļāļąāļĒāļĒāļąāļāļŠāļģāļĢāļ§āļāļāļēāļĢāļŠāļĨāļēāļĒāļāļąāļ§āđāļāļĒāļāļąāļāđāļāļĄāļąāļāļīāļāļķāđāļāļāļ°āļāļĢāļąāļāļāļ§āļēāļĄāļĨāļķāļāđāļŦāđāđāļāđāļēāļāļąāļāļāļ§āļēāļĄāļĒāļēāļāļāļāļāļāļąāļāļŦāļē āđāļĨāļ°āļāļŠāļĄāļāļŠāļēāļāđāļāđāļēāļāļąāļāļāļēāļĢāļāļĢāļ§āļāļŠāļāļ āļāļąāļāļāļąāđāļāļāļģāļāļāļāļĒāđāļāļĒāļāļĩāđāļāļīāļāļāļąāđāļāđāļāđāļāđāļāļāļ°āđāļĄāđāļŠāļĢāđāļēāļāļāļ§āļēāļĄāđāļŠāļĩāļĒāļŦāļēāļĒāđāļŦāđāļāļąāļāļŦāđāļ§āļāđāļāđāļāļēāļ§āļāđāļŠāļāļĢāļĩāļĄāļāļąāđāļāļŦāļĄāļ
āļāļāļŦāļĄāļēāļĒāļāđāļēāļ§āļāļĢāļĩ
āđāļĢāļ·āđāļāļāļĢāļēāļ§ AI āļāļĩāđāļāļĢāļ§āļāļŠāļāļāđāļĨāđāļ§ 3 āđāļĢāļ·āđāļāļāļāļļāļāļ§āļąāļāļāļģāļāļēāļ āđāļāđāļē, āđāļāļĩāļĒāļāđāļāđāļāļ āļēāļĐāļēāļāļąāļāļāļĪāļĐāļāļĢāļĢāļĄāļāļē āļāļĢāļĩāļāļĨāļāļāđāļ āđāļĄāđāļĄāļĩāđāļāļĐāļāļē
āļāļĩāđāļĄāļĨāļŦāļāļķāđāļāļāļāļąāļāļāļļāļāļ§āļąāļāļāļģāļāļēāļ āļĒāļāđāļĨāļīāļāļāļēāļĢāļŠāļĄāļąāļāļĢāđāļāļāļĨāļīāļāđāļāļĩāļĒāļ§ āđāļĢāļēāđāļĄāđāđāļāļĒāļāļēāļĒāļŦāļĢāļ·āļāđāļāļĢāđāļāļĩāđāļāļĒāļđāđāļāļĩāđāļĄāļĨāļāļāļāļāļļāļ
āļāļāļŠāļāļāļāļąāļ§āđāļāļ
āļāđāļāđāļŠāļāļāđāļāļ°āļāļąāļāļāļĩāļŠāļģāļŦāļĢāļąāļāļāļļāļāļāļģāļāļāļ āđāļĨāļ°āđāļāļĢāļąāļāļĢāļāļāļāļĩāđāļŠāļēāļĄāļēāļĢāļāđāļāļĢāđāđāļāđāļāļĢāđāļāļĄ ID āļāļĩāđāļāļĢāļ§āļāļŠāļāļāđāļāđāđāļĄāļ·āđāļāļāļļāļāļāđāļēāļāļŦāļĨāļąāļāļŠāļđāļāļĢ
āļŠāļāļąāļāļŠāļāļļāļāļāļēāļĢāļĻāļķāļāļĐāļē AI āļāļĢāļĩ AI Understanding āđāļāđāļāļāļāļāđāļāļĢāđāļĄāđāđāļŠāļ§āļāļŦāļēāļāļĨāļāļģāđāļĢ 501(c)(3) â āđāļĄāđāļĄāļĩāđāļāļĐāļāļē āđāļĄāđāļĄāļĩāļāļģāđāļāļāđāļāļīāļ, āļāļĨāļāļāđāļ āļāļĢāļīāļāļēāļ
āļāļēāļĢāļāļēāļĄāļāđāļāļĒāļāļĩāđāļŠāļļāļāđāļāļĄāļēāļāļāļĩāđāļŠāļļāļāļāļ°āđāļāđāļāļāļąāļāļŦāļēāļāļĩāđāļĒāļēāļāļāļāļāđāļāđāļāļĨāļģāļāļąāļāļāļāļāļāļąāļāļŦāļēāļĒāđāļāļĒāļāļĩāđāļāđāļēāļĒāļāļ§āđāļē āđāļāļĒāđāļāđāđāļāļāļēāļĄāļĨāļģāļāļąāļāđāļāļ·āđāļāđāļŦāđāđāļāđāļĨāļ°āļāļģāļāļāļāļāđāļāļāļāļģāļāļāļāļāļąāļāđāļ āđāļāđāļāđāļĢāļ·āđāļāļāļŠāļģāļāļąāļāđāļāļĢāļēāļ°āļāđāļ§āļĒāđāļŦāđāđāļĄāđāļāļĨāļāļāļāļāļģāļāļēāļĄāđāļāđāļĒāļēāļāļāļ§āđāļēāļāļąāļ§āļāļĒāđāļēāļāļāļĩāđāđāļŠāļāļāđāļ§āđāļĄāļēāļ
āļāļąāđāļāđāļĢāļāļāļ°āđāļāđāļāļāļąāļāļŦāļēāļāļāļāđāļāđāļāļāļļāļāļāļģāļāļēāļĄāļĒāđāļāļĒāļāļĩāđāļāđāļēāļĒāļāļ§āđāļēāļāļēāļĄāļĨāļģāļāļąāļ āļāļēāļāļāļąāđāļāļāļķāļāđāļāđāđāļāđāļāđāļĨāļ°āļāđāļāļāļēāļĄāļĨāļģāļāļąāļ
āđāļŦāļāļļāļāļĨāļĨāļđāļāđāļāđāđāļŦāđāļāļāļ§āļēāļĄāļāļīāļāđāļāļāļĢāļąāđāļāđāļāļĩāļĒāļ§ āđāļĒāļāļĒāđāļāļĒāļāļĒāđāļēāļāļāļąāļāđāļāļāļāļēāļāļāđāļāļĒāđāļāļĄāļēāļāđāļĨāļ°āđāļāļ·āđāļāļĄāđāļĒāļāļāļģāļāļāļāļĒāđāļāļĒāđāļāđāļēāļāđāļ§āļĒāļāļąāļ
SCAN tests compositional generalization using commands that map language to action sequences; the Least-to-Most paper evaluates whether prompts transfer to harder command compositions.
āļāļąāļāļŦāļēāļĒāđāļāļĒāļāļ°āļāļđāļāļāļąāļāđāļĢāļĩāļĒāļāđāļ§āđ āļāļąāļāļāļąāđāļāđāļāđāļĨāļ°āļāļąāļāļŦāļēāļāļ°āļāļķāđāļāļāļĒāļđāđāļāļąāļāļāļąāļāļŦāļēāļāļĩāđāđāļāđāđāļāđāļāļāđāļāļāļŦāļāđāļēāļāļĩāđāđāļāđāļēāļāļąāđāļ āļāļĨāđāļāļĒāđāļŦāđāļāļģāļāļāļāļāļđāļāļŠāļĢāđāļēāļāļāļķāđāļāļāļĒāđāļēāļāļāļđāļāļāđāļāļ
āļāļģāļāļāļāļĒāđāļāļĒāļāļĩāđāđāļāđāđāļāđāļĨāđāļ§āđāļāđāļĨāļ°āļāđāļāļāļ°āļāļđāļāđāļāļīāđāļĄāđāļāļĒāļąāļāļāļĢāļāļĄāļāđāļāļĩāđāļāļģāļāļēāļāļāļĒāļđāđ āđāļāļ·āđāļāđāļŦāđāļāļąāđāļāļāļāļāļāđāļāđ āļĄāļēāđāļāđāļāļĨāļĨāļąāļāļāđāļāļĩāđāļāđāļāļāļāļēāļĢ
āđāļĢāļĩāļĒāļāļĢāļđāđāļāđāļāđāļ
āļāļģāđāļāļ°āļāļģāđāļāļīāđāļĄāđāļāļīāļĄāļāļĩāđāđāļĨāļ·āļāļāļŠāļģāļŦāļĢāļąāļāļŦāļąāļ§āļāđāļāļāļĩāđ
āļāđāļāđāļāļāļģāđāļāļ°āļāļģāļāđāļāđāļ
āļāļēāļĢāđāļāđāļāđāļāļ·āļāļāđāļāļāđāļŠāļāļĢāļēāļāļĩāļŠāļāļĩāđāļāļģāđāļŦāđ AI āļŠāļāļāļāļļāļ
āļ āļēāļĐāļēāđāļāđāļ