概述
这使得模型能够结合不同路径的见解并加以精炼,超越思维之树严格的树状结构。
深入探讨
由 Besta 等人提出。 2023 年,思想图(GoT)将推理过程表示为任意图:节点是思想(部分解决方案),边是它们之间的依赖关系。与树不同,树中的每个思想只有一个父级,而图允许树不能进行的操作:聚合,其中多个思想被合并成一个组合解决方案,以及细化,其中思想循环返回以改进自身。这对于分解为必须重新组合答案的子问题的问题非常有用。对于排序和设置任务,GoT 可以拆分列表,独立解决各个部分,然后聚合排序后的部分。作者报告说,GoT 比思想树提高了排序质量,同时降低了成本,因为合并可以更好地利用中间结果。控制器、“操作图”计划和评分/排名模块协调运行哪些转换。
现实世界的实施
对一长列表进行排序,将其分成块,分别对每个块进行排序,然后将排序后的块聚合成一个有序结果。
文档摘要,生成各部分的部分摘要,然后合并成一个连贯的整体。
设置关键字计数或交集等操作,其中子结果通过聚合节点组合。
通过在细化步骤中循环思考来迭代地细化生成的解决方案,直到其质量得分停止提高。
思维图推理的未来
思维图指出推理系统可以灵活地组合和重组中间结果,而不仅仅是分支。可能的方向包括自动发现问题的正确图形结构,而不是手动设计操作计划,学习聚合何时获得回报,以及将图形推理与检索、工具和外部存储器集成。随着推理时间推理的成熟,期望框架能够在单个控制器下混合树搜索、图形合并和反射,使结构适应任务。
付诸实践
为什么这很重要
- 成本与预算. 多年来,架构决策决定着性能和运营成本。
- 更清晰的判决. 技术教育帮助团队选择正确的堆栈,而不仅仅是最新的堆栈。
- 质量控制. 更好的工程选择可以减少生产中的可靠性事故。
留意
- 优化一项基准测试可以隐藏更广泛的系统弱点。
- 基础设施和维护成本常常被低估。
- 随着系统变得更加复杂,安全性和可观察性差距可能会扩大。
后续步骤
- 在实施之前定义延迟、质量和成本目标。
- 在实际负载和数据条件下进行基准测试。
- 仪器监控错误、漂移和用户影响。
- 在扩展之前准备回滚和事件响应路径。
不断探索
常见问题
什么是思维图推理?
思维图将推理建模为一个网络,思想可以在其中自由合并、循环和连接,而不仅仅是分支。这使得模型可以结合来自不同路径的见解并对其进行改进,超越思想树的严格树形结构。
思维图和思维树之间的结构差异是什么?
在树中,每个思想都有一个父级,但图允许聚合(合并)和细化(自循环),从而实现更丰富的连接。
在思想图谱中,“聚合”操作的作用是什么?
聚合将多个思想节点合并为一个合并思想,并带有来自每个源思想的传入边。
GoT 图中的“细化”对应什么?
细化被建模为一种自我循环的思想,以产生改进的版本。
为什么思维图非常适合像对长列表进行排序这样的任务?
GoT 将列表分解为块,逐个求解,并通过聚合合并排序后的部分,这是严格的树无法表达的。
哪些组件编排思维图运行?
GoT 使用控制器执行预定义的操作图,并通过评分和排名模块选择最佳想法。