通用人工智能
通用人工智能 (AGI) 是指在大多数认知任务中具有广泛的人类水平（或更高）能力的人工智能系统，而不仅仅是翻译或图像标记等狭隘技能。
深入探讨
AGI 没有一个统一的定义。有些人的意思是“在大多数知识工作上与人类专业人士的平均水平相匹配”，另一些人的意思是“可以自动化大多数具有经济价值的任务”，而另一些人则保留这个术语来形容可以在科学和战略方面自我改进或超越人类的系统。这个定义很重要，因为政策、投资和安全规划都取决于您认为此类系统何时到来以及它们能做什么。从严格的定义来看，当前的大型语言模型并不是 AGI，但它们已经表现出了广泛的能力和快速的改进——这就是为什么时间表受到争议，也是为什么存在风险研究人员将 AGI（以及超越它的系统）视为一个实时规划问题而不是科幻小说。如果 AGI 级系统可以在有限的监督下运行，那么协调和控制问题就不再是学术问题了。
技术洞察
更广泛能力的进步主要来自扩展数据、计算和算法；来自使模型更可用的训练后；以及让模型在世界上行动的工具/代理。在可靠的长期机构、扎根的世界模型和一贯的真实性方面仍然存在差距。与安全相关的问题包括：哪些功能突然出现，评估是否检测到它们，以及当风险上升时实验室是否可以暂停或限制部署。
战略影响
风险与安全
灾难性和日常的人工智能危害都取决于谁了解风险以及谁能够采取行动。
更清晰的判决
公众和专业素养决定强有力的安全政策在政治上是否可行。
打破炒作
清晰的解释可以减少炒作、实验室公关和模糊道德剧场的影响。
通用人工智能的未来
预计关于时间表的争论将持续下去，政府对前沿训练的兴趣会更大，以及定义可衡量的能力阈值的压力。对于公众来说，有用的收获不是精确的年份——而是旅行的方向是朝着更通用、更自主的系统发展，而安全工作需要保持领先地位。
现实世界的实施
跟踪前沿模型如何从聊天扩展到编码、研究协助和多步骤工具使用。
比较实验室对 AGI 的公开定义以及他们声称对安全政策重要的阈值。
如果系统可以替代大量远程认知劳动，则需要规划经济和安全影响。
风险与防护栏
将存在风险视为科幻小说，同时能力复合。
混淆了表面产品安全与高度自治下的对准。
只给非英语和非专业观众留下低质量的资源。
实施路线图
单独的产品危害、误用和失控/失调风险。
询问哪些证据会改变您对时间表和严重性的看法。
比起营销主张，更喜欢主要来源和具体评估。
确定一条行动路径：职业、政策、资金或技能——而不仅仅是意识。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Artificial General Intelligence quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
什么是通用人工智能？
通用人工智能 (AGI) 是指在大多数认知任务中具有广泛的人类水平（或更高）能力的人工智能系统，而不仅仅是翻译或图像标记等狭隘技能。
在将通用人工智能与替代方案进行比较时，最有用的方法是什么？
你真正的任务是公平的测试——在选择通用人工智能是否适合时，受欢迎程度和新颖性是微弱的信号。
当通用人工智能在生产中犯错误时，最好的反应是什么？
将人工智能的每次失败视为加强保障措施的机会，这就是提高可靠性的方法。
随着通用人工智能在整个组织中的使用规模不断扩大，什么往往最重要？
从规模上看，通用人工智能需要持续的监控和治理，因为条件和风险会不断变化。
当你第一次开始学习通用人工智能时，最有用的心态是什么？
真正理解通用人工智能意味着了解其优势、故障模式以及如何验证结果——而不仅仅是一行定义。
描述当今通用人工智能的最准确方法是什么？
平衡的观点认为通用人工智能对于合适的任务很有价值，但仍然需要谨慎。