通用人工智慧
通用人工智慧 (AGI) 是指在大多數認知任務中具有廣泛的人類層級（或更高）能力的人工智慧系統，而不僅僅是翻譯或圖像標記等狹隘技能。
深入探討
AGI 沒有一個統一的定義。有些人的意思是“在大多數知識工作上與人類專業人士的平均水平相匹配”，另一些人的意思是“可以自動化大多數具有經濟價值的任務”，而另一些人則保留這個術語來形容可以在科學和戰略方面自我改進或超越人類的系統。這個定義很重要，因為政策、投資和安全規劃都取決於您認為此類系統何時到來以及它們能做什麼。從嚴格的定義來看，當前的大型語言模型並不是 AGI，但它們已經表現出了廣泛的能力和快速的改進——這就是為什麼時間表受到爭議，也是為什麼存在風險研究人員將 AGI（以及超越它的系統）視為一個實時規劃問題而不是科幻小說。如果 AGI 級系統可以在有限的監督下運行，那麼協調和控制問題就不再是學術問題了。
技術洞察
更廣泛能力的進步主要來自擴展資料、計算和演算法；來自使模型更可用的訓練後；以及讓模型在世界上行動的工具/代理。在可靠的長期機構、紮根的世界模型和一貫的真實性方面仍然存在差距。與安全相關的問題包括：哪些功能突然出現，評估是否檢測到它們，以及當風險上升時實驗室是否可以暫停或限制部署。
戰略影響
風險與安全
災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
更明確的決策
民眾和專業素養決定強而有力的安全政策在政治上是否可行。
突破炒作
清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
通用人工智慧的未來
預計關於時間表的爭論將持續下去，政府對前沿訓練的興趣將更大，以及定義可衡量的能力閾值的壓力。對大眾來說，有用的收穫不是精確的年份——而是旅行的方向是朝著更通用、更自主的系統發展，而安全工作需要保持領先地位。
現實世界的實施
追蹤前沿模型如何從聊天擴展到編碼、研究協助和多步驟工具使用。
比較實驗室對 AGI 的公開定義以及他們聲稱對安全政策重要的閾值。
如果系統可以取代大量遠端認知勞動，則需要規劃經濟和安全影響。
風險與防護欄
將存在風險視為科幻小說，同時能力複合。
混淆了表面產品安全與高度自治下的對準。
只給非英語和非專業觀眾留下低品質的資源。
實施路線圖
單獨的產品危害、誤用和失控/失調風險。
詢問哪些證據會改變您對時間表和嚴重性的看法。
比起行銷主張，更喜歡主要來源和具體評估。
確定一條行動路徑：職業、政策、資金或技能——而不僅僅是意識。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Artificial General Intelligence quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
What is Artificial General Intelligence?
通用人工智慧 (AGI) 是指在大多數認知任務中具有廣泛的人類層級（或更高）能力的人工智慧系統，而不僅僅是翻譯或圖像標記等狹隘技能。
在將通用人工智慧與替代方案進行比較時，最有用的方法是什麼？
你真正的任務是公平的測試——在選擇通用人工智慧是否適合時，受歡迎程度和新穎性是微弱的訊號。
當通用人工智慧在生產中犯錯時，最好的反應是什麼？
將人工智慧的每次失敗視為加強保障措施的機會，這就是提高可靠性的方法。
隨著通用人工智慧在整個組織中的使用規模不斷擴大，什麼往往最重要？
從規模來看，通用人工智慧需要持續的監控和治理，因為條件和風險會不斷變化。
當你第一次開始學習通用人工智慧時，最有用的心態是什麼？
真正理解通用人工智慧意味著了解其優勢、故障模式以及如何驗證結果——而不僅僅是一行定義。
描述當今通用人工智慧最準確的方法是什麼？
平衡的觀點認為通用人工智慧對於適當的任務很有價值，但仍需要謹慎。